Hola!
Según entiendo: La batería A alimenta al motor y éste carga la batería B. Y lo que quieres hacer es que cuando la batería A llegue a un voltaje X, se invierta "el flujo de corriente" quedando la batería B como alimentación del motor y este último cargando la batería A.
Si es así, entonces creo que no funcionará la cosa por mucho tiempo, ya que es altamente improbable que la cantidad de energía cargada en la batería supere a la utilizada para accionar el motor.
Dicho lo anterior, lo que necesitarías sería un comparador de voltaje. Revisa la primer respuesta dada aquí. Ahí tienes lo básico y necesario para hacer lo que quieres.
Saludos!