Bueno, no es exáctamente un problema de programación, es en realidad de matemática. No era nada fácil explicar el problema, por eso he hecho un esquema de mi duda.
Conozco el vector A y el vector B, así como el radio de la circunferencia, el punto c está es la intersección entre la línea A-B-infinito y la circunferencia. Lo más adecuado sería hayar la rotación (en cuaternión) necesaria en el punto B para que éste quede mirando hasta el punto C, pero me bastaría con hayar el punto C (me parece que es más simple). La verdad es que no se por donde empezar, tampoco pido que me resuelvan el problema, me bastaría con algo de información sobre las fórmulas que debo usar para hayarlo.