Hola

Teóricamente seria posible... nunca necesite ni se me ocurrió algo así pero mas o menos puedo imaginarme los pasos:

1- El video grabado con Fraps deberías guardarlo siempre en la misma carpeta, una destinada a grabaciones con Fraps.

2- Creo que es imposible que se cargue al Sony Vegas y se edite todo solo automáticamente, lo que deberías hacer para agregar una introducción y un final seria usar un "editor de video / frameserver" como Avisynth, este se maneja con script .avs hechos en bloc de notas y desde el se puede generar una introducción  y un final o, añadir unos que ya hayas preparado con anterioridad en Vegas.

3- Cargas la introducción, el video de fraps y el final al script .avs y emparejas las características o sea dejas con la misma resolución, fps, espacio de color las 3 partes que cargaste. Luego te descargas el x264 CLI y lo pones en la misma carpeta o en otra que quieras.

4- Vas al administrador de tareas de Windows y programas una tarea para que se ejecute a una determinada hora cuando vos no estés en tu casa, la tarea consistirá en ejecutar un batch con el comando de x264 que convertirá el script .avs a un video .mkv o .mp4, el audio se deberá tratar con un programa aparte con un conversor por linea de comandos podría ser SoX u otro y para finalizar deberás usar un muxer por linea de comandos para que una el video y el audio, si es para contenedor .mp4 sera el MP4Box y si es para .mkv sera el MKVMerge.

5- Buscar un programa que te lo suba a youtube automáticamente, la verdad ni idea en esto pero seria con otra tarea programada.

Bueno, este seria el esqueleto de lo que deberías hacer , te puedo ayudar con el script de Avisynth y los comandos para convertir por CMD pero no se hacer bien un batch 

Saludos