Este problema les ha pasado a algunos usuarios, a la hora de convertir un video, es por un problema de codecs.
Lo que deberías hacer es desinstalar todos los codecs o packs de codecs que tengas e instalar unicamente los necesarios, que son los siguientes de video: DivX, Xvid, Mpeg-2 svcd. Y de audio el Radium Codec MP3, ogg vorbis y ac3 filter.

De todas formas, te recomiendo que leas este post, acerca de los packs de codecs y decide tú mismo:
http://foro.elhacker.net/index.php/topic,75099.0.html