por lo general este filtro no viene automaticamente con el instalador, para q aparezca bajatelo de esta web-> http://www.mundodivx.com/subtitulos/mpeg.php  en el link q dice "Descargar filtro Subtitler". Descomprime el archivo "Subtitler.vdf" lo copias y lo pegas en la carpeta plugins del virtualdub (VD). esta carpeta deberia estar en la misma dnd esta el VD, si x alguna razon no esta, simplemente crea una carpeta con el nombre "plugins" en la misma carpeta dnd esta el VD.

Otra manera es q luego de descomprimir el archivo abras el VD, vas al menu Video>filters>add>load, en la ventana q aparece busca el archivo descomprimido. Esto deberas hacerlo cada vez q habras el VD a diferencia q si lo hicieras con la carpeta plugins q es automatico.

para extraer el audio al video, carga el video desde el virtualdub, ve al menu Streams>Stream list, haz click derecho sobre el cuadro gris (q es el sonido del video) y selecciona la opcion "Full processing mode", luego solo haz click en el boton de la derecha "save WAV", selecciona un nombre y directorio dnd guardarlo y comenzara la extraccion. Para utilizar este audio con el tmpgenc, selecciona dnd dice "audio source" el archivo q se obtuvo de la extraccion.

a mi me sucedio tambien y lo solucione, el problema es que te hace falta un plugin del tmpgenc o kisas algun codec de video.

para instalar el plugin ve a esta web http://www.mundodivx.com/subtitulos/mpeg.php y fijate en el link q dice "Descargar Plugins TMPGEnc".

para los codec te recomiendo q no instales packs de codecs de video, segun he leido apestan, lo mejor que puedes hacer es instalar uno por uno, los puedes conseguir aki http://www.mundodivx.com/varios/codecs.php(lee los textos de la web y aprenderas algo).