La calidad no se puede cambiar si no es para peor, osea se puede mantener pero nunca mejorar. Y una vez hecha esta aclaracion ahora te dire que para cambiar la resolucion puedes usar el tmpgenc, pero debes tener en cuenta dos cosas:
1ª que si no mantienes las proporciones la imagen se deformara.
2ª que el programa te al mismo tiempo que te cambia la resolucion te lo convierte en mpg si es avi o wmv y si es mpg pues mpg sigue claro. Despues si la quieres en avi puedes volver a convertirla a avi ya con su nueva resulucion usando el virtualdub.
En primer lugar sigue los primeros pasos del tutorial en lo referente a eso de "ajustes de entorno" y una vez que hayas configurado el tmpgenc como alli pone y tengas delante de ti la pantalla del asistente pues selecciona el tipo de video que desees, osea vcd o svcd y tambien dependiendo si estas en europa o america tendras que seleccionar pal o ntsc respectivamente.
Luego cargas tu video como pone en el tutorial y cuando llegues a esta ventana:
Pues pones el puntero encima de "Tamaño:" y de "Aspect Ratio:" que aunque no lo parzca son botones que al poner el puntero encima se resaltan sobre lo demas. Pues en ambos botones al picar te dara la opcion de "desbloquear", entonces la seleccionas y ya podras cambiar la resolucion pues se te iluminaran los casilleros donde pone el tamaño en pixels del video que saldria si no tocaras eso. Por ejemplo en el caso del svcd pal te saldria 480 x 576, pues tu pon la resolucion que quieras pero como ya te dije antes ten encuenta que si no mantienes las proporciones deformaras la imagen.
Y en lo de "Aspec ratio" tienes que seleccionar "1:1 (VGA)". Y lo demas tal y como dice el tuto salvo lo de la casilla de de "autoajustes" del final que no sera necesario que la marques. Pues eso es todo, si te queda alguna duda dimelo. Los programas tmpgenc y virtualdub los puedes descargar de la web de mi firma. Saludos...