Seguramente será porque as elegido un peso inferior al necesario para mantener la calidad y resolucion del video original y algo habia que reducir, en este caso el programa ese parece que opta por reducir la resolucion.
Si quieres un consejo usa el virtualdub mpeg2 (lo tienes en mi firma) para convertir el mpg a avi. En mi firma tambien tienes un tutorial de como convertir mpg a avi con el virtualdub. Siguelo al pie de la letra y listo. Y si quieres que la peli pese una cantidad de MB determinada pues usa la calculadora del bitrate que incluyen todos los codecs. Pero que sepas que si la reduccion de peso es mucha con respecto a como seria si no tocaras el bitrate pues evidentemente la calidad se va a resentir (no la resolucion en este caso.
A la calculadora del bitrate puedes acceder cuando en el virtualdub seleccionas el codec de compresion de video, veras que al hacerlo se ilumina el boton de 'configurar', pues si lo picas te lleva a la configuracion del codec que en el caso del divx 6 en la parte de 'rate control' pica en el icono de la calculadora que está en el lado derecho y alli mete los datos de tu peli y del tamaño que quieras obtener. Y bueno en el caso del xvid al picar en el boton de 'configurar' tambien te lleva evidentemente a la ventana de configuracion del xvid y en este caso tendras que en la parte de 'main settings' picar en el boton 'calc' y alli meter los datos de tu peli y del peso deseado. Saludos...