Abre el avi con Virtualdub y ve la pestaña "Fichero" y dale a "Información del Fichero". En Pista de audio fíjate donde pone Muestreo, 48000Hz o 44100Hz o lo que sea. Ese es el valor que debes conservar cuando configures el bitrate del audio. Por ejemplo, si tu pelicula está a 48000Hz y tú configuras el audio a 44100Hz te saldrá ese error que mencionaste.
Prueba así a ver si va bien o no.
También tienes otra opción que sería marcar en "Audio" la opción "Copia Directa".
Saludos