Otra opcion que podes probar, es bajarte el programa freeware DVD2SVCD que permite pasar de AVI a VCD y SVCD ( yo prefiero este ultimo formato , que en su version no estandart soporta el tamaño 720x480 bde los DVD pero con bitrate de 2300 kbps como los SVCD ( los VCD usan bitrate de 1150 kbps ) .
Es un conjunto de utilidades basadas en scripts y te permite usar el compresor que prefieras (TMPGEnc, CCE, etc )
Ademas te permite elegir el formato del audio ( podes elegir Stereo o 5,1 ) y pegarle los subtitulos en caso de que lo necesites.
El programa lleva un rato hasta configurarlo full full, pero te aseguro que vale la pena ya que se logra muy buena calidad.
Fijate de buscar un poco en google a ver si te sirve para lo que vos necesitas
Salu2