E' naturale che arrivi a quelle dimensioni senza scegliere un formato di compressione.
Naturalmente il miglior rapporto qualità/dimensioni è dato dal DivX o xVid.
In questo caso VirtualDub non è molto indicato.
Se riesci a trovarlo, ti consiglio Dr. DivX vecchia versione, quella a pagamento. Quando facevo questi lavoretti ottenevo risultati strabilianti. Le nuove versioni di Dr. DivX sono free ma non mi piacciono per niente. Crash ogni 2x3 e importazione macchinosa dei VOB.
Ovviamente ci sono un sacco di alternative. Cerca tra le news software di wintricks. qualcosa trovi