Der Grund, warum Virtual Dub eine so große AVI-Datei anlegt, hängt mit der (fehlenden) Kompression zusammen. Digitalvideo ist 5:1 komprimiert, doch Virtual Dub speichert (in diesem Fall unsinnigerweise) 1:1.
In diesem Zusammenhang könnte Dich der Artikel "Ruhe im Bild" in der aktuellen Ausgabe der PC Video interessieren. In dessen Verlauf geht es sehr ausführlich um die Auswahl eines geeigneten DV-Codecs (sprich: die richtige Kompression) in Virtual Dub:
pcvideo.schiele-schoen.de > Artikel für € 1,99 downloaden.
Alternative: Wenn Du die Datei mit dem Movie Maker vollständig bearbeiten kannst, dann versuche doch mal, die 20 GB-Datei in z.B. 4 Stücke zu teilen und jeden Abschnitt als eigenständiges DV-AVI zu exportieren.