Unas cosas:
1. Te recomiendo Virtual Dub.
2. Te recomiendo que uses una maquina relativamente buena (>2Ghz, >512MB RAM)
3. Usa Windows XP.
4. Para la mejor calidad primero graba el video sin compresion (necesitas como 100MB de disco por minuto, 1GB por cada 10minutos, 10GB por 1hora y 40minutos, etc. conclusión unos 50GB de espacio libre)
5. Luego codificalo en formato MPEG-4, DivX / Xvid, H.261, etc. el que mas te guste.
Te digo que lo grabas sin comprimir primero porque es mas facil para la maquina, y hay menos probabilidad de que el audio te quede desincronizado.
En lo personal haria lo anterior en windows, pero en linux tenes mencoder y podes ver este tema:
Grabar con mencoder desde s-video