Для захвата видео Fraps или Bandicam. Монтаж Sony Vegas(прост в использовании) или Adobe Premiere(дофига фич, долго разбираться если юзер не знаком с программой).
Для кодирования Virtual Dub удобен и быстр.

Еще есть гайд очень подробный, но я не в курсе можно ли тут размещать ссылки на форумы других серверов 8)