Начнём разбираться пошагово.
"ужасающе лагают" -- неинформативная фраза.
Контейнер avi -- пожалуй, самое неудачное решение для h264. Вот для XViD или DivX он то, что надо, но только не для h264.
Твоя проблема, как я понял, распадается на две подпроблемы.
1. Просто просмотр и нарезка-соединение без монтажа. В этом случае рекомендую перегнать в контейнер mkv прогой
[Для просмотра данной ссылки нужно зарегистрироваться]
2. Монтаж. Тут я не специалист, монтажом не занимаюсь, но все монтажки, по моей информации, жрут контейнер ts. Перекинь в контейнер в ts при помощи tsMuxerGUI.exe.