Скорее всего формат выбрал не правильный. У VHS разрешение как выше написал. Вот в этом разрешении и захватывай.

720x576 - PAL битрейт - мах