Egy H264 kodek beállítás kb. 15-20 változóból áll, a program amit használtál abban már olyan kodek beállítás van ami ezt eredményezi, viszont azt nem tudom, hogy egyáltalán mibe enged belenyúlni a program.
Nézd meg az XMedia Recode programban, hogy egy H264 kodeknek mennyi beállítási lehetősége van.