VLC (a iné prehrávače zrejme tiež), keď počítač nestíha dekódovať video a zaostane o viac ako 5 sekúnd, vypustí framy, to bude zrejme to čo vidíš.
Odporúčam vypnúť Compiz, prípadne ak v pozadí bežia nejaké aplikácie (torrent klient, IM klient, webový prehliadač), ktoré nie sú nutné, povypínať.