Tak už mi to funguje! Nastavením compiz manageru to ale nebylo, v efektech byl window decorator zaškrtlý. Pomoc jsem našel v druhém tebou uvedeném odkazu. Upravil jsem soubor xorg.conf, kde jsem do složky Device napsal:
Option "AddARGBVisuals" "True"
Option "AddARGBGLXVisuals" "True"
Nevím, zda to má souvislost s grafikou, ale mám taky shodou okolností GeForce4 MX440, jako kolega se stejným problémem.
Také jsem zkoušením pokus/omyl zjistil, že rámy zmizely jen pokud jsem nastavil efekty vzhledu na normální, nebo extra, při nastavení žádných efektů, vše šlo.
Teď už vše funguje i při normálních efektech.
Díky za pomoc a zároveň omlouvám se za svoje laické vysvětlení problému, ale co se týče Linuxu jsem úplný začátečník.