Mám podobnou konfiguraci. Opravdu nemáš na monitoru a notebooku HDMI nebo DVI konektory (klidně jeden na monitoru a jinej na notebooku, i to se dá propojit (já osobně mám HDMI z notebooku do DVI v monitoru, protože když mám zapojeno do HDMI v monitoru, tak se nevypne s počítačem, ale zůstane svítit modře.) Jestli jo, zahoď určitě ten starej VGA kabel. Já nejsem žádnej znalec hardwaru, ale řekl bych, že přes "starý dobrý" VGA full HD rozlišení do monitoru prostě nedostaneš.
Co se týká nastavení xorg.conf, tak doporučuju nvidia-settings, tam už vše potřebné (včetně nastavení dvou displejů) najdeš. Pokud bys chtěl změny trvale, musíš to spustit s potřebnými právy (např. gksu nvidia-settings) a pak na stránce X Server Display Configuration uložit změny tlačítkem "Save to X Configuration File" do souboru /etc/X11/xorg.conf .