Tohle je moc obecný dotaz
Nespoléhat se na defaultní nastavení při instalaci,
Dobrá hesla, ssh klíče,
SSH, FTP a Obecně přístupy omezit pomocí iptables a tcp wrapers nebo VPN, používat šifrovaná spojení pro ftp
Apache2 použít MPM-ITK, PREFORK spolu s SUEXEC a FCGID, použít mod_security, požívat SSL, u php omezit adresáře,safemod
SQL servery = omezení přístupu, (Firewall, VPN, TCPWrapers), přísně definovaná přístupová oprávnění pro uživatele a databáze
APPARMOR, naučit se ho konfigurovat,
Sledovat logy, logcheck, logwatch,
Rootkithunter, Tiger, Nagios, Cacti, a další monitorovací nástroje
Před server dát HW Firewall např. Fortigate nebo FortiWeb u webserveru (cena je trochu jinde).
a tisíce dalších věcí.