Vlastni mail server neni tak trivialni zalezitost a doporucil bych napred hodne cteni.Zalezi i na velikosti provozu a podle toho je treba vybirat.Dale musite osetrit spam,viry pro Windows klienty,logy atd. atd.
tak tak, bez studia se nikam nehnete....
spravovat ale i instalovat vlastní mail server pod linuxem vyžaduje nejdříve celý problém v širších souvislostech pochopit a kouknout se i na dokumentaci přímo na webu toho kterého programu (která je většinou anglicky)
dobré jsou i různé návody, ale plátí vždy na určitou verzi a mezitím se mohlo dost změnit....
já jsem teď instaloval mailserver a vybral jsem si následující:
postfix - smtp
courier - pop3 a imap
amavisd-new + spamassassin + clamav na spam a viry
není to úplně triviální, ale nechá se to