Instalaci ze zdrojových kódů bych nedoporučoval, to zkončí tak, že se to jednou nainstaluje a zádnej update na to už nikdy nepřijde, ono stačí když jsou neaktualizovaný kódy aplikací natož mít neplátovaný díry ještě podtím,...
když už to musí být starší verze tak aspoň z ppa o který se někdo stará
https://launchpad.net/~ondrej/+archive/ubuntu/php5-oldstable Ondřej Surý se stará o phpko v Debianu tak se tomu snad dá věřit. A koukal jsem vypadá to že to repo drží srovnaný s upstramem tedy asi do té doby než 5.4 nezaříznou. + v popisku je nějaká restrikce na verzi Ubuntu tak by se to muselo vyzkoušet.
Každopádně by bylo ještě jedno možný řešení místo Ubuntu nainstalovat Debian Stable tam je php verze 5.4 s tím že po vydání nové verze stable (nejdřív Duben 15) se "snaží" dělat updaty old-stable po dobu aspoň jednoho roku,... A rozdíl na serveru mezi Ubuntu a Debianem nebyl nikdy moc velky (snad to tak platí).