Všechno jde, když se chce. Otázkou ale zůstává co z toho -- jakýmkoli "zmenšením" se připravujete o funkce -- s alespoň základní "uživatelskou přívětivostí", tj. grafické rozhraní a nějaké aplikace se pod desítky MB prostě nedostanete.
Existují (relativně aktuální) distribuce, které se dokáží ještě vměstnat i na disketu, ale to je spíš takové hraní, praktické použití žádné...