Mali operativni sustav je onaj koji je napravljen od relativno male količine temeljnog koda. Kao rezultat toga, obično zahtijeva manje resursa od stroja na kojem radi.
Kao vrlo generalizirano pravilo, većina sustava opisanih kao mali operativni sustav temelji se na Linux kernelu. Kernel je zapravo mozak računala i odlučuje što će točno učiniti u bilo kojem trenutku. Linux se obično koristi u sustavima otvorenog koda, koji se uvelike razlikuju, a neki su manji od drugih. Microsoftov Windows i Appleov OSX obično se smatraju vrlo velikim operativnim sustavima.
Budući da je ideja malog operativnog sustava usporediva, a ne apsolutna, postoje izdanja Windowsa koja bi se mogla opisati kao mala. Najpoznatiji od njih je Windows CE, koji je dizajniran za računala s vrlo niskim specifikacijama i za samostalne uređaje. Kod potonjeg se sustav obično ugrađuje izravno u sam uređaj. Neki uređaji koji pokreću Windows CE uključuju interaktivne zaslone s informacijama i sustave za zabavu na naslonu sjedala na nekim zračnim prijevoznicima.
Glavna prednost malog operativnog sustava je ta što može raditi na računalu s niskim specifikacijama i obično ne zahtijeva tako brzo računalo ili toliko memorije kao veći sustavi. To ostavlja više resursa za pokretanje aplikacija. Također omogućuje dulje korištenje starijih računala prije nego što se smatraju zastarjelima.
Još jedna prednost je ta što mali operativni sustav, po definiciji, ima manje potencijala da sadrži bugove. Međutim, to vrijedi samo u apsolutnom smislu. Loše napisan mali operativni sustav vjerojatno će uzrokovati isto toliko ili više problema od dobro napisanog velikog.
Neki operativni sustavi su toliko mali da se mogu pohraniti na prijenosni uređaj, pa čak i pokrenuti s njega. To može uključivati USB memorijski stick. To znači da se operativni sustav može odmah pokrenuti na računalu bez potrebe za instaliranjem. To može biti osobito korisno kada imate posla s računalom na kojem je instalirani sustav oštećen.
Nedostaci malog operativnog sustava ovise o tome zašto je mali. Na primjer, može se izvoditi samo u naredbenom retku, što znači da se informacije unose i prikazuju isključivo u tekstualnom obliku, a ne grafički, što može biti odvratno za mnoge korisnike. Mali sustav također može uštedjeti prostor jer ima ograničenu podršku za hardverske uređaje kao što su pisači ili modemi.