Teorija sustava obično je interdisciplinarno proučavanje složenih struktura koje se mogu pojaviti u prirodi, društvu ili znanosti. Primjeri složenih struktura mogu se uvelike razlikovati, uključujući sve, od kolonija mrava preko političkih stranaka do jezika. Teoretičari sustava mogu analizirati kako su takvi sustavi formirani, kako funkcioniraju ili što je namjeravani cilj sustava.
Područje teorije sustava pojavilo se kao posljedica bioloških studija. Nakon analize ekoloških sustava u prirodi, teoretičari sustava primijenili su osnovnu logiku sustava na neekološki fenomen. Pioniri na tom području, poput mađarskog znanstvenika Bele H. Banathyja, tvrdili su da je jasna definicija koncepta sustava sastavni dio uspostavljanja temelja svake znanosti, dok istovremeno određuje mogućnost njezina rasta.
Mnogi teoretičari sustava pokušali su razviti opću teoriju koja bi objasnila funkciju svakog zamislivog sustava. Ovaj pristup bi objasnio sustave različite poput košnice ili vlade prema istim općim načelima i zakonima. Takva hipoteza zaključuje da postoji osnovni logički integral za sve sustave.
Prema raspravi u akademskoj literaturi o tome što točno čini sustav, predloženo je mnogo različitih pristupa teoriji sustava. Obično su ključne karakteristike sustava identificirane kao odnos između percipiranih pojedinačnih dijelova kako bi se formirao holistički entitet. Ovaj pristup definira konzistentnost sustava prema uniformnim skupovima odnosa i obrazaca ponašanja, također poznatih kao zatvoreni sustav. Na primjer, sustav kolonije mrava čine različiti obrasci ponašanja određenih mrava koji su njezini članovi. Ova različita ponašanja će zauzvrat biti povezana jedno s drugim, dajući pojam sveukupne homogenosti sustava definiranog u smislu njegove dosljedne funkcije.
Neki akademici suprotstavljaju pojam zatvorenog sustava konceptom otvorenog sustava. Oni tvrde da definicija bilo kojeg zatvorenog sustava uključuje zabludu redukcije koja pojednostavljuje prirodu sustava. Nasuprot tome, teoretičari otvorenog sustava naglašavaju da se sustavi mnogo puta mogu definirati u smislu onoga što isključuju, za razliku od onoga što uključuju, ili da se dijelovi koji se ne promatraju kao dio sustava mogu integrirati u njega.
Koncepti kao što je pojava također su važan dio teorije sustava. Pojava opisuje fenomen kako jednostavan skup odnosa između dijelova može stvoriti nešto potpuno heterogeno za te dijelove. Uobičajeni primjeri pojave uključuju internet i burzu.