Što je algoritamska složenost?

Algoritamska složenost, (računarska složenost, ili složenost po Kolmogorovu), temeljna je ideja i u teoriji računalne složenosti i u teoriji algoritamskih informacija, i igra važnu ulogu u formalnoj indukciji.

Algoritamska složenost binarnog niza definira se kao najkraći i najučinkovitiji program koji može proizvesti niz. Iako postoji beskonačan broj programa koji mogu proizvesti bilo koji niz, jedan program ili grupa programa uvijek će biti najkraći. Ne postoji algoritamski način pronalaženja najkraćeg algoritma koji daje zadani niz; ovo je jedan od prvih rezultata teorije složenosti računanja. Čak i tako, možemo dobro nagađati. Ovaj rezultat, (proračunska složenost niza), pokazuje se vrlo važnim za dokaze vezane uz izračunljivost.

Budući da se bilo koji fizički objekt ili svojstvo u načelu može opisati do skoro iscrpljivanja nizom bitova, za objekte i svojstva može se reći da također imaju algoritamsku složenost. Zapravo, svođenje složenosti objekata stvarnog svijeta na programe koji proizvode objekte kao izlaz, jedan je od načina promatranja poduzetništva znanosti. Složeni objekti oko nas obično dolaze iz tri glavna generirajuća procesa; pojava, evolucija i inteligencija, pri čemu objekti koje svaki proizvede teže većoj algoritamskoj složenosti.

Računalna složenost je pojam koji se često koristi u teorijskoj informatici za određivanje relativne težine izračunavanja rješenja širokih klasa matematičkih i logičkih problema. Postoji više od 400 klasa složenosti, a dodatne klase se kontinuirano otkrivaju. Poznato pitanje P = NP tiče se prirode dviju od ovih klasa složenosti. Satovi složenosti uključuju probleme daleko teže od bilo čega s kojima se netko može suočiti u matematici do računanja. Postoje mnogi zamislivi problemi u teoriji računalne složenosti za čije bi rješavanje bilo potrebno gotovo beskonačno vrijeme.

Algoritamska složenost i srodni koncepti razvijeni su 1960-ih od strane desetaka istraživača. Andrey Kolmogorov, Ray Solomonoff i Gregory Chaitin dali su važne doprinose kasnih 60-ih s algoritamskom teorijom informacija. Načelo minimalne duljine poruke, usko povezano s algoritamskom složenošću, pruža veliki dio temelja statističkog i induktivnog zaključivanja i strojnog učenja.