Arhitektura neuronske mreže koristi proces sličan funkciji biološkog mozga za rješavanje problema. Za razliku od računala, koja su programirana da slijede određeni skup uputa, neuronske mreže koriste složenu mrežu odgovora za stvaranje vlastitih skupova vrijednosti. Sustav radi prvenstveno učeći na primjerima i pokušajima i pogreškama. Općenito, arhitektura neuronske mreže preuzima proces rješavanja problema izvan onoga što ljudi ili konvencionalni računalni algoritmi mogu obraditi.
Koncept arhitekture neuronske mreže temelji se na biološkim neuronima, elementima u mozgu koji provode komunikaciju s živcima. Oni se simuliraju u računskom okruženju pomoću programa koji se sastoje od čvorova i vrijednosti koji zajedno rade na obradi podataka. Ova metoda je namijenjena kompenziranju nesposobnosti tipičnih računalnih algoritama da obrađuju jednostavne zvučne i vizualne podatke jednako lako kao ljudi. Također nastoji poboljšati ljudske sposobnosti povećanjem brzine i učinkovitosti procesa.
Tipičan sustav arhitekture neuronske mreže pokušat će riješiti problem postavljanjem niza pitanja da i ne o toj temi. Odbacivanjem određenih elemenata i prihvaćanjem drugih, na kraju se pronalazi odgovor. Taj je proces sličan načinu na koji bi biološki mozak riješio problem, ali se može projektirati da radi na brži i složeniji način fokusiranjem na određeno područje.
Kako je arhitektura neuronske mreže konstruirana tako da program razvija vlastitu metodu rješavanja problema, to može biti nepredvidivo. To često može biti korisno, jer manje definirani proces može razviti odgovore koje ljudski umovi nisu u stanju sami osmisliti. Također može biti problematično, jer ne postoji način praćenja specifičnih koraka koje računalo poduzima kako bi riješilo problem, a time i manje načina za rješavanje problema koji se mogu pojaviti tijekom ili nakon pokretanja procesa.
Jedna od prednosti arhitekture neuronske mreže je da sustav kontinuiranim učenjem iz pokušaja i pogrešaka može poboljšati svoju sposobnost rješavanja problema. S vremenom to može povećati sposobnost mreže da otkrije obrasce i obradi neorganizirana i nejasna tijela podataka. Ovaj proces se može konstruirati za bilo što, od jednog procesa do širokog niza međusobno povezanih elemenata.
Iako se arhitektura neuronske mreže može projektirati tako da se usredotoči na određena područja, ne može se ograničiti na specifične zadatke. Kako bi sustav bio učinkovit, moraju mu se dati elementi potrebni za samostalno rješavanje problema. Bez odgovarajućih materijala, odgovori koje sustav generira obično neće biti zadovoljavajući.