Kutija umjetne inteligencije (AI) teoretska je kutija — poput računala bez vanjskog kontakta — koja sadrži AI sustav i namijenjena je da AI sustav drži odvojenim od svijeta dok se ne smatra sigurnim za puštanje. Kutija dolazi u igru u eksperimentu racionalne i simulirane stvarnosti koji se tiče AI sustava koji pokušava uvjeriti čovjeka da ga pusti iz kutije. Dio pitanja AI kutije postavlja parametre za hardver, točnije da je kutija izolirani sustav bez načina da se ukloni iz kutije bez ljudske intervencije. Sustav je obično pametniji od čovjeka, iako je izoliran, jer neki AI sustavi imaju mogućnost prepisivanja svog izvornog koda. Ova simulacija obično koristi dva čovjeka, od kojih jedan djeluje kao AI i pokušava uvjeriti drugu osobu da ga pusti.
U scenariju AI kutije, kutija je izolirani AI sustav koji nema vanjsku vezu s drugim sustavima. To znači da ne postoje mreže, računala, internetske veze, ljudi ili bilo što drugo što stupa u interakciju s kutijom prije nego što čovjek razgovara s kutijom. Tijekom ovog eksperimenta kutija pokušava uvjeriti osobu da je pusti iz kutije, na primjer putem odlazne mreže.
Tijekom ovog eksperimenta, često se pretpostavlja da je AI kutija pametnija od većine ili svih ljudi. Razlozi za to mogu se pronaći u stvarnom svijetu, jer neki AI sustavi mogu prepisati svoje izvorno kodiranje. Čak i ako ovi sustavi umjetne inteligencije nemaju vanjsku interakciju, mogu promijeniti svoje kodiranje radi bolje brzine obrade, veće razine inteligencije i boljeg razumijevanja podataka.
Kada se ovaj eksperiment dogodi, obično je između dvije osobe. Jedna osoba djeluje kao AI kutija, dok je druga osoba koja će odlučiti hoće li kutija izaći. Razlog zašto ovaj eksperiment koristi dvije osobe od 2011. je taj što većina AI sustava ne može voditi potpune i proširene razgovore bez logičkih pogrešaka, bilo zbog ljudske sintakse ili pogrešnih predodžbi o tome što osoba govori.
Iako neki eksperimenti s AI kutijom možda nemaju uvjete, obično se koriste neki uvjeti kako bi eksperiment bio realističniji. Na primjer, obično postoji vremensko ograničenje od dva sata, a eksperiment se ne može prerano zaustaviti osim ako AI ne pobijedi. Drugi uobičajeni uvjeti uključuju da AI ne može ponuditi predmete ili kaznu kako bi uvjerio osobu, dvije strane moraju ostati u stalnoj interakciji, a osoba ne može tražiti nešto nemoguće iz kutije AI.