Superskalarni procesor može neovisno izvršiti više instrukcija odjednom tijekom jednog ciklusa takta. Uključuje redundantne izvršne resurse, kao što su višestruke jedinice s pomičnim zarezom, aritmetičko-logičke jedinice i integer shifteri. Ovaj tip procesora dizajniran je za paralelno računanje i spekulativno izvršenje bez potrebe za posebnim softverom. Može poboljšati brzinu izvršavanja mnogih procesorski intenzivnih aplikacija manipuliranjem i preuređivanjem koda. Često se koristi u nekoliko klasa računala, uključujući poslužitelje, stolna računala, pa čak i prijenosna računala.
Iako se neki aspekti arhitekture koriste u procesorima od 1960-ih, pravi superskalarni procesori su objavljeni tek mnogo kasnije. Neki procesori s reduciranim skupom instrukcija (RISC) prodani u kasnim 1980-im i ranim 1990-ima bili su superskalarni. Njihove jednostavne jezgre i upute fiksne duljine činile su slanje i zakazivanje paralelnih instrukcija relativno lakim. Mnogi ne-RISC procesori proizvedeni od kasnih 1990-ih također imaju superskalarnu arhitekturu. Ugrađeni procesori male snage i drugi specijalni procesori često su iznimke, optimizirajući druge aspekte svog dizajna umjesto paralelnog izvođenja.
Neki procesori mogu dijeliti jedan cjevovod s uputama iz više niti izvršavanja, poznatim kao super-threading. Kada je funkcionalna jedinica neaktivna jer čeka na niti koja se trenutno izvršava, u međuvremenu može izvršiti instrukciju iz druge niti. Ova tehnika pomaže u potpunosti iskoristiti procesor, ali nije tako učinkovita kao simultane multithreading (SMT). Jedan superskalarni procesor može izvršiti više instrukcija iz više niti istovremeno koristeći SMT. Međutim, istovremeno izvršavanje niti može se natjecati za resurse sustava i procesora, što može usporiti sustav.
Procesori s višestupanjskim cjevovodima mogu izvršavati više instrukcija istovremeno sve dok su u različitim fazama izvršenja. Nasuprot tome, nekoliko se instrukcija može izvršiti u istoj fazi u isto vrijeme u superskalarnom procesoru. Iako postoji mnogo sličnosti između ove vrste procesora i višejezgrenog procesora, one nisu iste. Višejezgreni procesor sadrži nekoliko kompletnih procesora, nazvanih jezgre, u jednom uređaju. Svaka jezgra višejezgrenog procesora obično je superskalarna i može uključivati nekoliko paralelnih cjevovoda.
Ključna značajka superskalarnog procesora je njegova sposobnost izvršavanja programskog koda izvan reda iz razloga učinkovitosti. Da bi to učinio, mora biti svjestan ovisnosti bilo koje instrukcije o drugoj. Ako instrukcija utječe na rezultate ili koristi resurse druge, vrlo je vjerojatno da se te dvije ne smiju izvršavati paralelno. Postoje tehnike za uklanjanje nekih vrsta ovisnosti, ali druge moraju odgoditi obradu dok resursi ne budu dostupni.
Izvršenje izvan reda također mora biti u stanju jamčiti ispravan sadržaj registara, zastavica i drugih resursa ako dođe do prekida sustava. U ovom slučaju, stanje sustava mora izgledati isto, kao da je kod izveden sekvencijalno kako je dizajniran. Drugo razmatranje je koliko instrukcija procesor treba ispitati kako bi pronašao mogućnosti za paralelno izvršavanje. Što je broj veći, to može biti učinkovitije izvršenje. To također uključuje spekulativno izvršavanje instrukcija s druge strane svake grane u ispitivanom kodu.