Mersenneov prost broj je prost broj koji je za jedan manji od stepena dvojke. Do danas ih je otkriveno oko 44.
Dugi niz godina se smatralo da su svi brojevi oblika 2n – 1 prosti. U 16. stoljeću, međutim, Hudalricus Regius je pokazao da je 211 – 1 2047, s faktorima 23 i 89. U sljedećih nekoliko godina prikazan je niz drugih protuprimjera. Sredinom 17. stoljeća, francuski redovnik Marin Mersenne objavio je knjigu Cogitata Physica-Mathematica. U toj knjizi je naveo da je 2n – 1 prost za n vrijednost od 2, 3, 5, 7, 13, 17, 19, 31, 67, 127 i 257.
U to vrijeme bilo je očito da nije mogao provjeriti istinitost bilo kojeg od viših brojeva. Istodobno, njegovi vršnjaci također nisu mogli dokazati niti opovrgnuti njegovu tvrdnju. Zapravo, tek stoljeće kasnije Euler je uspio pokazati da je prvi nedokazani broj na Mersenneovom popisu, 231 – 1, zapravo bio prost. Stoljeće kasnije, sredinom 19. stoljeća, pokazalo se da je 2127 – 1 također bio prazan. Nedugo nakon toga pokazalo se da je 261 – 1 također prost, pokazujući da je Mersenneu propustio barem jedan broj na svom popisu. Početkom 20. stoljeća dodana su još dva broja koja je propustio, 289 – 1 i 2107 – 1. Pojavom računala provjera jesu li brojevi prosti ili ne postala je mnogo lakša, a do 1947. cijeli raspon Mersenneovog originalnog Mersennea prosti brojevi su provjereni. Konačna lista dodala je 61, 89 i 107 na njegovu listu, a ispostavilo se da 257 zapravo nije prvo mjesto.
Ipak, za njegov važan rad u postavljanju temelja za kasnije matematičare za rad, njegovo je ime dano tom skupu brojeva. Kada je broj od 2n – 1 zapravo prost, kaže se da je to jedan od Mersenneovih prostih brojeva.
Mersenneov prosti broj također ima odnos s onim što je poznato kao savršeni brojevi. Savršeni brojevi tisućama godina imaju važno mjesto u misticizmu zasnovanom na brojevima. Savršen broj je broj n koji je jednak zbroju njegovih djelitelja, isključujući samog sebe. Na primjer, broj 6 je savršen broj, jer ima djelitelje 1, 2 i 3, a 1+2+3 je također jednak 6. Sljedeći savršeni broj je 28, s djeliteljima 1, 2, 4 , 7 i 14. Sljedeći skače na 496, a sljedeći je 8128. Svaki savršeni broj ima oblik 2n-1(2n – 1), gdje je 2n – 1 također Mersenneov prost broj. To znači da se u pronalaženju novog Mersenneovog prostog broja također usredotočujemo na pronalaženje novih savršenih brojeva.
Poput mnogih brojeva ove vrste, pronalaženje novog Mersenneovog prostog broja postaje sve teže kako napredujemo, jer brojevi postaju znatno složeniji i zahtijevaju mnogo više računalne snage za provjeru. Na primjer, dok se deseti Mersenneov prosti broj, 89, može brzo provjeriti na kućnom računalu, dvadeseti, 4423, oporezuje kućno računalo, a trideseti, 132049, zahtijeva veliku količinu računalne snage. Četrdeseti poznati Mersenneov prosti broj, 20996011, sadrži više od šest milijuna pojedinačnih znamenki.
Potraga za novim Mersenneovim prostim brojem se nastavlja, jer oni igraju važnu ulogu u brojnim pretpostavkama i problemima. Možda je najstarije i najzanimljivije pitanje postoji li neparan savršen broj. Da takvo što postoji, moralo bi biti djeljivo s najmanje osam prostih brojeva i imalo bi najmanje sedamdeset pet prostih faktora. Jedan od njegovih prostih djelitelja bio bi veći od 1020, tako da bi to bio uistinu monumentalan broj. Međutim, kako računalna snaga nastavlja rasti, svaki novi Mersenneov prosti broj postat će manje težak, a možda će ovi stari problemi na kraju biti riješeni.