Povijest mikroskopa je prilično duga, obuhvaća mnoge različite kulture i stoljeća. Može biti teško odrediti ranu povijest mikroskopa, jednostavno zato što je ono što se s pravom može smatrati mikroskopom otvoreno za neke interpretacije. Ipak, riječ je o bogatoj i povijesnoj povijesti, koja se i danas može vidjeti u naslijeđu fizičkih antiknih mikroskopa, koji mnogim znanstvenicima služe kao kolekcionarski predmeti.
Rane leće mogu se naći još u 7. stoljeću prije Krista u Asiriji, gdje su korišteni polirani kristali. Najpoznatija od njih je takozvana Nimrudova leća, pronađena u palači Nimrud. Ova leća bi se vrlo dobro mogla koristiti kao povećalo, koje je na mnogo načina jednostavan mikroskop, ili se jednostavno koristila kao leća za paljenje vatre sunčevom svjetlošću. Neki ljudi čak vjeruju da je Nimrudova leća bila dio vrlo osnovnog teleskopa, pomažući Asircima u njihovom složenom razumijevanju astronomije.
U 10. stoljeću, islamski znanstvenik Ibn al-Haytham napravio je revoluciju u proučavanju optike i dao doprinos u širokom rasponu polja, uključujući i formuliranje znanstvene metode. U svom temeljnom tekstu, Book of Optics, on govori o “napravi za povećanje, konveksnoj leći koja tvori uvećanu sliku”. Ovaj se opis može vidjeti kao rani primjer formalnog povećala ili mikroskopa. Kroz srednji vijek ove su se vrste uređaja naširoko koristile, uključujući u samostanskoj Europi u obliku kamenja za čitanje, koji su bili ključni u povijesti mikroskopa jer su se svakodnevnom upotrebom otkrivale plitke leće uvećane s većom učinkovitošću.
U kasnom 16. stoljeću, u Nizozemskoj, brojni različiti proizvođači naočala počeli su proizvoditi ono što se može smatrati izravnim predkom modernog mikroskopa. Sva trojica su zaslužna za njegov izum, a tko je prvi stvorio mikroskop, o tome se raspravlja. Jedan od tih izumitelja, Hans Lippershey, također je zaslužan za izum prvog pravog teleskopa, što ga čini vjerojatnim kandidatom. Druga dvojica, Hans Janssen i njegov sin Zacharias, bili su aktivni u svijetu optike, a također su vjerojatno mogli stvoriti mikroskop. Sam izraz, međutim, skovan je tek oko 1625. godine, kako bi opisao složeni mikroskop Galilea Galileija.
Tijekom 18. stoljeća, povijest mikroskopa bila je jedna od stalnih usavršavanja. Uz korištenje više naočala za smanjenje kromatskih aberacija i novih tehnika brušenja koje omogućuju još veća povećanja, mikroskop je nastavio postajati sve snažniji. Do kraja 19. stoljeća, Ernst Abbe je postavio teorijske maksimume za rezoluciju mikroskopa, u svom temeljnom djelu Abbe Sine Condition.
U 20. stoljeću zabilježeni su najveći skokovi u povijesti mikroskopa, počevši od razvoja mikroskopa koji su mogli vidjeti objekte manje od valnih duljina svjetlosti, Richarda Zsigmondyja, koji je kasnije dobio Nobelovu nagradu za kemiju. Do 1932. ovo je poboljšano stvaranjem fazno-kontrastnog mikroskopa, koji je omogućavao promatranje objekata koji nemaju boju, za što je Frits Zernike dobio Nobelovu nagradu za fiziku 1953. Otprilike u isto vrijeme izumljen je elektronski mikroskop, koji je omogućio za mnogo, puno veća povećanja, sve do atomske razine, za što je Ernst Ruska dobio Nobelovu nagradu za fiziku 1986. godine.
Nedavno su Gerd Binnig i Heinrich Rohrer izumili skenirajući tunelski mikroskop, koji omogućuje ne samo povećanje objekata do atomske razine, već i njihovo promatranje u tri dimenzije. Za izum ovog najmodernijeg mikroskopa, Binnig i Heinrich su također 1986. dobili Nobelovu nagradu za fiziku.