Tko je točno izumio teleskop, pomalo je nejasno pitanje. Od prije zabilježene povijesti ljudi su se igrali jednostavnim lećama izrađenim od gorskog kristala (kvarca), a čini se da je osnovni koncept teleskopa prepoznat 1230. godine ili ranije. U kasnom 13. stoljeću izumljene su konveksne leće za ispravljanje dalekovidnosti, dok je konkavne leće za kratkovidnost izumio 1451. Nikola Kuzanski. Budući da je osnovni teleskop samo kombinacija konveksne i konkavne leće u montažnoj cijevi, osnovna mogućnost je postojala. Zapravo, različiti spisi iz Engleske s kraja 16. stoljeća upućuju na to da je teleskope tamo razvilo i koristilo barem nekoliko pojedinaca.
Ipak, tek 1608. godine u Nizozemskoj su teleskopi stvarno uzletjeli. Zasluge za izum teleskopa tradicionalno su tri osobe: Hans Lippershey i Zacharias Janssen, tvorci naočala koji zajedno rade u gradu Middleburgu, i Jacob Metius iz Alkmaara. Ubrzo nakon toga, teleskopi su se počeli proizvoditi u većem broju i širili se po Europi kao novitet. Tako je 1608. službeno priznata godina izuma teleskopa. Ovi rani teleskopi samo su uvećavali udaljene objekte za faktor od oko tri.
Kada su teleskopi još bili iznimno novi, 1609. godine, uskoro poznati talijanski astronom i fizičar, Galileo Galilei, čuo je za osnovni koncept rada teleskopa tijekom posjeta gradu Veneciji. Čim se vratio kući u Padovu, odmah je napravio jednu, jednostavno spojivši konveksnu i konkavnu leću u cijev. Napravio je poboljšanu verziju i pokazao je gospodaru Venecije, Leonardu Donatu, koji je bio vrlo impresioniran. Galileo je nakon toga ostao doživotno namješten na predavaču, a njegova je plaća udvostručena.
Galileo je poboljšao teleskop sve dok nije imao moć povećanja od trideset i tri promjera. Zatim je svojim teleskopom otkrio Jupiterove mjesece, mrlje na Suncu, faze Venere, te Mjesečeva brda i doline. Ova otkrića su ga proslavila do danas, pa se teleskopi ovog dizajna i danas nazivaju Galilejevim teleskopom.
Drugi glavni tip teleskopa, reflektirajući teleskop, izumio je engleski geodet Leonard Digges sredinom 16. stoljeća, ali je bio relativno nepraktičan i nikada nije postao raširen u svoje vrijeme. Ostalo je na Isaacu Newtonu, velikom fizičaru, koji je 1669. godine konstruirao prvi praktični reflektirajući teleskop.