Preden je Bell izumil telefon, je komunikacija na daljavo potekala prek električnega telegrafa, ki je omogočal prenos besedilnih sporočil hitreje kot pošiljanje pisem. Telegraf je uporabljal električni tok za premikanje magnetnih igel in s tem prenos sporočil v kodi, ki jo je na drugem koncu prevedel izkušen operater.
Bell se je dolgo ukvarjal s harmoničnim telegrafom, pri čemer je skušal konvencionalno telegrafijo izboljšati in narediti bolj sofisticirano, da bi omogočila prenos več sporočil hkrati. Uporabljal je uglašene električne kovinske jezičke za pošiljanje in sprejemanje več frekvenc po eni sami žici, s čimer bi se izognil visokim stroškom vzpostavljanja novih linij.
To ga je pripeljalo do sklepa, da bi morda obstajal način za prenos človeškega glasu prek telegrafa po žici – torej akustični telegraf. Bell ni imel dovolj tehničnega znanja, da bi svojo idejo razvil sam, vendar je naključno srečanje z briljantnim 20-letnim inženirjem elektrotehnike Thomasom Watsonom v trgovini z električnimi napravami v Bostonu spremenilo vse.
14. februarja 1876 je Bellov odvetnik pri ameriškem patentnem uradu vložil prijavo patenta za »… prenos glasovnih ali drugih zvokov …«, čeprav še ni bilo delujočega telefona. Približno tri tedne kasneje, 7. marca, je bila njegova zahteva za patent odobrena.
10. marca 1876, le tri dni po pridobitvi patenta, je Alexander Graham Bell skupaj s Thomasom Watsonom v Bostonu opravil prvi telefonski klic v zgodovini.
39 let pozneje, 25. januarja 1915, sta dosegla še en mejnik – uspešno sta se pogovarjala vsak s svoje strani Združenih držav Amerike. Bell je izrekel znamenite besede: »Gospod Watson, ste tam?« Vse ostalo je zgodovina.