Tintába mártogatott eszközzel, vágott hegyű nádszállal mintegy ötezer éve az ókori egyiptomi írnokok kezdtek írni a papiruszra. Ezt használták aztán a görögök és a rómaiak is, sőt egyes ázsiai országokban, így például Pakisztánban ma is használatban van a bambusznádból készült toll. A lúdtollat jóval később kezdték írásra használni, a júdeai Kumránban talált, az i.e. 3. századtól keletkezett héber és arámi nyelvű Holt-tengeri tekercseket már ezzel vetették pergamenre és papiruszra. A könnyebb, egyszerűen beszerezhető lúdtoll használata a Római Birodalom bukása utáni századokban terjedt el, és Európában egészen a 19. századig ez maradt a fő íróeszköz. Az első tartállyal rendelkező, a gravitáció hatását kapillárisok segítségével kihasználó írószárat 953-ban Maad-al-Muizz, az Egyiptomban uralkodó Fátimida dinasztia negyedik kalifája készíttette el aranyból, ugyanis olyan íróeszközt szeretett volna, amelyik nem hagy nyomot a kezén és a ruháján - írja az MTVA Sajtóarchívuma.
Leonardo da Vinci a 15-16. század fordulója körül feltehetően saját fejlesztésű, tartállyal, kapillárissal és vágott heggyel rendelkező tollat használt, ugyanis rajzain és naplóiban a vonalak egyenletes vastagságúak, ellentétben a lúdtoll hagyta tintanyomokkal, amelyek vastagsága elárulja, hogy a rajzoló vagy a szerző mikor merítette tintába a pennáját. Leonardo tollát 2011-ben a képzőművész Amerigo Bombara rekonstruálta történészek segítségével.
Daniel Schwenter német polihisztor és feltaláló 1636-ban a Deliciae Physico-Mathematicae című folyóiratban egy két tollból készült eszközt írt le, ahol a nagyobbik toll belsejében egy tartályként szolgáló kisebbik toll található, a tinta ebből egy kis lyukon keresztül csurog le a tollhegyhez. A 17. századi Angliában 15 shillingért (mai értékén majdnem 100 fontért) árultak tintatartós ezüst "töltőtollakat". Az első kereskedelmileg sikeres változat John Scheffer 1819-es Penographic szabadalma volt, amelynek hegyét kupak fedte, így zsebben lehetett hordani. A román Petrache Poenaru (francia nevén Pierre Poyenar) 1827-ben francia szabadalmat kapott tollára, amelyben egy hattyútoll szolgált tintatartályként és tompa fémhegye volt, így az egyenletes tintaadagolás mellett a papírt sem karcolta fel.
Az áttörést az acélból készült, a tollszár végén cserélhető tollhegyek megjelenése jelentette, amely sokkal kényelmesebb írást tett lehetővé, mint a lúdtoll, ezek több mint fele az 1850-es években Birminghamben készült. Az amerikai John Jacob Parker 1831-ben szabadalmaztatta az első olyan öntöltő tollat, amely csavaros tintaeresztő dugattyúval működött és sokkal kevésbé folyt belőle a tinta. A töltőtoll azonban csak az irídiumvégű hegy, a keménygumi és a szabadon folyó tinta feltalálása, illetve tömeggyártása után terjedhetett el szélesebb körben.
Az első valóban használható töltőtoll megalkotása az 1836-ban született amerikai Lewis Edson Waterman nevéhez fűződik. Waterman eredetileg tanár volt, de gyorsírással, lapszerkesztéssel és házalással is foglalkozott, végül biztosítási ügynök lett. A legenda szerint a töltőtollat dühében tökéletesítette, mert amikor élete szerződését akarta aláírni, a toll összepacázta a papírt és mire visszatért az új példánnyal, az ügyfél már vetélytársával állapodott meg - egy másik verzió szerint kiment a szobából, hogy csöpögő tolla helyett újat keressen, de ezalatt ellopták a szerződést és az ügylet füstbe ment. Waterman egy Frank Holland nevű feltaláló frissen alapított cégénél ügynökként árulta a tollakat, s hat hét múlva, amikor Holland kilépett, átvette az irányítást. Bátyja műhelyében dolgozva olyan tollat kísérletezett ki, amelynek tintatárolója és hegye között három vékony csatorna húzódik, a levegő a tartályban a felhasznált tinta helyére kerül, így a toll nem folyik és egyenletesen ír.
Waterman 1883-ban adta be a The Regular töltőtollról szóló szabadalmi kérvényét, amelyre 1884. február 12-én kapta meg a 293.545 számú amerikai szabadalmat. Az első, kézzel készített mintadarabokat egy New York-i szivarboltban árulta és öt év garanciát vállalt működésükre. Az érdeklődés akkora volt, hogy hamarosan már folyóiratokban reklámozhatta találmányát. Idővel további szabadalmakat is bejegyeztetett keménygumi íróeszköz-alkatrészekkel kapcsolatban, a Waterman Pen Company 1900-ban elnyerte a párizsi világkiállítás aranyérmét.
Waterman 1901. május 1-jén halt meg Brooklynban, a bostoni Forest Hills temetőben temették el. Az üzlet vezetését unokaöccse, Frank D. Waterman vette át, a cég ekkor indult igazán virágzásnak, nemsokára évi 350 ezer tollat adott el. A Waterman a múlt század első évtizedeiben piacvezető maradt, az első világháborút lezáró versailles-i békeszerződést 1919. június 28-án arany Waterman tollal írták alá.
A töltőtollat a múlt század közepétől a magyar Bíró László által kifejlesztett golyóstoll szorította háttérbe, de gyártása korántsem szűnt meg. Ma főként kisiskolások és cégvezetők, menedzserek, politikusok használnak töltőtollat, no persze nem ugyanolyat: az előbbiek többnyire a "filléres", az utóbbiak a több ezer forintos (dolláros) változatot.