Kézműves dinasztiából származott. Műbútorasztalos apjának ügyessége, szerteágazó tudása felkeltette a weimari nagyherceg érdeklődését, aki az udvari esztergályos címmel tüntette ki. Kettejük között szívélyes viszony alakult ki, s az uralkodó Carl keresztapaságát is elvállalta. A mechanika iránt érdeklődő fiú gondos képzésben részesült, érettségi után két évig hallgatott matematikát, kísérleti fizikát, antropológiát, ásványtant és optikát a jénai egyetemen. Eközben annál a Friedrich Körnernél tanult optikusnak, akinek apját még Goethe hozta Weimarba, hogy színtani kísérleteihez eszközöket készítsen.
Zeiss szülővárosában akarta megnyitni optikai és finommechanikai műhelyét, de - mivel itt már három hasonló vállalkozás működött - kérelmét elutasították, s csak 1846-ban Jénában kapta meg az engedélyt. Kezdetben csak három segéddel dolgozott, még szerszámai is alig voltak, legfőbb anyagi forrását a helyi egyetem megrendelései biztosították. Sokféle lencsét készített, árusított szemüveget, távcsövet, hőmérőt, mérleget, barométert is, de kevés elismerésben részesült. A helyzet 1847-ben változott meg, amikor elkészítette első, egyszerű mikroszkópjait, s ezekből egy év alatt 23 darab kelt el. Zeiss új kihívásokra vágyott, s elhatározta, hogy több részből álló mikroszkópok gyártásával kísérletezik, erre biztatta mestere és tanítója, Körner is.
Életét a mikroszkópoknak szentelte. Egyre kifinomultabb darabok kerültek ki műhelyéből, 1861-ben a türingiai ipari vásáron aranyérmet kapott. Ekkor már húsz emberrel dolgozott, alkalmazottainak száma folyamatosan növekedett. Mikroszkópjait a legjobbak között tartották számon, az ezredik darabot 1866-ban adta el. Gyártmányainak fejlesztésén munkálkodva felismerte, hogy azok tökéletesítése az optika elméletének fejlődésétől függ. 1872-ben lett munkatársa Ernst Abbe fizikus, a jénai egyetem tanára, aki be is társult a cégbe. Abbe lett a kutatások vezetője, az ő nevéhez fűződik az apokromatikus mikroszkóp felfedezése.
Az ilyen mikroszkóp okulárjában (lencserendszerében) a mezőlencse ragasztott, háromtagú, a szemlencse síkdomború. Mivel a látómező-görbület minimális, nagyon kevéssé vagy egyáltalán nem torzítja a színeket, és rendkívül jó a képkontrasztja. A felfedezést azonban az akkori gyártási eljárások technikai színvonalán csak félig tudták hasznosítani, mert még nem létezett a megfelelő üveg, de Zeiss így is az addigi legjobb lencséket gyártotta. Abbe hamarosan találkozott a kémikus Otto Schott-tal, aki már harminc éve foglalkozott az üveg kémiájával, és mintegy százfajta optikai és számtalan hőálló üveget fejlesztett ki. Az ő részvételével jött létre 1882-ben az üvegtechnikai laboratórium, a jénai üveggyár elődje, ahol sikerült egy olyan üveg előállítása, amely alkalmas volt az újfajta mikroszkópok lencséjének készítésére.
Zeiss 1888. december 3-án halt meg Jénában. Fia, aki vele együtt vezette az üzletet, hamarosan visszavonult. Abbe az 1889-ben létrehozott Carl Zeiss Alapítványnak adományozta részesedését, példáját Schott is követte, így a vállalat tulajdonosa az alapítvány lett. A Carl Zeiss Optikai Művek 1889 után nemzetközi vállalatként mindenféle optikai eszköz világhírű gyártójává nőtte ki magát. A második világháború végén az amerikai csapatok Németország nyugati felébe telepítették át az alapítvány igazgatóságát és a vállalat munkatársainak többségét, ahol új céget alapítottak. Jéna a szovjet megszállási övezetbe, a későbbi Német Demokratikus Köztársaság (NDK) területére került, és az itteni Zeiss-művekben is újraindult a termelés. A két Zeiss cég folyamatosan pereskedett a névhasználat miatt, a megállapodás az 1970-es évek elején született meg. Ezután a KGST-ben, illetve Nyugaton az optika terén technológiavezetőnek számító Zeiss a maga "körzetében" használhatta a nevet és a védjegyeket. Németország újraegyesítése után 1990-től rendeződött a helyzet, a "népi tulajdonból" fokozatosan az alapítvány kezébe kerültek a jénai és a volt NDK területén működő gyárak, egyesülve a mainzi és oberkocheni üzemekkel. A Zeiss Magyarországon az 1990-es évek elején alapított leányvállalatot.
Carl Zeiss és műve legenda, legenda, amely a világ minden részén ugyanazt jelenti: kiváló minőségű mikroszkópokat, üveget és lencsét.
MTI
