雅典俯瞰
埃及的亞曆山大城，是東西海陸交通的樞紐，又經過托勒密王的苦心經營，逐漸成為新的希臘文化中心，希臘本土這時已經退居次要地位。幾何學最初萌芽於埃及，以後移植於伊奧尼亞，其次，繁盛於意大古希臘埃皮道羅斯劇場利和雅典，最後又回到發源地。經過這一番培植，已達到豐茂成林的境地。
從公元前4世紀到公元前146年古希臘滅亡，羅馬成為地中海區域的統治者為止，希臘數學以亞曆山大為中心，達到它的全盛時期。這裏有巨大的圖書館和濃厚的學術空氣，各地學者雲集在此進行教學和研究。其中成就最大的是亞曆山大前期三大數學家歐幾裏得、阿基米德和阿波羅尼奧斯。
阿波羅尼奧斯（約公元前262～約前190）古希臘數學家。與歐幾裏得、阿基米德齊名。生於小亞細亞南岸的佩爾加。他的著作《圓錐曲線論》是古代世界光輝的科學成果，它將圓錐曲線的性質網羅殆盡，幾乎使後人沒有插足的餘地。直到17世紀的帕斯卡和笛卡兒才有新的突破。《圓錐曲線論》共 8 卷， 前4 卷的希臘文本和其次 3 卷的阿拉伯文本保存了下來，最後一卷遺失。此書集前人之大成，且提出很多新的性質。他推廣了梅內克繆斯（公元前 4 世紀， 最早係統研究圓錐曲線的希臘數學家）的方法，證明三種圓錐曲線都可以由同一個圓錐體截取而得，並給出拋物線、橢圓、雙曲線、正交弦等名稱。書中已有坐標製思想。他以圓錐體底麵直徑作為橫坐標，過頂點的垂線作為縱坐標，這給後世坐標幾何的建立以很大的啟發。他在解釋太陽係內 5 大行星的運動時， 提出了本輪均輪偏心模型， 為托勒密的地心說提供了工具。
阿基米德是物理學家兼數學家，他善於將抽象的理論和工程技術的具體應用結合起來，又在實踐中洞察事物的本質，通過嚴格的論證，使經驗事實上升為理論。他根據力學原理去探求解決麵積和體積問題，已經包含積分學的初步思想。阿波羅尼奧斯的主要貢獻是對圓錐曲線的深入研究。
除了三大數學家以外，埃拉托斯特尼的大地測量和以他為名的“素數篩子”也很出名。天文學家喜帕恰斯製作“弦表”，是三角學的先導。
君士坦丁大帝公元前146年以後，在羅馬統治下的亞曆山大學者仍能繼承前人的工作，不斷有所發明。海倫（約公元62）、門納勞斯（約公元100）、帕普斯等人都有重要貢獻。天文學家托勒密將喜帕恰斯的工作加以整理發揮，奠定了三角學的基礎。
晚期的希臘學者在算術和代數方麵也頗有建樹，代表人物有尼科馬霍斯（約公元 100）和丟番圖（約公元250）前者是傑拉什（今約旦北部）地方的人。著有《算術入門》，後者的《算術》是講數的理論的，而大部分內容可以歸入代數的範圍。它完全脫離了幾何的形式，在希臘數學中獨樹一幟，對後世影響之大，僅次於《幾何原本》。
公元325年，羅馬帝國的君士坦丁大帝開始利用宗教作為統治的工具，把一切學術都置於基督教神學的控製之下。
柏拉圖學園公元529年，東羅馬帝國皇帝查士·丁尼下令關閉雅典的柏拉圖學園以及其他學校，嚴禁傳授數學。許多希臘學者逃到敘利亞和波斯等地。數學研究受到沉重的打擊。公元641年，亞曆山大被阿拉伯人占領，圖書館再次被毀，希臘數學至此告一段落。