公元前3世紀，柏拉圖在雅典建立學派，創辦學園。他非常重視數學，但片麵強調數學在訓練智力方麵的作用，而忽視其實用價值。他主張通過幾何的學習培養邏輯思維能力，因為幾何能給人以強烈的直觀印象，將抽象的邏輯規律體現在具體的圖形之中。
這個學派培養出不少數學家，如歐多克索斯就曾就學於柏拉圖，他創立了比例論，是歐幾裏得的前驅。柏拉圖的學生亞裏士多德也是古代的大哲學家，是形式邏輯的奠基者。他的邏輯思想為日後將幾何學整理在嚴密的邏輯體係之中開辟了道路。
這個時期的希臘數學中心還有以芝諾為代表的埃利亞學派，他提出四個悖論，給學術界以極大的震動。
以德謨克利特為代表的原子論學派，認為線段、麵積和立體，是由許多不可再分的原子所構成。計算麵積和體積，等於將這些原子集合起來。這種不甚嚴格的推理方法卻是古代數學家發現新結果的重要線索。
公元前4世紀以後的希臘數學，逐漸脫離哲學和天文學，成為獨立的學科。數學的曆史於是進入一個新階段——初等數學時期。
這個時期的特點是，數學（主要是幾何學）已建立起自己的理論體係，從以實驗和觀察為依據的經驗科學過渡到演繹的科學。由少數幾個原始命題（公理）出發，通過邏輯推理得到一係列的定理。這是希臘數學的基本精神。
在這一時期裏，初等幾何、算術初等代數大體已成為獨立的科目。和17世紀出現的解析幾何學、微積分學相比，這一個時期的研究內容可以用“初等數學”來概括，因此叫做初等數學時期。
埃及的亞曆山大城，是東西海陸交通的樞紐，又經過托勒密王的苦心經營，逐漸成為新的希臘文化中心，希臘本土這時已經退居次要地位。幾何學最初萌芽於埃及，以後移植於伊奧尼亞，其次，繁盛於意大利和雅典，最後又回到發源地。經過這一番培植，已達到豐茂成林的境地。
從公元前4世紀到公元前146年古希臘滅亡，羅馬成為地中海區域的統治者為止，希臘數學以亞曆山大為中心，達到它的全盛時期。這裏有巨大的圖書館和濃厚的學術空氣，各地學者雲集在此進行教學和研究。其中成就最大的是亞曆山大前期三大數學家歐幾裏得、阿基米德和阿波羅尼奧斯。
阿波羅尼奧斯（約公元前262～約前190）古希臘數學家。與歐幾裏得、阿基米德齊名。生於小亞細亞南岸的佩爾加。他的著作《圓錐曲線論》是古代世界光輝的科學成果，它將圓錐曲線的性質網羅殆盡，幾乎使後人沒有插足的餘地。直到17世紀的帕斯卡和笛卡兒才有新的突破。《圓錐曲線論》共8卷，前4卷的希臘文本和其次3卷的阿拉伯文本保存了下來，最後一卷遺失。此書集前人之大成，且提出很多新的性質。他推廣了梅內克繆斯（公元前4世紀，最早係統研究圓錐曲線的希臘數學家）的方法，證明三種圓錐曲線都可以由同一個圓錐體截取而得，並給出拋物線、橢圓、雙曲線、正交弦等名稱。書中已有坐標製思想。他以圓錐體底麵直徑作為橫坐標，過頂點的垂線作為縱坐標，這給後世坐標幾何的建立以很大的啟發。他在解釋太陽係內5大行星的運動時，提出了本輪均輪偏心模型，為托勒密的地心說提供了工具。
阿基米德是物理學家兼數學家，他善於將抽象的理論和工程技術的具體應用結合起來，又在實踐中洞察事物的本質，通過嚴格的論證，使經驗事實上升為理論。他根據力學原理去探求解決麵積和體積問題，已經包含積分學的初步思想。阿波羅尼奧斯的主要貢獻是對圓錐曲線的深入研究。
除了三大數學家以外，埃拉托斯特尼的大地測量和以他為名的“素數篩子”也很出名。天文學家喜帕恰斯製作“弦表”，是三角學的先導。
公元前146年以後，在羅馬統治下的亞曆山大學者仍能繼承前人的工作，不斷有所發明。海倫（約公元62）、門納勞斯（約公元100）、帕普斯等人都有重要貢獻。天文學家托勒密將喜帕恰斯的工作加以整理發揮，奠定了三角學的基礎。
晚期的希臘學者在算術和代數方麵也頗有建樹，代表人物有尼科馬霍斯（約公元100）和丟番圖（約公元250）前者是傑拉什（今約旦北部）地方的人。著有《算術入門》，後者的《算術》是講數的理論的，而大部分內容可以歸入代數的範圍。它完全脫離了幾何的形式，在希臘數學中獨樹一幟，對後世影響之大，僅次於《幾何原本》。
公元325年，羅馬帝國的君士坦丁大帝開始利用宗教作為統治的工具，把一切學術都置於基督教神學的控製之下。
公元529年，東羅馬帝國皇帝查士·丁尼下令關閉雅典的柏拉圖學園以及其他學校，嚴禁傳授數學。許多希臘學者逃到敘利亞和波斯等地。數學研究受到沉重的打擊。公元641年，亞曆山大被阿拉伯人占領，圖書館再次被毀，希臘數學至此告一段落。