回到劍橋後，牛頓又開始了他的研究工作。牛頓的最大成就是在數學方麵。早在1664年和1665年間冬天在研讀沃利斯博士的《無窮算術》時，他在試圖修改自己在求圓麵積的級數時發現這一定理的。
笛卡兒的解析幾何把描述運動的函數關係和幾何曲線相對應。牛頓在老師巴羅的指導下，在鑽研笛卡兒的解析幾何的基礎上，找到了新的出路。
可以把任意時刻的速度看成是在微小的時間範圍裏的速度的平均值，這就是一個微小的路程和時間間隔的比值，當這個微小的時間間隔縮小到無窮小的時候，就是這一點的準確值。這就是微分的概念。
求微分相當於求時間和路程關係在某點的切線斜率。一個變速的運動物體在一定時間範圍裏走過的路程，可以看作是在微小時間間隔裏所走路程的和，這就是積分的概念。求積分相當於求時間和速度關係的曲線下的麵積。牛頓從這些基本概念出發，建立了微積分。
微積分的創立是牛頓最卓越的數學成就。牛頓為解決運動問題，才創立這種和物理概念直接聯係的數學理論的，牛頓稱之為“流數術”。它所處理的一些具體問題，有切線問題、求積問題、瞬時速度問題以及函數的極大值和極小值問題等。
在牛頓前微積分已經得到人們的研究了，微分和積分的思想在古代就已經產生了。
公元前3世紀，古希臘的阿基米德在研究解決拋物弓形的麵積、球和球冠麵積、螺線下麵積和旋轉雙曲體的體積的問題中，就隱含著近代積分學的思想。
作為微分學基礎的極限理論來說，早在古代已有比較清楚的論述。比如中國的莊周所著的《莊子》一書的“天下篇”中，記有“一尺之棰，日取其半，萬世不竭”。
三國時期的劉徽在他的割圓術中提到“割之彌細，所失彌小，割之又割，以至於不可割，則與圓周和體而無所失矣”。這些都是樸素的，也是很典型的極限概念。
到了17世紀，有許多科學問題需要解決，這些問題也就成了促使微積分產生的因素。歸結起來，大約有四種主要類型的問題：
第一類是研究運動的時候直接出現的，也就是求即時速度的問題。
第二類問題是求曲線的切線的問題。
第三類問題是求函數的最大值和最小值問題。
第四類問題是求曲線長、曲線圍成的麵積、曲麵圍成的體積、物體的重心、一個體積相當大的物體作用於另一物體上的引力。
17世紀的許多著名的數學家、天文學家、物理學家都為解決上述幾類問題做了大量的研究工作，提出了許多很有建樹的理論，為微積分的創立作出了貢獻。
牛頓超越了前人，他站在了更高的角度，對以往分散的努力加以綜合，將自古希臘以來求解無限小問題的各種技巧統一為兩類普通的算法，即微分和積分，並確立了這兩類運算的互逆關係，從而完成了微積分發明中最關鍵的一步，為近代科學發展提供了最有效的工具，開辟了數學上的一個新紀元。
應該說，一門科學的創立絕不是某一個人的功績，它必定是經過多少人的努力後，在積累了大量成果的基礎上，最後由某個人或幾個人總結完成的。微積分也是這樣，是牛頓在前人各自獨立的基礎上建立起來的。
後來，在1707年，牛頓的代數講義經整理後出版，定名為《普遍算術》，主要討論了代數基礎及其在解決各類問題中的應用。
書中陳述了代數基本概念與基本運算，用大量實例說明了如何將各類問題化為代數方程，同時對方程的根及其性質進行了深入探討，引出了方程論方麵的豐碩成果，例如他得出了方程的根與其判別式之間的關係，指出可以利用方程係數確定方程根之冪的和數，即“牛頓冪和公式”。
牛頓對解析幾何與綜合幾何都有貢獻。他在1736年出版的《解析幾何》中引入了曲率中心，給出密切線圓，或稱曲線圓概念，提出曲率公式及計算曲線的曲率方法。
他還將自己的許多研究成果總結成專論《三次曲線枚舉》，於1704年發表。此外，牛頓的數學工作還涉及數值分析、概率論和初等數論等眾多領域。