李善蘭自幼就讀於私塾，受到了良好的家庭教育。他天資穎異，勤奮好學，讀詩書過目成誦。9歲時，李善蘭發現父親的書架上有一本中國古代數學名著《九章算術》，便取下閱讀。他僅靠書中的注解，竟將全書426個數字應用題全部解答出來，從此便迷上了數學。14歲時，李善蘭又靠自學讀懂了明末徐光啟和利瑪竇合譯的古希臘數學名著——歐幾裏得《幾何原本》的前六卷。可惜徐光啟和利瑪竇並沒有譯出後麵幾卷，李善蘭深以為憾。歐氏幾何嚴密的邏輯和推理，與偏重實用解法和計算技巧的中國古代傳統數學有很大不同，因而李善蘭在《九章算術》基礎上又吸取了《幾何原本》的新思想，數學造詣日趨精深。
李善蘭在故裏與蔣仁榮、崔德華等好友組織“鴛湖吟社”，常遊山水，分韻唱和，曾利用相似勾股形對應邊成比例的原理測算出山的高度。直到現在，李善蘭的家鄉還流傳著他在新婚之夜將頭探出閣樓窗外觀測星宿的故事。
後來，他作為州縣生員，到省府杭州參加鄉試。雖精通算術，但因八股文章做得不好而落第。他並沒有懊惱，而是利用在杭州的機會，搜尋各種數學書籍，包括李冶的《測圓海鏡》和戴震的《勾股割圓記》，他的數學水平又有了很大提高。1840年，鴉片戰爭爆發，帝國主義列強入侵中國的現實激發了他科學救國的思想，從此在家鄉刻苦從事數學研究工作。1845年前後，李善蘭在嘉興陸費家設館授徒，得以與江浙一帶的著名學者顧觀光、張文虎、汪曰楨等人相識，共同討論數學問題。期間，李善蘭陸續撰成《四元解》、《麟德術解》、《弧矢啟秘》、《萬圓闡幽》和《對數探源》等，聲名鵲起。1851年，李善蘭與著名數學家戴煦相識，在學術上相互切磋，取長補短。與數學家羅士琳、徐有壬也往來甚密。
1952年夏，他搬到上海，結識了英國傳教士偉烈亞力與艾約瑟，他們對李善蘭的才能頗為賞識，便邀請他到墨海書院共譯西方科技書籍。1852至1859年間，他與英國漢學家偉烈亞力合譯歐幾裏得《幾何原本》的後九卷，完成了徐光啟、利瑪竇的未竟事業，也算了卻了少年時的一個心願。又與艾約瑟合譯了《重學》20卷，其後與偉烈亞力合譯了《代數學》13卷、《代微積拾級》18卷、《談天》18卷，與韋廉臣合譯了《植物學》8卷。以上幾種書均於1857至1859年間刊行。此外，他還與偉烈亞力、傅蘭雅合譯過《奈端數理》，即牛頓的《自然哲學的數學原理》，可惜沒有譯完，最終未能刊行。
1860年，李善蘭在徐有壬幕下作賓客時，正值太平軍占領蘇州。因為戰事，他的各種著作手稿全部散失。從此，他“絕意時事”，埋頭從事數學研究，重新著書立說。其間，他與數學家吳嘉善、劉彝程等人都有過學術上的交往活動。
1861年秋，洋務派首領、兩江總督曾國藩在安徽籌建安慶軍械所，並邀著名化學家徐壽、數學家華蘅芳入幕。李善蘭也於1862年被曾國藩聘請前來主持科技活動事宜。他到安慶後立即請求曾國藩重印刊行《幾何原本》等數學書籍，並推薦張文虎、張斯桂等人入幕。他們經常進行學術討論，積極參與洋務新政。
1864年夏，曾國藩攻陷太平天國首都天京，李善蘭等人也隨之前往。他再次提出刻印他所譯著的數學書籍，這個建議也得到曾國藩的支持和資助，於是1865年金陵刊本《幾何原本》15卷和1867年金陵刊本《則古昔齋算學》24卷問世。1866年，在南京開辦金陵機器局的李鴻章也資助他重刻《重學》20卷，並附《圓錐曲線說》3卷出版。
1866年，在北京的京師同文館內添設了天文算學館，廣東巡撫郭嵩燾上疏舉薦李善蘭為天文算學總教習，但李善蘭忙於在南京出書，直到1868年才北上就任。從此，他完全轉向於數學教育和研究工作，直至去世。
李善蘭到同文館後，1869年即被“欽賜中書科中書”，從七品卿銜。1871年，加內閣侍讀銜。1874年，升戶部主事，加六品卿員外銜。1876年，升員外郎，從五品卿銜。1879年，加四品卿銜。1882年，授三品卿銜，任戶部正郎、廣東司行走、總理各國事務衙門章京。一時間聲譽遍及京師，但他依然孜孜不倦從事同文館的教學工作，並埋頭進行學術著述。期間，1872年發表《考數根法》，1877年出版《代數難題》，1882年去世前幾個月，還在著《級數勾股》二卷。
他學通古今、融合中西，以《測圓海鏡》為基本教材，培養了一大批人才。其間所教授的學生共百餘人，知名者有席淦、貴榮、熊方柏、陳壽田、胡玉麟、李逢春等。這些人在傳播近代科學特別是數學知識方麵都起過重要作用。
李善蘭在數學方麵的研究成果主要見於其所著《則古昔齋算學》中的13種24卷，以及題為“《則古昔齋算學》十四”的《考數根法》。其中，1867年刊行的《則古昔齋算學》收錄他二十多年來的各種數學著作，計有《方圓闡幽》1卷、《弧矢啟秘》2卷、《對數探源》2卷、《垛積比類》4卷、《四元解》2卷、《麟德術解》3卷、《橢圓正術解》2卷、《橢圓新術》1卷、《橢圓拾遺》3卷、《火器真訣》1卷、《對數尖錐變法釋》1卷、《級數回求》1卷、《天算或問》1卷。而《考數根法》則發表於1872年的《中西聞見錄》第二、三、四號上。李善蘭還有其他數學著述多種，如《測圓海鏡解》、《測圓海鏡圖表》、《九容圖表》、《粟布演草》、《同文館算學課藝》和《同文館珠算金躊針》等。