1904年4月22日，奧本海默出生於美國紐約市。他的父親朱利葉斯·奧本海默年輕時從德國移居美國，是一位成功的商人。母親埃拉·弗裏德曼是一位畫家。奧本海默家境富裕，從小就受到了良好的教育。
奧本海默是一位少有的天才、公認的神童，他在5歲時便能夠收集地質標本。他曾在紐約德育學校學習，1922年進入哈佛大學，在3年裏讀完了大學4年的課程，1925年以優異的成績畢業。
奧本海默興趣廣泛，但隻有物理學才是他真正的誌向所在。當時美國的物理學尚不發達，因此他畢業後前往歐洲學習物理學。
在物理學革命的大潮中，奧本海默如魚得水，他憑借敏捷的頭腦迅速領悟到新理論的核心，並站到了理論研究的前沿。1925年奧本海默來到英國劍橋大學，1926年5月發表了第一篇論文。當時距德國物理學家海森堡關於新量子力學的第一篇論文發表還不到一年，奧本海默已充分掌握了海森堡的新方法，用以解決分子帶狀光譜的頻率和強度問題。同年7月，他發表了第二篇論文，討論了氫原子，提出了連續光譜問題，並且討論了如何用公式表示連續光譜波函數歸一化的問題。
奧本海默在科學界嶄露頭角，受到了麥克斯·波恩的賞識。1926年，他應波恩之邀來到哥廷根。當時波恩已經是舉世聞名的大物理學家，哥廷根理論物理研究所的學術帶頭人，而當時的哥廷根是能與哥本哈根相匹敵的最重要的理論物理學術中心之一。奧本海默開始在波恩的指導下從事研究，二人合作研究出處理分子的電子自由度、振動自由度和轉動自由度的方法，現在此方法已成為量子理論的重要內容，被稱為“波恩-奧本海默法”。1927年春，奧本海默獲得博士學位，此後又在萊頓和蘇黎世從事研究。
1929年，奧本海默接受了在伯克利的加利福尼亞大學和加州理工學院的學術職位，回到美國。他繼續從事大量的尖端性研究，幾乎涉及到當時物理學中全部的重點科研課題，取得了很多成果。在加利福尼亞期間，他成為美國的一名重要的物理學權威和學術帶頭人。奧本海默其貌不揚，據查姆·伯曼特描述，“他頭部狹窄，個子瘦瘦，耳朵尖尖，長得獐頭鼠目”，但他崇高的聲望、淵博的學識、精湛的造詣吸引了很多弟子；他敏捷的思維、謙虛坦率的作風、鋒芒畢露的個性和對人無微不至的關懷使弟子們緊密地團結在他的周圍。後來，他的許多弟子都成了一流的學者。
起初，他的全部精力都花在科研和教學上，沒時間看報紙，閑暇時以學習梵文自娛自樂。但到了20世紀30年代中期，他開始關心政治，有一段時間卷入了左翼集團的思潮。這為他的政治生涯奠定了基礎，同時也為1953年的不幸事件埋下了禍端。
早在1914年，英國作家威爾斯就預言了原子中巨大的能量將被製成可怕的武器。1938年核裂變現象被發現後，敏感的科學家們認識到，威爾斯的預言要實現了。20世紀30年代，美國的物理學已相當發達，1933年至1941年期間，又有100多名難民物理學家為逃避納粹的迫害來到美國，極大地充實了美國的科研力量。於是，在歐洲學術衰落之際，美國一躍成為世界學術中心，完全具備了製造原子彈的科研實力。1939年10月，美國總統羅斯福接受愛因斯坦的建議，著手發展原子彈的研製工作。1941年12月，美國的安全受到了嚴重威脅。尤其令人不安的是擁有強大的科研能力和戰爭資源的德國完全可能造出第一枚原子彈。美國政府終於痛下決心，撥出大量資金和人力進行原子武器的研製。
自1939年起，奧本海默一直在考慮原子能的釋放問題。1941年，他終止了一切個人的研究工作，全力投入“曼哈頓工程”。1942年初，他受命負責快中子和原子彈問題的工作。