青年時代
約翰·馮·諾依曼1903年12月28日生於匈牙利布達佩斯一個殷實的家庭裏。他的父親曾受匈牙利國王弗朗茲·約瑟夫的冊封，獲得低等貴族稱號。
在布達佩斯，當時是數學界人才輩出的時代，馮·諾依曼與西拉德（1898年）、維格納（1902年）和特勒（1908年）相比，仍然是他們中間的佼佼者。關於他的童年，有不少傳說。有的故事說他的記憶力十分驚人。他自幼愛好曆史學，幾乎過目成誦，終於成了拜占庭史的行家，還諳熟聖女貞德審訊的詳情以及美國南北戰爭的細節。
有人曾說，他隻要看過電話本的某一欄，即能諳記欄內的姓名、地址和電話號碼。他不但機智過人，還富於幽默感，愛好雙關語和俏皮的打油詩。大多數的傳說都講到他自童年起在吸收知識和解題方麵具有驚人的速度。他6歲時能心算做八位數除法，8歲掌握微積分，12歲就讀懂領會了波萊爾的大作《函數論》的要義。
馮·諾依曼十幾歲時曾得到一位叫拉茲的頗有才智的中學教師的教誨，不久以後，他成了法格蒂和L.法傑爾的弟子。法傑爾人稱“許多匈牙利數學家的精神之父”。
馮·諾依曼的父親因考慮到經濟上的原因，請人勸阻年方17歲的諾依曼不要成為數學家。後來父子倆達成協議，諾依曼便去攻讀化學。1921～1925年，他先後在柏林和蘇黎世學習化學。1926年諾依曼同時獲得蘇黎世化學工程文憑和布達佩斯數學博士證書。
馮·諾依曼20歲時發表的序數定義，現在已被普遍采用，他的博士論文也是關於集合論的；他的公理化方法，在這個主題方麵，留下了不可磨滅的標記。他一生中始終對集合論和邏輯抱有很大的興趣。盡管1931年哥德爾證明了“數學的無矛盾性是不可能證明的”，說明數學推理能力有局限性，然而這僅僅使諾依曼情緒有過短暫的波動。
他在柏林（1926～1929年）和漢堡（1929～1930年）當過無薪大學教授（報酬直接來自學生的學費）。在這段時期，他離開了集合論，從事兩個課題：量子理論和算子理論方麵的工作。他被新的物理概念所激勵，更廣泛深入地進行無限維空間和算子的純粹數學的研究。基本見解是希爾伯特空間中的向量幾何和量子力學係統的態結構之間有著同樣的形式性質。馮·諾依曼論述量於力學的著作（德文本），在1932年發表，它被譯成法文，（1947年）、西班牙文（1949年）和英文（1955年）。至今，該文仍是這個主題的經典著作。諾貝爾獎金獲得者維格納，在一篇描述馮·諾依曼對量子力學所作貢獻的講演中說：“量子力學方麵的貢獻，就足以確保馮·諾依曼在當代理論物理領域中的特異地位。”
在普林斯頓大學
1930年，馮·諾依曼以客座講師的身份赴普林斯頓大學講學，任期一學年，次年即應聘當了普林斯頓大學的教授。1933年高級研究院成立時，他是研究院數學所奠基時代的六位教授之一，並在這一職位上了其一生。
1930年馮·諾依曼與瑪利埃塔·科維茜結婚，1935年生了一個女兒，取名瑪利娜。馮·諾依曼神童般的幼年預示他將來必成大器，歲月果然證實了這點，他很快就成為數學界的明星。在他揚名數學界的同時，關於他的種種趣聞軼事也廣為傳播開來了。他是個世界主義者，然而，成為美國公民卻是他自己作出的選擇。
馮·諾依曼家裏常舉辦持續時間很長的社交性聚會，這是遠近皆知的。約翰尼（約翰的昵稱）自已飲酒不多，但絕非滴酒不沾的人。他偶爾也玩撲克牌，不過，打起牌來，他總是輸家。
1937年馮·諾依曼與妻子離婚；1938年又與克拉拉·丹結婚。克拉拉·丹隨諾依曼學習數學，後來成為優秀的程序編製家。多年後，克拉拉在一次接受記者采訪談及她丈夫時說道：“他對自己家的屋子一點兒幾何頭腦也沒有，連個位置都搞不清楚……一次在普林斯頓，我叫他去給我取一杯水，過了一會兒他回來了，問我玻璃杯在哪裏。我們在這所房子裏住了17年，他從來沒有用過錘子和螺絲刀，家裏的事，除了修拉鏈以外，他一點也不做。他修拉鏈可以說是‘手到病除’。”
馮·諾依曼絕不是那種臉譜化的大學教授樣子。他是個粗壯結實的男子漢，衣著整齊、講究。自然有人說他有時是何等的心不在焉。一天早晨馮·諾依曼從普林斯頓的家裏驅車出發到紐約赴約會，車抵新不倫瑞克時，他又打電話回來問他妻子：“我上紐約去幹什麼？”當然這可能不完全貼切，不過可以肯定有一天下午一個人開車送他回家的情形。因為那天晚上他家有一次聚會，那個人又記不清到他家的路途。於是就問他，下次再來時怎樣辨認他的那所房子。他說：“那可容易，街邊有家鴿啄食的那所房子即是我家。”