1864年9月，洛克菲勒與政治家斯皮爾曼的女兒羅拉結婚。他的這位太太給丈夫帶來了不少好運，因為嶽父斯皮爾曼大人已經是俄亥俄州的議員，所以克利夫蘭的財界不得不對洛克菲勒刮目相看。此時的克利夫蘭已經有石油精煉廠12座，但規模都很小。
2，一生最大的決定
洛克菲勒的煉油廠設在金斯伯裏的一條小河邊，離克利夫蘭市中心隻有2，4公裏的路程。不做則已，要做就全力以赴，這是洛克菲勒的個性。此時的他已經將自己的大部分精力，從貿易公司轉移到了煉油廠上麵。
如果說洛克菲勒最初進入石油業得益於安德魯斯的遊說的話，那麼他後來對石油的熱情完全是出於自己的判斷。
在洛克菲勒的精心打理下，煉油業務取得了很大成功，一年之後業務就超過了農產品生意，成為公司最賺錢的行業。
隨著煉油業務的發展，洛克菲勒同合夥人克拉克之間的矛盾也日益尖銳。從19歲與克拉克成立公司以來，洛克菲勒與克拉克的關係一直不是很融洽，因為克拉克並沒有把這個比自己小10歲的合夥人放在眼裏，而洛克菲勒也不會在自己羽翼未豐時便與比自己強的人作對，多年來，為了公司的業務，他兢兢業業，對趾高氣揚的克拉克多方閃避。不過，隨著洛克菲勒在公司裏地位的上升，克拉克不得不在多方麵依賴起洛克菲勒來，兩人的這種微妙關係終於在取得了某種平衡之後，才使得公司沒有因內訌而早早夭折。
但是，隨著自身實力的不斷增強，洛克菲勒意識到克拉克已經成為自己取得更大發展的絆腳石，如果想擁有更大的嶄露頭角的空間，就必須擺脫克拉克的束縛。1865年，洛克菲勒正式向克拉克攤牌。
決定合夥解散後，由經紀公司投資的這個煉油廠成為兩個合夥人爭奪的焦點，因為他們在經營中都認識到石油項目的巨大發展潛力。他們決定用拍賣的方式在他們之中產生煉油廠的最終歸屬者。
洛克菲勒對煉油廠的所有權抱著勢在必得的決心。煉油廠的底價是500美元，但很快雙方的報價就達到了7萬美元，這其實已經超出了煉油廠的實際價值。
不知是洛克菲勒選擇了石油，還是石油選擇了他。後來他在自己的回憶錄中詳細的記錄了當時的過程：
“最後價格開到了6萬美元，又一步步喊到了7萬美元，我開始擔心自己是否真的能夠買下這個企業，是否能籌到這麼多錢。最後，當對方喊到72000美元時，我幾乎是本能的喊出了72500美元的價碼。這時，克拉克說：‘我放棄了，約翰，煉油廠歸你了。’我提議立刻開支票給他，不過克拉克說：‘不用了，我樂意將煉油廠托付給你，在你方便的時候我們再結賬也不遲。’”
洛克菲勒雖然如願以償地獲得了煉油廠，但他並沒有占到便宜，他用自己在經紀公司的一半股份，換來了對煉油廠的完全控製權，像賭博一樣將所有的賭注壓在石油這個項目上。
克拉克退出後，公司名稱改為洛克菲勒·安德魯斯公司。這對於26歲的洛克菲勒而言，是人生的一次重要轉折。他在回憶這件事時曾說：“這是我一生所作的最大決定。”
從此之後，洛克菲勒便勤勤懇懇，全神貫注於自己的石油事業上了。他利用嶽父的關係從銀行申請了10萬美元的貸款，改進和增添煉油設備，擴大生產規模，使日產油量增至500桶，年銷售額也超出了百萬美元。當年，克利夫蘭市稅務局有這樣的記錄：
“1865年，洛克菲勒·安德魯斯公司共交納稅金31800元”
與此同時，洛克菲勒還大肆擴建與煉油相關的其它設施，並趁產油地缺乏統一管理、盲目開采導致油價暴跌的機會大量囤積原油。克利夫蘭《領導者》報上登出過這樣的消息：
“洛克菲勒·安德魯斯公司有一座大車庫，內可容納8輛原油裝卸運輸車。此外，還有兩座可存放60000桶油的倉庫。”
3，從克利夫蘭到紐約
內戰之後的美國，金錢成為時代的主旋律，人們以前所未有的高漲熱情追逐著財富。而作為世界經濟主動脈的石油，從那個時候起，開始顯示出其無限燦爛的遠景。發財的欲望驅使著成千上萬的人從世界各地來到賓夕法尼亞州和克利夫蘭等地區，以實現他們的石油夢。其中，克利夫蘭的煉油業發展的最為迅速。克利夫蘭市的《領導者》報曾做出過以下報道：
“盡管匹茲堡擁有比克利夫蘭更多的煉油廠，可是克利夫蘭得天獨厚的地理條件使得匹茲堡的煉油廠相形之下前途暗淡。克利夫蘭市的精煉油可以經五大湖從水路運往歐洲，而如今鐵路網的不斷延伸，也使它成為連通賓州石油、煤炭生產地帶和內陸消費地區的轉運中樞。”