洛克菲勒花了40美元在克利夫蘭市的福爾索姆商學院接受了為期4個月的就業前培訓，主修會計和簿記，這是他一生接受的唯一一次正規商業培訓。1855年9月26日，在經過6個星期的就業奔波之後，他終於被克利夫蘭市的休威特塔特爾商行錄用為簿記員，這是他的第一份正式工作。
當時克利夫蘭是連接東西部運輸的中心城市，商業興旺。中部大平原地區出產的小麥、玉米、火腿以及休倫湖畔和密西西比出產的鐵礦都運到克利夫蘭，而賓州所產的煤炭也經克利夫蘭運到紐約。當時休威特塔特爾商行的主要業務就是代理貨運。洛克菲勒在公司主要負責審查貨運單據和各種存貨，核對商品買入賣出的每一個細節，注意每筆業務所應收取的傭金數目。他很快就適應了工作，並且已能很好地勝任它，他敏銳的眼光使任何錯漏都逃不過他的眼睛。
洛克菲勒除了記公司的賬之外，還準備了一個自己的賬本，上麵詳細的記載了各項支出的情況，如：手套一雙，2，5元；教會捐款，0，1元……他視自己的賬本比公司的賬本更重要。
洛克菲勒從16歲時開始記賬，這種良好的習慣他一直保持著，在他成為億萬富翁之後也沒有改變。記賬本成了洛克菲勒家族的傳家寶，他傳給了他的兒子小洛克菲勒，小洛克菲勒又傳給了他的孫子，可謂世代相傳。
他的這個賬本上曾記載了一筆非常有趣的生意：他本人充當“中間商”的角色，把買來的豬肉賣給父母和弟弟，從中獲利累計近160元。小小年紀，竟然打起了家人的注意，由此可見他對金錢的迷戀！
其實，洛克菲勒從小就是個財迷，對此他自己也不否認。他曾經講述過自己的一次經曆，那是他第一次看到巨款時的故事，他說：“我第一次看到銀行期票時，我正在休威特塔特爾公司當職員。一天，我的老板收到了紐約市一家銀行開出的一張4000美金的期票，他在辦公過程中讓我看了一眼那張票，然後將其鎖在保險櫃裏。等他一離開辦公室，我就打開保險櫃，拿出那張期票，張著嘴巴、瞪大眼睛看了一會，然後才放回去。這對我而言，是一筆從未見過的巨款。那天，我一次次打開保險櫃，熱切的凝視著那張期票。”
洛克菲勒的這份學徒工作，給了他最初的商業訓練，引領他進入到了充滿刺激的商業世界。更幸運的是，洛克菲勒與兩位老板是在同一間辦公室工作，他可以真切的觀察他們做生意的一切脈絡，這是難得的學習機會。兩位老板對這個孩子一點也不設防，經常談論各種生意場上的問題。洛克菲勒是一個擅長學習的人，他從不放過任何機會。他在替老板工作的同時，也在一旁冷靜的觀察事情的進展。他的細心觀察和冷靜思考使他養成了對工作的基本看法：誠實信用，注重聲譽，不放過任何一個細節問題。他堅信，總有一天他會像他們一樣，擁有自己的事業與前程。
5，自己的公司——克拉克·洛克菲勒公司
洛克菲勒從自己的第一份工作中得到了許多東西，特別是那些極為難得的商業方麵的經驗與訓練。後來，除了簿記工作外，洛克菲勒還負責與鐵路公司和船運公司的外交工作，成為老板不可多得的好幫手。1857年，年僅18歲的洛克菲勒已經升職為主任簿記員，薪水也由原先的每年300美元升為500美元。
然而很快，他便感到這份工作已經不能使他得到滿足了，雖然後來薪水漲到了600美元，但洛克菲勒最終還是決定離開休威特塔特爾公司。其實，就算工資再高，他也會離開那裏的，因為洛克菲勒注定不會安於做一名小職員，當他認為自己已經從工作中學到了所需要的東西時，便會義無反顧地離開，去尋找更為廣闊的天地。
事實上，在休威特塔特爾公司的這3年裏，洛克菲勒已經自作主張的倒賣起小麥粉和火腿來了。
“約翰，你怎麼搞的，竟然自作主張的買起小麥來了。我們公司以收取傭金和辦理貨運來賺取利潤，投機的生意我們可是從來不做的！”老板休威特有些埋怨的說。
“老板，根據新聞報導，英國即將發生饑荒，現在趁機把貨運倒紐約，一定可以賺大錢。另外，我還訂購了80桶火腿呢！”洛克菲勒頗有些得意的說。
他不隻是收購小麥，玉米，還購進肉幹、食鹽等，公司本來也做住宅、辦公室、倉庫等租賃業務，現在倉庫裏卻堆滿了約翰所囤積的小麥、玉米、火腿等。
不久，英國真的發生了饑荒，休威特塔特爾公司把囤積的貨物向歐洲出口，獲得了巨額利潤。這次成功一方麵給了洛克菲勒很多自信，另一方麵也讓他在當地小有名氣，許多人都對他刮目相看，尊稱他為洛克菲勒先生。
洛克菲勒離開休威特塔特爾公司之後，同他的一個英國朋友莫裏斯·克拉克合夥開辦了一家農產品經紀公司，資本共4000元（大概相當於現在的8萬美元），每人出資2000元。