為了使公司擺脫困境，托馬斯·沃森首先向銀行借了5萬美圓的貸款，用來研製和開發新產品。這時，他從他的舊老板兼仇人——約翰·亨利·帕森特那裏學到的東西派上了用場。1915年夏天，在開發新產品的同時，他開展了聲勢浩大的宣傳活動。因為他有著豐富的推銷經驗，所以，在他的領導下，這場宣傳活動收到了很好的效果。到了年末，銷售額比1914年增長了將近一倍。經過托馬斯·沃森的苦心經營，公司漸漸擺脫了危機，步入正軌。
這時，托馬斯·沃森開始整頓公司內部的不良風氣。他親自製定了公司的宗旨。因為他從底層幹起，忍受過不受尊重的痛苦，所以宗旨的第一條便是“必須尊重每一個人”。他首先要求管理者身體力行，平等地對待員工，想盡一切辦法讓員工對自己和自己所從事的工作產生好感，並從心裏尊重職工的權利和尊嚴。調動職工努力工作的積極性，而不要虐待或粗暴地對待他們，這樣才能形成團結友愛的氛圍。為了更好地貫徹這個宗旨，他專門叫人製定了手冊，內容是員工交往的具體禮節，並發給每個員工，讓他們隨時對照檢查。為了監督檢查員工是否遵守必要的禮節，防止不慎行為的發生，他還在各個基層任命“禮節委員”，監督檢查員工的言行。這些具體的禮節包括問候語、修辭用語等。不僅這樣，為了鼓舞員工的士氣，他還親自撰寫公司的口號和歌曲，創辦了公司小報和學校。在公司的牆上到處都可以看到振奮人心的標語和口號，諸如“要我學，等於零；我要學，才有用”，“我們有不同的思想、不同的工作崗位，但是我們著手工作時，有一件事情必須處理好，那就是人際關係”等。
在托馬斯·沃森的努力下，公司的風氣有了很大的改善。而這些規則也成為日後IBM精神的基礎。
事實證明這一次托馬斯·沃森的選擇是正確的。不久，第一次世界大戰結束，製表機成了搶手貨，於是，托馬斯·沃森不失時機地推出了這個產品。不久，幾乎所有的大保險公司和鐵路公司都用上了托馬斯·沃森公司生產的製表機。接著，根據顧客的反饋，托馬斯·沃森又推出了新型的打印——製表組合機。這種新型機器一經推出，立刻受到廣大顧客的歡迎，產品供不應求，各地的訂貨單像雪片一樣飛來。公司的銷售額猛增，利潤也達到了曆史的最高水平。
1923年在美國個人收入排行榜上出現了一個陌生的名字——計算、製表、記錄公司總經理托馬斯·沃森。49歲的托馬斯·沃森一下子從一個默默無聞的經理，成為一個全國矚目的成功的企業家。當初嘲笑他的那些經理，無不為自己當初的做法懊惱不已。
創建“IBM王朝”
1924年2月，托馬斯·沃森把計算、製表、記錄公司正式改名為國際商業機器公司，簡稱IBM（International Business Machine），並且雄心勃勃地宣布整個世界是公司的合法地區。從此，托馬斯·沃森開始了完全屬於他自己的事業。不過當初的IBM仍然是一家開發、生產製表機和考勤鍾的小公司，國際商業機器公司的名字與公司本身並不相稱。而且，在1929年的經濟危機中，這家小公司差點破產。不過，不久之後，這家名不見經傳的公司就引起了世人的矚目。
危機過後，IBM在托馬斯·沃森的領導下穩步地發展著。到了30年代，IBM開始擴大生產規模，生產的產品也趨於多樣化。不僅生產製表機，還生產打字機、打孔卡片以及打孔機、分類機、會計計算機等係列產品，並研製開發出了電動打字機、字母製表機等新產品。托馬斯·沃森本能地意識到“數據處理”與“信息”將成為未來的主宰，他喜歡對他的員工們說：“日常工作應該由機器來完成，而不應該是人。”不久之後，事實就證明了托馬斯·沃森這句話的正確性。
1932年，在大蕭條最嚴重的時候，托馬斯·沃森把工廠的生產能力提高了1/3，並且投入100萬美圓的巨資建造了IBM公司的研究實驗室，在當時的美國由公司投資興建的研究實驗室還沒有幾個。這個冒險的投資幾乎讓IBM破產，但是，在1935年，這個“風險投資”得到了回報。因為這一年，美國通過了《社會保險法》，這項法案的通過使新式會計計算機成為需要，而這種機器隻有IBM才能生產。因為早在受雇於國民收銀機公司的時候，托馬斯·沃森就意識到信息技術在社會中的力量，並且領會到如何從這種認識中獲利，因此，他把專利放在關鍵位置上，為IBM創造並獲得了許多關於製表係統的專利。競爭對手們要麼自己發明這些技術，要麼就向IBM公司申請使用專利的許可，而IBM公司有時卻並不頒發這類許可，這樣，在一段時間內，IBM公司就對技術形成了壟斷。
到30年代末，IBM公司的利潤超過了其他4家同類型大公司的總和，終於成為名副其實的全美最大的商用機器公司。不久，托馬斯·沃森創立了一個舉世無雙的研究和生產組織，並組建了一支聞名全國的銷售隊伍。這時的IBM不僅是商用機器製造業的楷模，也是當時全美工業甚至世界工業的楷模。
第二次世界大戰時期，由於戰爭規模巨大、情況複雜，所以需要大量的打孔機，以便把部隊的薪餉製成圖表，並記錄轟炸的結果、傷亡人數、戰俘人數、失蹤人數和供應情況。托馬斯·沃森敏銳地意識到了這個情況，並看準時機，馬上投入生產。不久，美國軍隊的許多機密部門都出現了IBM的機器。在戰爭中，IBM的機器發揮了重要的作用。在美日中途島海戰前，IBM的儀器成功地破譯出了日本人的密碼，並且多次搜尋到了德國的潛艇。在這段時間，IBM公司不僅生產各種儀器，也生產了大量的武器。雖然托馬斯·沃森公開表示過他不想發戰爭財，可是這場戰爭還是給他帶來了大量的財富。到了戰爭結束的1945年，IBM公司的銷售額猛增到了1.4億美圓。
戰爭結束之後，全世界掀起了一股研製計算機的熱潮，而早在1933年托馬斯·沃森就預見到了這個趨勢。他決定放棄成熟的機電技術而開拓電子學這塊處女地，最令人吃驚的是他設想了計算機存儲器，而這個東西在當時連工程師都想像不到。這一決定使電子計算機成為可能，誰也想像不到這個想法來自於一個從未受過正規教育的推銷員。托馬斯·沃森的這個天才設想，不僅為計算機科學的創立作出了巨大的貢獻，而且直接造就了第一批計算機科學家。不久，IBM為哥倫比亞大學設計了一種高速運算器，並用標準製表機零件製造出來。1937年，IBM又在有計算機“助產士”之稱的霍華德·艾肯博士的建議下決定綜合幾種機器，製造一種更快的運算器。他原計劃用幾個月的時間研製出來，結果直到1944年才研製成功一種每秒鍾可以進行3次運算的自動順序控製計算機，它的出現標誌著計算機時代的開始。