1765年5月的一個星期日，瓦特正因試驗沒有取得任何進展而灰心喪氣的時候，新婚不久的妻子馬格麗特·米拉——一位溫柔而有主見的女性，見他日夜苦思，食不甘味，夜不成眠，就勸他不要把自己搞得太緊張了，利用假日到郊外玩一玩，散散心。於是，瓦特接受了妻子的建議，信步來到了城外的草原上。他抬頭向遠處的天空望去，見片片白雲在湛藍的天空下飄動。這白雲多像蒸汽啊！一想到蒸汽，瓦特的腦子又進入了工作狀態。隨著腳步不自覺地繼續前移，瓦特的腦海裏突然躍出了一個想法：蒸汽本身是有彈性的物體，當蒸汽膨脹後，一定會往真空的地方移動。如果在汽缸外另設置一個容器，蒸汽就可以進入這個容器內進行冷卻，這樣，無需再冷卻汽缸，蒸汽就可以冷縮，而汽缸也就可以保持在高溫狀態了。
猶如藝術家獲得靈感一樣，這一想法使瓦特興奮不已。他帶領幾個助手按這一想法開始進行試驗，經過夜以繼日的努力，好不容易造出了一台帶有分離冷凝器的蒸汽機。不料，這台蒸汽機幾乎不能工作，效果反而不如紐可門蒸汽機，原因即在於汽缸和活塞間的密封不好，四處漏汽。
由於試驗的耗費，使瓦特的經濟狀況倍感艱辛，無力繼續試驗。從天性上說，瓦特本是個性格憂鬱的人，而且對痛苦和不安有些神經質，一碰上不順利的事就會表現出心灰意冷的情緒。每遇到這種情況，妻子米拉總是溫柔地鼓勵他，為此，瓦特十分感激她，把她當成自己的主心骨。這次又是在妻子的鼓勵下，瓦特又重振精神，在別人的資助下，繼續試驗。可是接著的數次試驗，也都因材料和工藝問題未很好解決而失敗了。恰在這時，伯明翰一位有遠見的實業家馬瑟·博爾頓看到了蒸汽機的潛在用途，主動請瓦特到他的工廠裏去進行發明試驗，並給以經濟上的資助。在這裏，瓦特又用了三年多的時間反複試驗，並在有經驗的製造槍膛的工人幫助下，製造出了較精密的汽缸和活塞，終於在1769年製成了裝有冷凝器的新型蒸汽機，在試轉中獲得了預期的效果。冷凝器的發明是瓦特對蒸汽機改進的第一大貢獻。
普通應用動力機的發明
瓦特的蒸汽機與紐可門蒸汽機相比，耗煤量減少了3/4，效率卻提高了6倍，其他各項性能均得到明顯改善。但由於它仍是一部“單向式”的蒸汽機（即隻在活塞一端進汽，靠大氣壓力實現反向運動），所以它隻能滿足礦山排水的需求，還無法作為一般動力機在工業各部門普遍應用。
此時的英國，正處於技術大變革的前夜，一場人類曆史上空前的工業革命正在這裏拉開序幕。這場革命的開端是由紡織機的改進開始的。一批工匠出身的傑出發明家如凱依、哈格裏沃斯、阿克萊特等人，相繼發明了飛梭、珍妮紡紗機、水力織布機等等，使英國紡織業的勞動生產率提高了幾十倍甚至上百倍。但是，就它們的動力來看，還主要是人力和水力，由於受生理極限、地理、季節等因素的限製，使動力問題成為製約勞動生產率進一步提高的“瓶頸”。
這樣一種社會環境促使許多人開始注意能否用蒸汽機為紡織業提供動力的問題。這當然也是瓦特完成了對蒸汽機的初步改進之後所關心的首要問題。事實上，瓦特在改進了單向式蒸汽機後並沒有停步，他又全身心地投入了新的研究試驗當中。經過十多年的努力，1782年瓦特終於發明了具有偉大曆史意義的“雙向式”蒸汽機。這種蒸汽機通過一個滑動閥的控製，在活塞的兩端輪流進汽、排汽，推動活塞作連續而均勻的往複運動。瓦特在1784年4月為“雙向式”蒸汽機填寫的說明書中，不再把它的蒸汽機看作是為特殊目的所進行的發明，而是把它看作是大工業可以普遍應用的動力機。