瓦特出生於英國的格林諾克，由於家境貧窮沒機會上學，先是到一家鐘錶店當學徒，後又到格拉斯哥大學去當儀器修理工，瓦特聰明好學，他常抽空旁聽教授們講課，再加上他整日親手擺弄那些儀器，學識也就積累的不淺了。
1764年，格拉斯哥大學收到一臺要求修理的紐可門蒸汽機，任務交給了瓦特。瓦特將它修好後，看看他工作那麼吃力，就象一個老人在喘氣，顛顛顫顫地負重行走，覺得實在應該將它改進一下。
他注意到毛病主要是缸體隨着蒸汽每次熱了又冷，冷了又熱，白白浪費了許多熱量。能不能讓它一直保持不冷而活塞又照常工作呢？於是他自己出錢租了一個地窖，收集了幾臺報廢的蒸汽機，決心要造出一臺新式機器來。
從此，瓦特整日擺弄這些機器，兩年後，總算弄出個新機樣子。可是點火一試，那汽缸到處漏氣，瓦特想盡辦法，用氈子包，用油布裹，幾個月過去了，還是治不了這個毛病。
一天他又趴到汽缸前觀察漏氣的`原因，不小心一股熱氣衝出，他急忙躲閃，右肩上已是紅腫一片，就像被一把熱刀削過一樣，辣辣地疼起來，弄得他心煩意亂。他真有些灰心了，這時，是他的妻子給了他勇氣，妻子用激將法又激起了繼續研究下去的雄心。
他又回到地下實驗室，將過去的資料重新翻閱一番，打起精神又幹了起來，幹累了就守着爐子燒一壺水喝茶。一天，他一邊喝茶，一邊看着那一動一動的壺蓋。他看看爐子上的壺又看看手中的杯子，突然靈感來了：茶水要涼，倒在杯裏；蒸汽要冷，何不也把它從汽缸裏也“倒”出來呢？
這樣想着，瓦特立即設計了一個和汽缸分開的冷凝器，這下熱效率提高了三倍，用的煤只有原來的四分之一。這關鍵的地方一突破，瓦特頓然覺得前程光明。他又到大學裏向布萊克教授請教了一些理論問題，教授又介紹他認識了發明鏜牀的威爾金技師，這位技師立即用鏜炮筒的方法制了汽缸和活塞，解決了那個最頭疼的漏氣問題。
1784年，瓦特的蒸汽機已裝上曲軸、飛輪，活塞可以靠從兩邊進來的蒸汽連續推動，再不用人力去調節活門，世界上第一臺真正的蒸汽機誕生了。
