1765年5月的一个星期日，瓦特正因试验没有取得任何进展而灰心丧气的时候，新婚不久的妻子马格丽特·米拉——一位温柔而有主见的女性，见他日夜苦思，食不甘味，夜不成眠，就劝他不要把自己搞得太紧张了，利用假日到郊外玩一玩，散散心。于是，瓦特接受了妻子的建议，信步来到了城外的草原上。他抬头向远处的天空望去，见片片白云在湛蓝的天空下飘动。这白云多像蒸汽啊！一想到蒸汽，瓦特的脑子又进入了工作状态。随着脚步不自觉地继续前移，瓦特的脑海里突然跃出了一个想法：蒸汽本身是有弹性的物体，当蒸汽膨胀后，一定会往真空的地方移动。如果在汽缸外另设置一个容器，蒸汽就可以进入这个容器内进行冷却，这样，无需再冷却汽缸，蒸汽就可以冷缩，而汽缸也就可以保持在高温状态了。
犹如艺术家获得灵感一样，这一想法使瓦特兴奋不已。他带领几个助手按这一想法开始进行试验，经过夜以继日的努力，好不容易造出了一台带有分离冷凝器的蒸汽机。不料，这台蒸汽机几乎不能工作，效果反而不如纽可门蒸汽机，原因即在于汽缸和活塞间的密封不好，四处漏汽。
由于试验的耗费，使瓦特的经济状况倍感艰辛，无力继续试验。从天性上说，瓦特本是个性格忧郁的人，而且对痛苦和不安有些神经质，一碰上不顺利的事就会表现出心灰意冷的情绪。每遇到这种情况，妻子米拉总是温柔地鼓励他，为此，瓦特十分感激她，把她当成自己的主心骨。这次又是在妻子的鼓励下，瓦特又重振精神，在别人的资助下，继续试验。可是接着的数次试验，也都因材料和工艺问题未很好解决而失败了。恰在这时，伯明翰一位有远见的实业家马瑟·博尔顿看到了蒸汽机的潜在用途，主动请瓦特到他的工厂里去进行发明试验，并给以经济上的资助。在这里，瓦特又用了三年多的时间反复试验，并在有经验的制造枪膛的工人帮助下，制造出了较精密的汽缸和活塞，终于在1769年制成了装有冷凝器的新型蒸汽机，在试转中获得了预期的效果。冷凝器的发明是瓦特对蒸汽机改进的第一大贡献。
普通应用动力机的发明
瓦特的蒸汽机与纽可门蒸汽机相比，耗煤量减少了3/4，效率却提高了6倍，其他各项性能均得到明显改善。但由于它仍是一部“单向式”的蒸汽机（即只在活塞一端进汽，靠大气压力实现反向运动），所以它只能满足矿山排水的需求，还无法作为一般动力机在工业各部门普遍应用。
此时的英国，正处于技术大变革的前夜，一场人类历史上空前的工业革命正在这里拉开序幕。这场革命的开端是由纺织机的改进开始的。一批工匠出身的杰出发明家如凯依、哈格里沃斯、阿克莱特等人，相继发明了飞梭、珍妮纺纱机、水力织布机等等，使英国纺织业的劳动生产率提高了几十倍甚至上百倍。但是，就它们的动力来看，还主要是人力和水力，由于受生理极限、地理、季节等因素的限制，使动力问题成为制约劳动生产率进一步提高的“瓶颈”。
这样一种社会环境促使许多人开始注意能否用蒸汽机为纺织业提供动力的问题。这当然也是瓦特完成了对蒸汽机的初步改进之后所关心的首要问题。事实上，瓦特在改进了单向式蒸汽机后并没有停步，他又全身心地投入了新的研究试验当中。经过十多年的努力，1782年瓦特终于发明了具有伟大历史意义的“双向式”蒸汽机。这种蒸汽机通过一个滑动阀的控制，在活塞的两端轮流进汽、排汽，推动活塞作连续而均匀的往复运动。瓦特在1784年4月为“双向式”蒸汽机填写的说明书中，不再把它的蒸汽机看作是为特殊目的所进行的发明，而是把它看作是大工业可以普遍应用的动力机。
为了实现蒸汽机在工业上的普遍应用，还必须把活塞的往复直线运动转变为旋转运动。因此，瓦特同时又发明了曲柄连杆机构。这样，活塞的往复运动，通过曲柄连杆就转化成了主轴上的旋转运动。“双向式”蒸汽机和曲柄连杆机械的结合，使蒸汽机成为名副其实的“万能发动机”，即可普遍适用于工业生产。这两项发明成为瓦特对蒸汽机的第二大贡献。
除此之外，瓦特还为使蒸汽机的功能达到完善化而作了大量的工作。例如，采用空气泵来排除汽缸中残存的空气和水；使用涂油的衬垫来提高活塞的密封性能；在汽缸和汽缸外罩之间设置蒸汽夹套来防止散热，以便保持汽缸的温度；采用高于大汽压的蒸汽，使它在汽缸中膨胀来作功，为大幅度提高蒸汽机的效率开辟了新的途径；他还发明了示功器，可以将蒸汽的压力与其体积的关系描绘成一个图。此外，瓦特还有一项值得提及的重要发明，这就是离心式调速器。这是一种利用离心原理自动调节汽缸的进气量，从而保证蒸汽机主辆转速保持稳定的装置。这种装置的工作原理是：在一根能够旋转的垂直轴上系有两个金属球，用蒸汽使垂直轴旋转。当垂直轴开始旋转时，由于离心作用，金属球就会上升。汽缸里蒸汽过多时，调节器的垂直轴的旋转就加快，金属球于是就上升得更高，从而使阀门部分闭合，进入汽缸里的蒸汽也随之减少。蒸汽压力小了，垂直轴的转速也随之减慢，于是金属球在重力作用下开始下降，阀门又被打开，更多的蒸汽又进入汽缸。这样，进入汽缸里的蒸汽量得到了调节，可以基本保持不变，蒸汽机有了不断修正自己“错误”的“头脑”。因此，它可以说是最早的“自动控制”装置。它的意义也许并不限于装置本身，更重要的是，它所体现出来的“自动控制”原理给后辈技术发明家以深刻启迪。美国著名科普作家阿西莫夫据此认为，瓦特是“点燃两次工业革命的导火线”的人，即他不但以蒸汽机的改进发明而推动了第一次工业革命，而且当代正在经历的“自动化革命”也可追溯到他那里。
众所周知，早在远古时期，人类的祖先就学会了利用机械能来获得热能——钻木取火，这是人类向利用自然能迈出的第一步。第二步是其逆过程，即热能转化为机械能。蒸汽机的发明，特别是瓦特蒸汽机的发明标志着人类真正掌握了一种巨大的自然能源。这一步整整跨越了近百万年。瓦特蒸汽机的发明，使人类获得一种稳定可靠地把热运动转化为机械运动的机械装置，找到了一种效率高、能力大且燃料来源容易的原动机。瓦特蒸汽机发明后，迅速在采矿、纺织、冶金、机器制造、磨坊等各种行业中被广泛应用，大大提高了劳动生产率，促进了旧的工场手工业向机器大工业的迅速过渡，直接推动了18世纪的工业革命的深入开展。也由于瓦特蒸汽机的出现，才导致了火车、轮船的发明，使人类社会进入工业文明时代。因此，瓦特蒸汽机不但是科技史上有伟大意义的发明，而且是人类社会发展史上的一个重要里程碑。恩格斯对蒸汽机的发明曾给予高度评价：“蒸汽机是第一个真正国际性的发明，它使工场手工业时代迟慢的发展进程变成了生产中真正的狂飙时期”，“是社会领域中实现了巨大的解放性的变革。”
成功的动因
瓦特以其在蒸汽机改进方面的巨大贡献而于1784年被推选为爱丁堡皇家学会会员，1785年又被选为英国皇家学会会员。以技术工人的身份而进皇家学会，这对皇家学会来说还是首例。
1814年，瓦特又作为外国专家而成为法国科学院院士。
一个没有受过良好教育的普通工人，却为近代技术和社会发展作出如此重大的贡献，其成功的秘诀何在呢？这一直是一个为众人所关心却又众说纷纭的问题。
有人说，瓦特的发明是在很多人的启示帮助下取得的。这种观点是有道理的，因为任何发明都要继承前人创造性的成果。如果没有萨弗里、纽可门等前辈的成果，也就谈不上瓦特对蒸汽机的改进；同样，如果没有同时代的许多学者、工匠的帮助，瓦特要取得这样的成就也是不可能的。瓦特在发明冷凝器时，格拉斯哥大学的学者布莱克提出的潜热、比热等理论曾给他以启示。另外，如果不是伯明翰有经验的工匠帮助他解决汽缸和活塞的精密加工问题，瓦特的工作也很难最终完成。正如马克思指出的：“瓦特等人的发明之所以能够实现，只是因为这些发明家找到了相当数量的、在工场手工业时期就已准备好了的熟练的机械工人。”发明家们首先要继承前人和同时代的各项成就，然后才能有所作为。同时，蒸汽机的发明也是时代的产物，是当时社会生产的需要使蒸汽机由玩具、设想而成为社会普遍应用的动力机。
但另一方面，这决不意味着发明家本人的作用会因此而变得无足轻重。事实上，任何发明，尤其是其中最激动人心的篇章，总是由发明家的创造性才能谱写成的。从这个角度来看，蒸汽机的成功改进，又是瓦特的优秀品质、创造性才能和勤奋工作的结晶。
有人把瓦特的成就仅仅归功于瓦特的“天才”，实际上这只说出了问题的一个方面。在瓦特身上确实凝聚着好学、好奇、好问、善于动脑等有利于成为发明家的优良品质，这些品质是瓦特取得成功的重要条件。但更重要的还在于他善于发现问题，脚踏实地，坚持不懈，勤奋学习，勇于探索，这些在后天的实践中磨炼出来的优良品格鼓舞着瓦特勇于进取，去攻克一个又一个难关。瓦特虽然性格忧郁，但又是一个百折不挠的人，他善于灵活转移发明的目标，从而使他所设计和制造的蒸汽机日趋完善，这也正是他成功的奥秘所在。
瓦特勤奋学习不但表现在提高自身的业务能力方面，而且表现在他具有广泛的兴趣爱好。为了阅读外国科学技术书籍，他自学法文、意大利文、德文，并达到了精通的程度。他对古代史、法律、艺术、哲学等也十分感兴趣，并且十分喜欢音乐。此外，瓦特还是一位出色的土木工程师，他广泛参与了桥梁、运河、港口设施的设计，受到了人们的尊敬。
当然，瓦特把主要精力都投入了他最喜爱的机械发明制作方面。在改进蒸汽机成功之后，他并没有止步，直到晚年，仍在孜孜不倦地从事机械方面的研究，并取得了许多新的建树。
1819年8月25日，瓦特在休斯菲尔德的家里去世，终年84岁。为了纪念这位将人类带进工业社会大门的伟大发明家，在修建的很多纪念碑上面都刻着“ingenioet labore”（“才能加努力方能成功”）的文字。
