在洛斯阿拉莫斯期间，原子核裂变过程所提出的大量计算任务，促使冯·诺伊曼关注着电子计算机的研究情况。
1945年3月，冯·诺伊曼为宾夕法尼亚大学起草了离散变量自动电子计算机EDVAC的设计方案，轰动了科学界。第二年6月，他又与A·伯克斯，哥德斯坦联名提出了更完善的报告，揭开了计算机发展史上新的一页。
在这两份报告中，冯·诺伊曼建立了计算机组织的最主要结构原理——存储程序原理。它确定计算机由五部分构成：运算器、控制器、存储器、输入和输出装置。程序由指令组成并和数据一起存放在存储器，机器按程序指定的逻辑顺序，把指令从存储器中读出来并逐条执行，从而自动完成程序描述的处理工作。
从1946年开始，冯·诺伊曼组织哥德斯坦等人在高级研究院进行了基于存储程序原理的IAS机的实际建造工作，1951年终于获得成功。它的运算速度达到每秒百万次以上，比ENIAC机（世界上第一台计算机）快数百倍，实现了冯·诺伊曼的设想。现代计算机的组织结构虽然有了一些重大变化，但就原理而言，占主流的仍是以存储程序原理为基础的冯·诺伊曼型机。他的思想深深影响着现代计算机的各个方面。冯·诺伊曼因此也被誉为“现代计算机之父”。
是的，计算机是走进21世纪的通行证。今天，计算机几乎已经成了现代科技的标志。
在IAS机进行初步调试时，发生了这样一件事：有人建议计算一道涉及2的幂的计算。计算机和诺伊曼同时开始运算，冯·诺伊曼竟领先完成了计算。他再次向世人展示了他那神奇的运算速度。
冯·诺伊曼的名字是与计算机设计家联系在一起的，然而，他对计算机的主要兴趣并不在于计算机的设计与制造，而在于如何利用这种新型科学工具，开创现代科学计算的新天地。1956年，美国原子能委员会在向冯·诺伊曼颁发费米奖时，特别提到了他对于在计算机上进行计算研究的贡献。
1945年起，冯·诺伊曼还致力于自动机理论及脑神经和计算机的对比研究，他被认为是自动机理论的创立者。他参加了有关信息论、控制论的系列会议，同数学家、物理学家、电工学家和生物学家进行广泛接触，逐渐形成了能同时应用于生物和技术领域的自动机理论。通过研究，他得出结论：计算机以速度取胜，而大脑则在复杂性上占优。
1955年初，冯·诺伊曼应耶鲁大学之邀，开始为美国最著名、最古老的科学讲座之一——希利曼讲座编写讲义，系统阐述他关于计算机、自动机和人脑的理论体系。由于他的病情加重和逝世，这次讲座的计划未能实现。1958年，耶鲁大学出版了讲义的单行本《电脑与人脑》。
