1904年4月22日，奥本海默出生于美国纽约市。他的父亲朱利叶斯·奥本海默年轻时从德国移居美国，是一位成功的商人。母亲埃拉·弗里德曼是一位画家。奥本海默家境富裕，从小就受到了良好的教育。
奥本海默是一位少有的天才、公认的神童，他在5岁时便能够收集地质标本。他曾在纽约德育学校学习，1922年进入哈佛大学，在3年里读完了大学4年的课程，1925年以优异的成绩毕业。
奥本海默兴趣广泛，但只有物理学才是他真正的志向所在。当时美国的物理学尚不发达，因此他毕业后前往欧洲学习物理学。
在物理学革命的大潮中，奥本海默如鱼得水，他凭借敏捷的头脑迅速领悟到新理论的核心，并站到了理论研究的前沿。1925年奥本海默来到英国剑桥大学，1926年5月发表了第一篇论文。当时距德国物理学家海森堡关于新量子力学的第一篇论文发表还不到一年，奥本海默已充分掌握了海森堡的新方法，用以解决分子带状光谱的频率和强度问题。同年7月，他发表了第二篇论文，讨论了氢原子，提出了连续光谱问题，并且讨论了如何用公式表示连续光谱波函数归一化的问题。
奥本海默在科学界崭露头角，受到了麦克斯·波恩的赏识。1926年，他应波恩之邀来到哥廷根。当时波恩已经是举世闻名的大物理学家，哥廷根理论物理研究所的学术带头人，而当时的哥廷根是能与哥本哈根相匹敌的最重要的理论物理学术中心之一。奥本海默开始在波恩的指导下从事研究，二人合作研究出处理分子的电子自由度、振动自由度和转动自由度的方法，现在此方法已成为量子理论的重要内容，被称为“波恩-奥本海默法”。1927年春，奥本海默获得博士学位，此后又在莱顿和苏黎世从事研究。
1929年，奥本海默接受了在伯克利的加利福尼亚大学和加州理工学院的学术职位，回到美国。他继续从事大量的尖端性研究，几乎涉及到当时物理学中全部的重点科研课题，取得了很多成果。在加利福尼亚期间，他成为美国的一名重要的物理学权威和学术带头人。奥本海默其貌不扬，据查姆·伯曼特描述，“他头部狭窄，个子瘦瘦，耳朵尖尖，长得獐头鼠目”，但他崇高的声望、渊博的学识、精湛的造诣吸引了很多弟子；他敏捷的思维、谦虚坦率的作风、锋芒毕露的个性和对人无微不至的关怀使弟子们紧密地团结在他的周围。后来，他的许多弟子都成了一流的学者。
起初，他的全部精力都花在科研和教学上，没时间看报纸，闲暇时以学习梵文自娱自乐。但到了20世纪30年代中期，他开始关心政治，有一段时间卷入了左翼集团的思潮。这为他的政治生涯奠定了基础，同时也为1953年的不幸事件埋下了祸端。
早在1914年，英国作家威尔斯就预言了原子中巨大的能量将被制成可怕的武器。1938年核裂变现象被发现后，敏感的科学家们认识到，威尔斯的预言要实现了。20世纪30年代，美国的物理学已相当发达，1933年至1941年期间，又有100多名难民物理学家为逃避纳粹的迫害来到美国，极大地充实了美国的科研力量。于是，在欧洲学术衰落之际，美国一跃成为世界学术中心，完全具备了制造原子弹的科研实力。1939年10月，美国总统罗斯福接受爱因斯坦的建议，着手发展原子弹的研制工作。1941年12月，美国的安全受到了严重威胁。尤其令人不安的是拥有强大的科研能力和战争资源的德国完全可能造出第一枚原子弹。美国政府终于痛下决心，拨出大量资金和人力进行原子武器的研制。
自1939年起，奥本海默一直在考虑原子能的释放问题。1941年，他终止了一切个人的研究工作，全力投入“曼哈顿工程”。1942年初，他受命负责快中子和原子弹问题的工作。
这项研究涉及到许多未知的问题，而这些问题又分给许多小规模的实验室。在这种情况下，他的工作效率受到了极大的限制。奥本海默认识到这一问题，建议把研制武器的工作集中在一个实验室内。主管“曼哈顿工程”的莱斯利·格罗夫斯接受了他的建议。事实证明，这一英明决定为研制工作争取了宝贵的时间。
格罗夫斯接受奥本海默的意见，选择新墨西哥州的洛斯阿拉莫斯为实验室所在地，并且任命奥本海默为实验室主任。在此之前，奥本海默几乎没有管理方面的经验，让他主管一个如此规模的实验室颇为勉强，然而，让一个原子物理方面的外行担此重任将是更加危险的。就此而言，在地道的美国科学家中奥本海默几乎是唯一人选。
“曼哈顿工程”的规模和难度是空前的。前后共耗资20亿美元，有15万人参加工作，仅在洛斯阿拉莫斯就有4000名研究人员，设有理论物理、化学及冶金、军事研究、实验核物理、炸药、炸药物理、规划等7个研究所。面对如此浩大的工程，管理、协调和统筹方面的工作是极为重要和困难的。在1943年到1945年之间，奥本海默出色地完成了洛斯阿拉莫斯实验所的组建和管理工作，充分展示了自己在科研和科研管理方面的杰出才能。他的中心工作是集中全部专家的智慧，协调各部门的关系，集思广益，协同攻关。在技术方面他的突出贡献是解决核弹“临界质量”问题。1945年7月16日，第一枚原子弹试爆成功。鉴于奥本海默的卓越贡献，“原子弹之父”的殊荣他当之无愧。
原子弹问世时，“二战”大局已定，然而美国从其利益出发，仍然决定在日本投放原子弹。在轰炸日本前，美国政府向奥本海默等4名科学家组成的咨询委员会征求意见。当然，美国政府决心已定，向科学家咨询主要是做舆论准备，但奥本海默等人的结论也并非全无作用。考虑到使用原子弹可以减少美国的损失，提前结束战争，奥本海默、费米、劳伦斯、康普顿4人委员会做出了支持轰炸日本的决定。这是奥本海默第一次参与政治决策，也是令他最遗憾的错误。起初他估计袭击广岛将杀死2万人，实际上有13万余人丧生。另一枚威力更大的原子弹在长崎杀死了六七万人。耀眼欲盲的闪光，狰狞的蘑菇云，成为几十年压在人类心头的恶梦。后来，奥本海默用一句话评论这个错误的决定：“当时我太欠考虑了。”
第二次世界大战结束后，奥本海默作为原子弹的主要设计者赢得了极高的威望。1946年美国政府设立原子能顾问委员会，任命奥本海默为主席。这个委员会的职责是为原子能发展计划提供科学、技术指导，具体来说就是为美国提供“又多又好的核武器”，然而奥本海默本人最关心的是原子能的国际控制问题。在原子能顾问委员会成立之前，他就提出了原子能的和平利用及国际控制问题，但这一思想受到了政府要员的压制。后来，关于原子能国际控制的思想日趋成熟，得到了政府内外的广泛支持。1946年3月，由奥本海默策划并参与起草的《艾奇逊-利连撒尔报告》问世，这一文件充分体现了奥本海默的主张，其核心是：主张和平利用原子能，在任何情况下原子武器不被用于战争；关于原子能的研究应置于联合国的绝对控制之下。当然，原子能控制问题远非奥本海默力所能及，甚至在原子能和平利用思想深入人心的今天，核武器的控制仍使各界人士无能为力。
1962年奥本海默患了喉癌，于1967年2月18日病逝。
