936年德国萨克森王朝国王亨利一世中风而死,其子奥托继承王位。奥托继续执行其父的东征政策,征服了波西米亚,击败匈牙利人。此后调军南下攻打富庶的意大利,951年占领伦巴底,获得意大利王位。961年罗马贵族叛乱,教皇向奥托乞兵求援,奥托进抵罗马平息了叛乱。
962年教皇约翰十二世在罗马圣彼得大教堂为其举行加冕礼,称其为神圣罗马帝国皇帝,意为帝国和天主教一样包括一切基督教王国,是古代基督教罗马帝国的真正继承者。帝国的疆域包括今德国、奥地利、捷克斯洛伐克西部、瑞士、法国东部、低地国家、意大利的北部和中部。德意志的国王当然是神圣罗马帝国的皇帝,直到16世纪一直由教皇在罗马为其举行加冕典礼。
11世纪起神圣罗马帝国历届皇帝与罗马教廷争夺基督教世界的领导权,因而陷入长期纷争,帝国由此被削弱。1254年霍亨斯陶芬王朝结束,德国历史上出现了王位“大空位”时代。1273年哈布斯堡家族的鲁道夫四世当选为皇帝,称鲁道夫一世,此后神圣罗马帝国的帝位一直由哈布斯堡家族承袭。1356年查理四世颁布黄金诏书,规定皇帝由七大选侯推举。除直辖领地外,皇帝对帝国境内的诸侯领地没有约束权,神圣罗马帝国的皇权更加衰弱。16世纪宗教改革运动中,支持改革的德意志诸侯改信新教而与皇帝分裂,并导致了30年战争的爆发,帝国更加衰败,实际上仅有一个政治虚名。1804年8月,拿破仑宣布他为法兰西皇帝,取代了神圣罗马帝国皇帝在欧洲诸王权中传统的至高无上的地位。弗朗西斯二世被迫采用奥地利皇帝的称号,1806年8月正式辞去神圣罗马帝国皇帝的称号,神圣罗马帝国至此告终。