素以“半部论语治天下”著称的赵普可以称得上是宋朝的第一文臣。在赵匡胤还没有发迹的时候，赵普就已经在他父亲身边当差了，那时，赵匡胤还和他兄弟相称。后来，赵普成为匡胤的幕僚，在陈桥兵变中出了大力。在宋建国之初，赵普更是皇帝的左右手，以至于太祖的母亲杜太后都对他说：“我的儿子现在还不会做皇帝，一切还需赵书记劳心。”
赵普的祖籍是幽州蓟县（今北京），他的父亲赵迥在后唐末期举举家迁到常山（今河北正定），后晋时，赵普一家又迁居洛阳并长期在此定居。由于原籍已属于辽国控制，赵普便经常自称“今为常山人”。
小时候家境还不错，赵普也就读了些书，但都不求甚解，并没有积累多少学识，眼看着武功练不成，科举之途也没有希望，就学着他的父亲投奔军中做了谋士。
赵匡胤早就知道赵普这个人断事明敏，非常有才能，就把他拢络到自己的父亲赵弘殷帐下听差。赵弘殷赴淮南作战，不想在滁州生了一场大病。赵普在旁朝夕侍奉，甚得赵弘殷欢心。因为两家同姓为赵，赵普顺势与赵匡胤父子攀附为同宗。同一年，赵匡胤升任殿前都指挥使，选赵普做了节度推官，赵普正式进入赵匡胤的幕府。世宗死前任命赵匡胤为殿前都点检，并领归德军节度使，赵普也由此升为节度掌书记。
陈桥兵变后，赵匡胤为了为稳定局势，而且自己的幕僚们在后周的官职太低，只能留用范质、王溥、魏仁浦为宰相。赵普升为右谏议大夫、枢密直学士，参与掌握枢密院的军事大权，在平定了李筠叛乱后，赵普又升为兵部侍郎、枢密副使，成为赵匡胤幕府中第一个升为两府大臣的人。
太祖为了避免宋廷成为继后周之后第六个短命的政权，向群臣征询对策，只有赵普的回答让太祖最为满意。赵普建议太祖，对方镇要“稍夺其权，制其钱谷，收其精兵”，以加强皇权；对名望比较高的石守信等军事将领，要收其兵权，以避免可能的“兵变”。宋太祖采纳了这样建议，逐步实施，收到了良好的效果，赵普更加受到信任。后来，为了能让赵普做上宰相，太祖一天之内将范质、王溥、魏仁浦同时罢免。太祖忽略了一点，在任命新宰相时，敕书必须由在任宰相签署才能生效，学识不多的赵普也没有能够及时向太祖提出建议。最后没有办法，只好让皇弟“使相”赵光义以同平章事衔签署敕书。
这件事使读书不多的赵普受到很大的刺激。又有一次，太祖要改年号，找赵普商议，皇帝改年号必须要找以前没有被用的，当太祖定年号为乾德时，赵普在一旁不住地吹捧说改得好。过了很长一段时间，有大臣告诉太祖，这个年号曾经被前蜀用过。太祖让人一查，果然如此，心里很生气，就用毛笔在赵普的脸上划了几下，没好气地说：“看来宰相还是要用读书人才好。”赵普回去不敢洗脸，第二天上朝时脸上仍带着墨迹，赵匡胤看见后笑了起来，嘱咐他赶紧洗去，以后要多读些书才是。此后，赵普上完朝，一回到家中就把自己关在书房里，从箱子里取出书来读。
宋太祖信任赵普，赵普也敢于在宋太祖面前坚持自己意见。太祖非常信任前朝名将符彦卿，想让他掌管军队，赵普不同意，理由是符彦卿官职名气都已经很大，再掌管军队就会非常危险。赵普劝了几次，太祖都不听，并避开赵普直接把委任状发了下去，赵普知道后中途将委任状扣留了下来。太祖说：“我非常了解符彦卿，对他的恩情很深，他肯定不会辜负我的，你为什么要苦苦地难为他呢？”赵普只是轻轻地说：“周世宗也曾经对陛下很好。还是望陛下收回成命。”太祖愣了一下，默默地将委任状收了回来。
有一次，赵普向太祖推荐一个人做官。接连推荐了两次，太祖都没有同意。赵普并不气馁，再次上朝的时候，他又递上了推荐此人的奏章。太祖看后大怒，狠狠地将奏章撕成两半，扔在地上。赵普趴在地上，并不慌张，他把扯碎的奏章拾起来，放在袖子里。退朝回家以后，赵普把扯碎的奏章粘接起来。又过了几天，等太祖怒气渐渐平息之后，赵普又带着它上朝交给了太祖。宋太祖宋太祖不厌其烦，只好接受了他的意见。这个人上任之后果然很称职，后来为太祖出了大力，足以证明赵普的远见。
还有一次，赵普要提拔一名有功的官员，但宋太祖平时特别讨厌这个人，压着不批准。赵普仍然像上次那样坚持自己意见。宋太祖说：“我就是不提升他，你能怎么样？”赵普说：“古往今来，惩制恶人要用刑罚，奖励有功的人就应该赏赐官位。提拔人才，都是为国家着想，陛下怎么能够凭自己的喜好行事呢！”宋太祖听了怒，脸都气白了，拂袖而去。赵普紧紧跟在后面，太祖走进后内宫，赵普就站在宫门外不动。宫门前的卫士见宰相站在门口不走，只能向宋太祖回报。这时候宋太祖慢慢醒悟，就叫太监通知他，说皇上已经同意他的请求，叫他回家。
赵普在劝说皇帝的时候非常贤明，可是处理自己的事情却显得没有那么清醒。他对部下相当严苛，为是争夺权力也暗害了不少人。他对那些可能会对他的地位构成威胁的官员，不仅排挤，甚至进行陷害，这次他不仅阻挡薛居正、吕馀庆进入宰相的行列，还使参知政事处于宰相助手的地位，使其不能参与决策。宋太祖想起用资历学识都要高于赵普的窦仪出任宰相，赵普为了阻挡窦仪，又推荐薛居正任参知政事，成功地将窦仪排挤出局。后来太祖又想起用冯瓒为宰相，赵普就设计陷害冯瓒，将他送入牢狱。赵普还在视事阁坐屏的后面设了两个大瓮，如果有人不依从他的意思，就将其投入瓮中，并在下面点火焚烧。赵普的这些行为激起了不少人的怨愤。
太祖也知道赵普有不少不法行为，可当有人向他告发赵普时，他却生气地说：“大鼎还有两个耳朵呢，你没有吗？难道你不知道赵普是我的社稷之臣？”叫人把那人拉下去，在院子里转圈以示悔罪。过了一会儿又让那人上来，在他耳边轻轻地说：“以后不许再说了，今天就放了你，不许对别人讲这些事情。”这个时候太祖还需要用到赵普，故意不追究他而已。
宋太祖经常事先不通知就直接赶到赵普家中。有一天，太祖又一次登门，看到赵普堂前放了十个大坛子，就问赵普这里装的是什么东西。赵普回答说：这是吴越王钱俶派“海产”。原来，钱俶派人给赵普送了一封信，并顺便给他带了十坛“海产”。赵普还没来得及将它们搬进后室，太祖就到了。太祖听说是海产，就笑着说：“既然是吴越送来的海产，肯定不错，你把它打开来，让我也开开眼界吧！”赵普赶忙吩咐仆人打开坛盖，一看之下，在场的人全都傻了眼。原来坛里放的竟然是一块块的金子。太祖的脸立马沉了下来。赵普吓得赶忙跪在地上向太祖请罪，说：“臣没有看信，实在不知道里面是什么东西，请陛下恕罪。”太祖冷冷地说：“你就收下吧！他们是以为国家的大事都是由你们书生决定的。”
后来告发赵普的人就多了起来，宋太祖终于撤了赵普的宰相职位。
太宗登基以后，赵普又一次感到升迁的机会来临。因为“金匮之盟”与赵普有千丝万缕的关系，太宗也就越来越看重赵普的作用。他下旨任赵普司徒兼侍中，这是北宋前期最高的宰相职衔，后来又封他为梁国公。
赵普深知太宗的心意，在他又一次担任宰相后，就积极地迫害皇弟赵廷美。赵廷美很快就被罢免了开封尹的职务。赵普又设计诬告赵廷美与次相卢多逊勾结谋反，卢多逊全家被流放崖州，赵廷美的幕僚、小吏有6人在这次事件中被斩。接着，赵普又指使开封知府李符，诬告赵廷美整日哀怨不已，廷美流放到房州（今湖北房县）安置，很快就病死了。
后来，赵普因病被罢相，但朝廷拜其为太师，封魏国公，并给继续给以宰相的奉禄。
赵普是不是真的像传说中的那样只读过《论语》呢？有一次宋太宗和赵普闲聊，太宗随便问了一句：“有人说你只读一部《论语》，这是真的吗？”
赵普老老实实地回答说：“臣所知道的，确实不超出《论语》。过去，臣以半部《论语》辅佐太祖，现在臣用半部《论语》辅佐陛下。”
