后主既不能以身殉国，便只有出城请降了。宋军攻陷金陵内城后，并没有立即闯进皇宫内苑。后来曹彬谨遵宋太祖的命令，严令部下不得入宫搔扰后主内眷，并且约束部下，退到辕门以外，列好队伍，旌旗严整，戈甲鲜明，威风凛凛地等待后主出城纳降。果然不多久，就见后主率领诸王公大臣缓缓自宫中步出。他们一律免去冠服，只穿着贴身白衣，戴着青布小帽，以示“肉袒”请降。后主自捧皇印玉玺，宰相殷崇羲捧了降表，众大臣跟在后面，个个低眉垂首，战战兢兢地走向曹彬军中。不待他们走近，潘美和曹彬都起身迎上前去。后主诚惶诚恐地先向走在前面的潘美施礼，潘美没有托大，马上施礼以还。后主再向曹彬施礼，曹彬微笑说道：“在下甲胄在身，不及答拜。”后主惶恐地答道：“待罪之身，岂敢有劳元帅答礼？今率子弟僚属45人，恭候元帅发落。”说罢毕恭毕敬地将御玺呈上，殷崇羲也恭敬地献上降表。
曹彬接过御玺和降表，和颜悦色地安抚后主说：“阁下化干戈为玉帛，免使生灵涂炭，正合天心民意。这也是你的功劳，过去的事就休再提它了。”并请后主就坐。后主哪敢就坐，再三谦让后才在指定的位置上侧身坐下。坐下后略事寒暄，曹彬就把话题转到正题上，要求后主速速收拾行李，随军北上。他为人不促狭，又怜后主新遭家国齐灭之祸，便特地关照道：“阁下入朝之后，俸禄有限，况且北方多寒，阁下打点行装，宜多带珠玉金帛，慢慢取用。宫中府库之物，一经有司清点入册，阁下就无从再得了。切记，切记。”后主唯唯诺诺，称谢不已而归。
后主见过曹彬后，见对方神色恭敬，并没有出言不逊侮辱自己，心神也就稍安了。可他又哪会有心思去收拾金银珠宝？回到宫中，他听凭嫔妃们去安排行装，自己一个人步出内苑，希望找一个清静之所安静一下，可宫中哪里还有一寸清静之地呢？他踽踽行向宗朝，去向供奉在那儿的列宗列祖辞别。他不敢仰头看祖父的眼睛，祖父为他取名从嘉，原是指望他一切顺利，给江山社稷带来吉兆。未想自己不谙国政，把祖父辛辛苦苦打下来的江山拱手让人，无颜面对先祖啊！在宗朝的祖宗面前，李煜只恨无缝可钻，哪能久留？他又信步走到教坊，教坊的乐人宫娥们知道后主是来辞朝的，此别经年，或成永诀，伤心地为他奏起了离歌。离歌是专为送别的人们演奏的，其曲极其哀怨缠绵，听得离人断肠。后主心境本就极为凄惨，一听到这悱恻缠绵的离歌，顿时心如刀绞，热泪盈眶，而宫娥们也都泪珠涟涟地与他对视着。后主不堪此情，掩袖匆匆奔出教坊。后来他在随军押往汴梁途中，回忆这个离别的情景，填词憾慨道：
四十年来家国，三千里地山河；凤阁龙楼连宵汉，玉树琼枝作烟萝，几曾试干戈？
一旦归来臣虏，沈腰潘鬓销磨。最是仓惶辞朝日，教坊犹奏别离歌，挥泪对宫娥。
此时的后主，已全然身心交瘁了，可曹彬潘美等为防他有不测，又召他至宋军舟中饮茶。船与岸间架有一块独木板。后主见了，徘徊数次不敢登那块独木板。曹彬笑着命左右前去扶持，后主才上了船。饮茶完后，后主下船回宫，潘美等十分担心，怕后主会自杀，曹彬却笑着说：“你们看他连船边的木板都不敢过，如此怕死的人，怎么会有勇气自杀呢？”曹彬一话中的，切中了后主懦弱的要害。曹彬在见到后主纳降时的神色后，就曾对担心后主自杀的部下说过：“我看李煜神色，连懦夫女子都不如，他哪能自杀呢！我保他无事！”后主后来的所为，也真证明了曹彬识人的准确。倘若后主也有这么一双识人的慧眼，能明察贤愚忠奸，勇懦卑贱，南唐国势，或许不至于一败如此！
永别金陵的日子终于到了，这是金陵内城被攻占后的第三天，即公元975年十一月二十八日。当天天气十分阴冷，清晨开始下着霏霏细雨。李煜带着他的小周后及心爱的宫娥嫔妃，兄弟儿子，宰相等文武大臣，在宋军的押解下依依不舍地登上了北上的船只。此时江面阴风怒号，烟雨霏霏；江上密集的船只，在波涛汹涌中颠簸起伏；林立的帆樯，在阴风中激烈地飘扬抖动；大大的“曹”字帅旗两旁，分别树着几面“献俘阙下”的旗。这支押解降俘的船队多达1000余艘，首尾相连达十几里。后主被安排在曹彬、潘美的船后，由宋将郭守文专门护送。船主启动时，船上女眷与岸上送别的百姓一齐痛哭失声，秦淮河扬子江交汇处的这片码头，立时笼罩在一片愁云惨雾之中，离情别恨，大约莫过于此了。
后主立于船头，青巾白袍，泪眼朦胧，脸色凄惨。他强自睁开模糊的泪眼，一一扫视晨光熹微中虎踞龙盘的钟山，渐远渐去的紫禁城，古老的石头城雉堞。江风扑面，他眼中的泪珠也一一掉落江面。他心潮起伏，朝臣刘洞的一首献诗蓦地涌上心头：
石城古岸头，一望思悠悠。
几许六朝事，不禁江水流。
而唐代刘梦得的那首讥讽南朝陈后主的诗，用在自己身上不也正合适吗？联想至此，他不由低声吟哦出来：
王濬楼船下益州，金陵王气黯然收。
千寻铁锁沉江底，一片降幡出石头。
人世几回伤往事，山形依旧枕寒流。
今逢四海为家日，故垒萧萧芦荻秋。
后主这边伤心断肠，赵匡胤那边却正喜气洋洋地庆贺。赵匡胤素闻后主才名，急欲一见，于是下令沿途州县，设法保障押送李煜的船队畅行无阻。可时值隆冬，汴水冻涸，尽管一路凿冰击冻，修闸蓄水，船行还是很慢，直到第二年即公元976年农历正月初二，这只船队才抵达汴梁。
