1951年4月13日，张闻天携夫人刘英以及随行人员从北京启程，踏上了使苏的征途。这一时刻离张闻天结束留苏学习，告别莫斯科恰好整整二十年。1931年初，中国革命的征途漫漫，张闻天和杨尚昆一道几经周折，甚至在冰天雪地的黑夜摸索着行路，悄悄地返回到祖国。而今天，张闻天却是要作为一个新生社会主义大国的代表重回莫斯科。这一次张闻天是乘坐飞机回去。在首都机场，聂荣臻、杨尚昆以及苏联驻华大使罗申夫妇都前来送行。当飞机穿越西伯利亚大平原，徐徐降落在莫斯科机场时，张闻天和刘英夫妇内心都按捺不住涌动起来。
张闻天到任之际，正是中苏关系处于同志加兄弟的亲密友谊之中。新中国立国之初确立了“一边倒”外交方针，毛泽东亲自在莫斯科缔结了《中苏友好互助同盟条约》。中苏之间正在欢度他们的“蜜月”，两国之间几乎每一天都会有大量的政治、经济、军事和文化交流活动，几乎天天都有各种代表团的互访，当时中国派往苏联的留学生、实习技术管理干部多达两万以上。在外交方面两国随时都在作密切的磋商和配合。作为中国党和国家派出的代表，张闻天理所当然就成了中苏友好的“大管家”。
五十年代初的中国，战火甫熄，百废待兴，争取苏联的援助，支援国内经济建设是张闻天这个“管家”案头最重要的一项工作。从1950年到1954年，中苏达成了援建“156项工程”的协议。张闻天作为代表团成员协助周恩来、陈云、李富春参与几乎全部的谈判工作，随后张闻天又成了在苏联落实这些协议的总负责人。这156项工程，从立项、设计、选址、施工、试车、开工，几乎每一个环节都需要中苏双方的磋商，张闻天放手任命一批专门技术干部来负责，同时密切关注实施的进程，一有问题就亲自过问。同时张闻天还参考和研究了苏联工业化的经验，不断为我国经济建设提出建议。在编制“一五”计划期间，张闻天建议听取苏方提出的“按比例、稳步发展”的意见，他的报告受到了中央的高度重视。从国民经济恢复到第一个五年计划，苏联援华的156项工程基本上都是在张闻天的任职期间落实的，张闻天在其中付出的心血可想而知。
摆在张闻天这个“大管家”案头的另一件重要任务是，中苏在外交上的配合，解决朝鲜战争和印度支那问题。1950年6月25日朝鲜战争爆发后，10月25日，中国人民志愿军入朝参战，“抗美援朝，保家卫国”已经是全中国人民的共同行动。在中朝两国军队的奋勇战斗下，朝鲜战场的局势出现了十分微妙的局面。1951年4月，张闻天综合各方面情况，进行了细致的研究后提出：美国“企图在对它有利的一定条件下取得和谈与停战”，建议我中央作好和谈的准备。周恩来与中央对这份报告十分重视，并专门指示今后此类报告应以急电发回。事态的发展很快证明了张闻天的判断和分析。7月10日，停战谈判在开城正式举行。
在谈判斗争期间，张闻天为中、朝与苏联的磋商做了大量的工作。1951年6月，金日成在高岗和师哲的陪同下访苏；8月，周恩来率政府代表团访苏；1953年3月，周恩来率团出席斯大林葬礼并进行秘密磋商……张闻天几乎参加了每一次会谈和磋商，并且为代表团准备和提供大量的材料。
1954年，解决朝鲜战争和印度支那问题的日内瓦会议开幕。在中国代表团中，周恩来为首席代表、张闻天、王稼祥、李克农作为代表并肩坐在会场第三排放着“P·R·CHINA”标牌的坐席上。这一年4月14日，张闻天已经被任命为外交部副部长。在代表团出发前，张闻天已经协助周恩来进行了大量的准备工作。会谈开始后，张闻天经常陪同周恩来与苏联外长莫洛托夫、越南外长范文同以及英国外交大臣艾登进行会谈和磋商。每天晚上他们都要处理大量的文件、汇报，研究讨论谈判的对策。日内瓦会议是新中国成立之后参加的第一个大型国际会议，张闻天在周恩来的领导下做了卓越的工作。
日内瓦会议期间，张闻天参与了中美外交接触的活动，这一接触奠定了此后历时15年的中美大使级会谈的基础。张闻天还参与了和英国达成互换代办协议的谈判，从而实现了与英国的“半建交”。会后，张闻天陪同周恩来访问了民德、波兰等社会主义国家。11月，张闻天作为中国政府观察员出席了莫斯科“全欧会议”。1954年冬，张闻天受中央的委托，完成了与南斯拉夫建交谈判的工作，使中南两国在1955年1月实现了建交。
张闻天在莫斯科大量的工作还包括对中苏两国间文化交流的管理。这其中最突出的是对中国留学人员的关怀和管理。张闻天十分强调政治问题。针对留学人员中存在的各种思想问题，张闻天强调要守纪律，要安心学习，钻研学业，要同苏联人民友好。张闻天专门建议在使馆建立“留学生管理处”，亲自指示把馆内一个仓库腾出来作为留学生聚会的场所。他还经常前往各地学校看望留学人员。他指示成立中国留苏学生总会，亲自推荐当时正在莫斯科动力学院学习的李鹏任主席。在他的领导下，中国驻苏使馆成了中国“留学生之家”。对于国内派到苏联的各种代表团，张闻天也经常注意关心。1954年夏，总政歌舞团访苏，准备将《斯大林颂》和《东方红》作为开幕曲，苏联方面对《斯大林颂》表示异议。张闻天注意到斯大林去世后，苏联已经出现反对个人迷信的迹象，便建议用两国的军歌代替这两首曲子。当时有人对取消《东方红》节目表本不理解，张闻天就请示了中央。中央同意张闻天的意见。毛泽东后来还表扬了这个做法，并且说：“我就不愿听《东方红》。”
使馆的内部建设是张闻天到任之初所做的第一项工作。新中国的外交工作开展之初，很多内部机制还不健全，相当多的工作人员都是“新手”，在对外交工作的认识上也存在着许多不正确的倾向。不少同志认为外交就是迎来送往的礼节性工作，还有很多同志在远离家乡的异国感到十分寂寞无聊。有些同志发牢骚，说大使馆就是“大使”的“公馆”，是大使养病休息的地方；甚至说使馆只要四个人就够了，因为四个人便可凑一桌麻将。
张闻天看到这些问题后，马上召开全体工作人员会议。在讲话中，张闻天首先要求全体人员端正对外交工作的认识，提出了外交工作的三大任务：首先，要增进与苏联人民的友谊；其次，要加强自身的政治与业务学习；第三，要加强对所在国及国际形势的调研与分析。为了贯彻这三项任务，张闻天在中国驻外使馆中率先建立了专门的研究室，制定了调研计划，并且亲自参与和领导调研工作。在他的领导下，驻苏使馆很快呈现出热烈的学习和研究局面，向中央和国内发回了大量有价值的建议和报告。张闻天总是要求大家在实际工作之余注意观察和思考全局性的问题，因而驻苏使馆发回的许多报告，如《关于朝鲜停战的和谈问题》、《关于东方的“洛迦诺协定”》（针对印支问题），都带有很强的预见性。
1951年7月25日，张闻天受中央和外交部的委托，以外交部驻欧特派代表的身份对我国驻波兰、民德、捷克、匈牙利、罗马尼亚、保加利亚六国的使馆（民德当时称使团）进行了视察。张闻天每到一处，都深入了解情况，听取各方面意见，并且结合驻苏使馆建设的经验，谈自己的看法和意见。结束巡视后，张闻天给外交部提供了一份4000字的报告，获得了一致的赞扬和肯定。
张闻天对六国使馆的巡视，极大地促进了各使馆工作的提高。当时任匈牙利大使的黄镇后来回忆道，我们本来不清楚使馆工作应该怎样做，闻天同志来巡视，帮助我明确了应该往什么方向努力。耿飚同志回忆道，当自己去瑞典赴任途经莫斯科时，张闻天找他谈话，说大使的工作重点是调研，不要陷于事务，不要只注意搞礼宾，调查研究驻在国情况和国际关系是使馆的一项根本任务，也是做好其他工作的基础。耿飚总是十分深情地说，自己从张闻天那里得到了“许多有益的教诲”。
