通过对一些条目的审阅、推敲、修改，胡乔木对大百科全书条目的写法形成了带有规律性的认识。他指出：1.百科条目是叙述文而不是论文，内容和语气都要客观，脉络要清楚，措词要准确，每句话都要表达清楚。主语力求稳定，以免支离破碎。2.断语要少，要客观，尽量不用编者的口吻作论断，有些必要的论断，可以引用权威性的文献资料。3.不要使用宣传性、颂扬性词语，而要用客观陈述的方法，以保持释文的客观性和稳定性。4.不要用那些“戴帽子”的话，比较空泛的话，要写出具体内容，事情要交代明白，使读者看得懂。事物的发生时间和事实要写清楚，能写出年代的写出年代，能写出年月的写出年月，尽量不要含混和不确定。胡乔木的这些意见和要求，为大百科全书编撰工作所共同遵循，不仅对百科全书的编撰，而且对各类辞书的编撰具有普遍的指导意义。
胡乔木为高质量地编撰这部代表国家水平的大型工具书《中国大百科全书》真正是呕心沥血、殚精竭虑。他看到了一些学科分卷的出版，但未能看到全书第一版出齐。他在病情重笃之际，仍一直惦念不忘。他对前来探视的梅益说：“对于《中国大百科全书》的工作，我曾说与你共进退，看来我要先退了。”“你们要有始有终，保证全书的质量，这事关国家科学水平和政治荣誉。”“全书即将出齐，对全书一版工作，要认真总结，要报告中央，给中央写报告。对二版工作，要抓紧准备，要提出设想，听大家的意见。”殷殷之意，拳拳之情，催人泪下，激人奋进。
《当代中国丛书》1981年6月，党的十一届六中全会通过《关于建国以来党的若干历史问题的决议》以后，系统地总结建国以来的历史经验的条件已经成熟。1982年5月，胡乔木在青年社会科学工作者座谈会上倡议，要对建国以来各条战线的历史经验作出有科学价值的总结，编写若干专著。他指出，这不仅是为中国现代史的研究积累资料，而且可以从中找出规律性的东西来，用以指导我们的工作。为落实这一倡议，中国社会科学院及其所属的中国社会科学出版社提出方案，准备编写出版一套多卷本的、定名为《当代中国》的大型丛书。中央宣传部部务会议决定，积极贯彻执行胡乔木的这项指示，立即着手组织落实，于1982年11月9日向中央作了报告。当月，中央书记处讨论通过了中宣部关于编写出版《当代中国》丛书的报告，并指示中宣部转发。丛书编辑部负责人在答新华社记者问中指出：“编辑出版这部丛书的目的，是要科学地总结我国社会主义革命和建设的历史经验，并以无可辩驳的材料，展示新中国建立以来所取得的伟大成就和社会主义制度的优越性。”其意义之一是：“它将为以后进一步修中华人民共和国史做好准备。”
此后，《当代中国》丛书的编写工作即全面启动，由邓力群、马洪、武衡任主编，协调中宣部、中国社会科学院、新闻出版署和当代中国研究所等部门组织实施。经过全国广大国史研究者、理论宣传和实际工作者以及出版工作者十万多人共同努力，《当代中国》丛书历时15年，到1998年基本完成，并于1999年6月出版了电子光盘版。丛书分部门（行业）卷、地方卷、专题卷和综合卷，共150卷，205册，1亿字，3万幅图片。它是我国第一部全面记录中华人民共和国国史的规模最大的丛书，它设计宏伟，纵横交织，构成新中国各个领域的新画图，是对新中国物质文明建设、政治文明建设和精神文明建设的阶段性的总检阅。它为研究中国特色社会主义伟大事业的发展进程、经验和规律，为在广大干部和群众中开展爱国主义、集体主义、社会主义思想教育，提供了丰富的史料和生动的教材。同时，它也正确地扼要地向全世界展示了新中国各方面的情况，树立了光辉、准确的形象。胡乔木没有看到《当代中国》丛书的竣工，但他的开创、奠基之功是为人们永远铭记的。
4.编辑出版《郭沫若全集》，建立郭沫若纪念馆
郭沫若生前担任中国科学院院长，一直兼任哲学社会科学学部主任。1978年6月12日逝世。8月9日，中国社会科学院即向中央呈报了《关于成立郭沫若文集编辑出版委员会的请示》。胡乔木提出以周扬为主任的编委会名单。在召开第一次编委会后，又向中央呈报了《关于郭沫若著作编辑出版委员会和筹建郭沫若纪念馆的请示》，报告了关于编辑出版《郭沫若全集》的方针、方法问题，建议在郭沫若故居筹建郭沫若纪念馆，并建议增加若干名委员。请示报告得到批准，编辑出版工作顺利开展，郭沫若故居被确定为全国文物保护单位，郭沫若纪念馆被定为爱国主义教育基地。
五、开展国际、国内学术交流
开展国际学术交流，是促进我国哲学社会科学事业发展和繁荣的重要途径，同时也是发展中国与各国关系的一个重要渠道。胡乔木很重视这项工作，及时恢复并直接参与了国际学术交流新局面的开创。
为适应国际交流工作的需要，1978年3月，胡乔木把院外事组升格为外事局。4月，胡乔木对建立外事工作档案，编辑有关资料作出指示，要求把曾来信、来访过的单位和个人登记下来，并深入了解他们的情况；要求尽快编出反映世界各国科学院、社会科学院情况的资料。1979年8月，又正式成立了对外学术交流委员会。
外事局成立后，做的第一项业务工作，是着手恢复了同西欧国家的学术交流。4月14日，召开院党组第一次学习会，请宦乡（时在外交部，后调社科院任副院长）作《西欧走出“黄金时代”》的报告，胡乔木出席。4月13日，外事局局长接待了意大利驻华使馆一等秘书，就两国社会科学学术交流问题交换了意见。以后经过磋商，拟定了“意、中文化、科技合作协定草案”，为两国正式签订协定作了准备。这年9月上旬，第26届“欧洲研究中国会议”在意大利召开。报告国务院后派中国学术代表团与会，打开了对欧美学术交流的大门。此后，瑞士、瑞典、法国、德国、意大利、美国、英国、澳大利亚、墨西哥、加拿大、希腊等国都有学术代表团或学者来访，还接待了哈佛大学（1978年10月7日）、斯坦福大学（1979年4月9日—21日）和联合国大学（1979年5月14日—25日）等大学的学者。社科院也派出院、所领导带领的代表团前往欧美诸国访问。与此同时，同东欧南斯拉夫、罗马尼亚，同南亚印度、尼泊尔的学术交流也开展起来。在一些国际学术会议上出现了中国学者的身影。1979年7月16日，联合国教科文组织官员奥克拉夫人来中国进行工作访问，与社科院外事局会谈。此后，社科院学者参与了联合国教科文组织召开的学术会议。除了出国访问、参加学术会议和接待外国学术团体和个人来访以外，1980年起，由世界宗教研究所开始，主办了国际学术会议。这就是10月由世界宗教学会与南亚学会联合在西安召开的佛教学术讨论会和世界宗教研究所与中国无神论学会联合在武汉召开的无神论学会第二届年会。
胡乔木直接参与的国际交流活动，除1979年11月应罗马尼亚社会政治科学院和南斯拉夫科学艺术院的邀请，偕夫人谷羽一起前往两国访问之外，主要是在对日本方面。
1978年年初，中日两国政府就签订中日和平友好条约开始谈判。当时，由于苏联当局的阻挠和干涉，日方在条约是否写入反对霸权主义条款的问题上犹豫不决，致使条约迁延多时不能签订。中国方面在外交谈判之外，通过多种渠道对日本朝野做工作，以求突破。从这年4月至8月12日在北京正式签约，胡乔木多次会见了日本各方面人士。
4月1日，胡乔木会见日共（马列）全国委员会代表委员安斋库治等，就毛泽东三个世界划分理论进行座谈。胡乔木回答了他们提出的问题。
4月27日，胡乔木会见了日本友好人士、法学家一园一忆夫妇。
6月25日，胡乔木会见了日本京都大学教授、史学家、京都日中学术恳谈会理事长井上靖一行，回答了井上提出的关于三个世界划分的理论的一些问题。胡乔木指出：毛主席关于三个世界划分的理论，既是我国外交政策的理论基础，也是我党世界革命战略的理论基础。当然不能把我国的外交政策同我党的世界革命战略混为一谈，但也不能把两者割裂开来。第三世界之成为第三世界，不只是由其经济发展程度决定的，而首先是由其在反帝、反超级大国斗争中的地位决定的。
8月3日，胡乔木会见了由日本政治活动家、日中文化交流协会的副理事长宫川寅雄和考古学家白士吾夫率领的日本考古代表团，就我国“文化大革命”的危害和中日学术文化交流交换了意见。胡乔木指出，中国近代史上到日本留学的人曾对中国历史起了推动作用，这在20世纪前半期特别明显，鲁迅和郭沫若是最好的例子。“文化大革命”破坏了两国间的学术文化交流。在新的时期，希望中日学术文化交流得到更大的发展，掀起一个新高潮。这次会见，气氛热烈友好。白士吾夫动情地说，1976年周恩来总理逝世后，邓小平副总理再次受到迫害，他和宫川寅雄十分痛苦和郁闷，都吐了血。直到“四人帮”被粉碎，他们的心情才彻底好转。代表团成员、东京大学教授三上次男也谈了亲身感受。他说：要真正了解日本的历史，就要了解中国的历史。要好好学习中国历史和考古史，要学好考古史就必须学好中国古代史。
1978年8月12日，中日和平友好条约在北京签订。10月22日，邓小平副总理应日本政府的邀请，对日本进行正式友好访问。10月23日，出席了在东京举行的中日友好条约批准书互换仪式，条约于当天正式生效。中日友好关系进入了一个新阶段。在这样的背景下，胡乔木应日本学士院和日中友好协会的邀请，于1979年1月15日至26日访问日本。胡乔木在日本访问期间的主要活动是：
（一）出席日本学士院成立百周年庆祝活动，代表中国社会科学院致祝词。表示在中日和平友好条约缔结以后，两国学术交流将更加繁荣，“我们期待中国社会科学院和日本学士院今后将建立富有成果的联系。”在庆祝仪式上，胡乔木向日本学士院赠送了礼物：一套马王堆出土的《老子》影印线装本。
（二）广泛接触日本各界人士，增进两国人民的相互理解和友好感情。进行了以下一些活动：应邀会见天皇胞弟、日本东方协会会长崇仁亲王，进行友好交谈；亲自登门拜访日中友好活动家、著名学者、中国人民的老朋友中岛健藏、宫川寅雄、井上靖等，共叙友情；应邀在《读卖新闻》社与日本著名学者及作家陈舜臣、井内一男、菊地昌典等座谈，介绍中国改革开放的新形势，表达加强两国友好交往与合作的愿望。胡乔木还与日本实业界巨头、新日铁董事长蹈山嘉宽会见，共商经济合作事宜。
（三）对日本学术界进行考察，开拓了学术交流渠道。在日本期间，胡乔木先后参观访问了东京大学、京都大学、早稻田大学、东洋文化研究所等高等学校和科研机构，进行了多次座谈，了解日本的学术研究现状及其管理体制，探讨中国社会科学院与其建立学术交流与合作的途径。胡乔木还特地拜访了日中文化交流协会和日本学术振兴会，并与学术振兴会会长增田四郎就双边合作问题进行了协商，为双方的合作交流奠定了良好的基础。此外，胡乔木还为我驻日使馆工作人员作了关于党的十一届三中全会的报告。
胡乔木访日，进一步巩固和发展了中日两国学术界进行交流和友好合作的关系。紧接着，副院长于光远、周扬又先后于3月至4月和6月率社科院的学术代表团赴日本访问。这是一个很好的开端。此后，中国社会科学院与日本学术机构的交流与合作不断得到健康、稳步的发展，并成为促进中日两国关系发展的一支力量。胡乔木在中国社会科学院国际学术交流方面，起到了开创和奠基的作用。
对国内学术交流，胡乔木也非常重视。他认为，国内学术交流主要应该通过各学科的学会或研究会组织全国性的学术讨论会来进行。1978年5月，胡乔木以院党组名义向党中央、中央宣传部呈送了《关于重建和新建一些学会的请示报告》。此后，一批学会（协会，研究会）正式成立。只要有机会，胡乔木还参加学会的活动，发表讲话。
前面已经提到，1978年1月下旬，社会科学院召开了北京地区经济科学座谈会，胡乔木出席并作重要讲话。1978年4月，《哲学研究》编辑部在北京召开了“唯生产力论”问题讨论会。5月底至6月初，科研局在北京主持召开了凉山彝族奴隶社会问题学术讨论会。
