胡耀邦相当重视推进中日友好,并做了许多具体细致的工作,其中最引人注目的当数1984年亲自决断邀请3000余名日本青年访华活动。为了搞好这次活动,中央成立了筹委会,中日友好协会名誉会长王震任主任,团中央第一书记王兆国任副主任,全国青联主席胡锦涛、副主席刘延东分别任秘书长、副秘书长。由于日本没有一个单位能统一负责组织和派遣,中方就直接向日本的200多个团体和单位发出了邀请。邀请以民间为主,也充分照顾官方。日本全国47个都、道、府、县政府都被邀请了。最后,日本220个团体、单位派遣了3017人(包括63名新闻记者),组成了217个代表团应邀访华。国庆35周年庆典前一天,应邀访华的3000名日本青年分别从南京、西安、杭州、武汉汇集到北京,观礼“文化大革命”后中国组织的第一次国庆庆典。9月29日,中方在人民大会堂举行了欢迎宴会。国庆节期间,还在首都体育馆举行了一个联欢大会,日本各界名流出席。出席者中年龄最小的是当时深受中国人喜爱的日本电视剧《阿信》中的小演员小林绫子,只有10来岁;年龄最大是日中经济协会常任顾问、日中青年研修会会长冈崎嘉平太,当时已85岁高龄。胡耀邦在联欢会上强调,中日要世世代代友好下去。国庆阅兵时,天安门观礼台上专门给日本3000余名青年代表留了位置。当晚,在天安门广场举行了中日青年舞会。燃放烟火后,大家开始跳舞。活动一直持续到午夜两点多钟。日本代表团在京期间,胡耀邦在中南海接待了一批日方友好人士。这次活动带来了很多后续交流。1985年,应日本200多个友好团体的邀请,以全国青联主席刘延东为总团长的“中国青年访日友好之船”于1985年10月27日至11月12日回访了日本。团员504名,来自全国29个省、市、自治区和中央各部门,包括56个民族的青年。代表团走遍了日本40多个都、道、府、县,接触了大量的日本民众。20年后,应邀访华的3000日本人有的当上了国会议员,有的当上了地方的行政长官或公司的领导者,在日本各个领域为促进中日友好发挥了积极作用。这些人现在是日本国内推动中日友好的骨干力量。

胡耀邦深知笔杆子的威力不亚于枪杆子,国外的主流媒体如能客观报道中国,则比我们自己宣传自己效果更好。胡耀邦借助外力宣传中国最成功的范例是借助三见山崎,透过日本主流媒体来宣传中国。山崎是日本著名作家,以暴露社会阴暗面、开掘历史深层、塑造时代群像而著名。她写作《大地之子》这部反侵略、谋和平的作品,以表现在华战争遗孤的命运及日中由战到和的沧桑。该作品描绘侵华战争牺牲品的“弃民”由中国养父母抚育成人,主人公最终任上海宝钢工程师,并且不顾“文革”受难的经历和中日经济合作摩擦的现实,决意留在第二祖国而不回日本与亲生父亲团聚定居。胡耀邦称赞山崎摒弃概念化、公式化的“日中友好万岁”式写法,产生了令人信服的传神、传情效果。发行山崎作品的刊物《文艺春秋》是日本发行量最大的月刊,在日本的影响非别家刊物可比。为写作《大地之子》,山崎于1984年至1987年数度赴中国各地采访。胡耀邦为山崎提供方便,使她得以深入内蒙监狱、宁夏劳改农场,并住到缺电少水的河北农村体验生活。山崎采访了从部长到平民的很多人,为时空跨度极大的鸿篇巨著搜集了丰富的素材。由于当时刚刚改革开放,还存在种种制约,山崎觉得采访不够顺利,由此产生了打退堂鼓的念头。一向谈笑风生的胡耀邦,二次见她时正色道∶我给你撑腰就是了嘛,半途而废可不行噢,你要临阵逃脱就是胆小鬼,当心我这个督战队拿机枪扫你!1986年深秋,胡耀邦去外地视察前抽空见山崎时说,我三次见一个外国作家属于破例,其用意在于期待你写出有益于两国未来的作品,也希望你理解我们不愿看到日本受到少数军国主义者误导的心理。握别时,他神色凝重地对山崎道∶以后恐怕没有机会再见了,你明年来时我还在不在这里都难说……,但是我们说好了,大作出来一定送我一部啊!心直口快的胡耀邦的这番话,果真成为永诀之言。1989年4月胡耀邦逝世,讣告尚未公布,山崎已从驻京日本媒体获悉。她当即飞往北京吊唁,对胡耀邦夫人李昭说了声“太遗憾了”,就嚎啕大哭起来。1991年6月,她携带刚刚付梓的单行本赴江西共青城还愿,在故人墓前长跪默祷,并将刻有中共中央撰写的“胡耀邦同志生平”的墓碑拍照后在日本发表。胡耀邦积极支持山崎自费来华采访,在既无损形象,又不泄密的前提下,促成了《大地之子》问世,给日本人的中国观带来了普遍的、持续的积极影响。