1949年，解放军迅速攻克南京、杭州、上海，为使东南各省早日解放，叶飞、韦国清率第三野战军第十兵团向福建推进，同时中央任命张鼎丞为福建省委书记。为解决干部不足问题，中央批准福建省委的建议，决定在上海招收3000名知识青年和职工到福建工作，并正式成立了华东随军服务团，由张鼎丞任团长。南下服务团中的山东干部主要是从华东南下干部纵队渤海三大队中抽调出来的，多为来自齐东、高青、寿益三县的南下干部。他们组成一个干部大队，在胡为新、任曰淼的带领下，5月28日进驻上海，参与接管工作，后负责带领南下服务团第四大队的五个中队继续南下福建。

此外，华东军区卫生部从华东三野第一重伤医院抽调了50余名山东籍医务人员，组成一支卫生队，由三所所长王旋率领，组成“团部直属卫生队”，也随南下服务团进军福建。