罗荣桓的出色工作赢得了毛泽东的信任。哪个部队的工作搞不好，毛泽东在考虑充实的人选时，总是首先想到罗荣桓。古田会议以后，红四军二纵队问题较多，战斗力较差。毛泽东对第二纵队作了深入调查之后，便建议调罗荣桓担任第二纵队政治委员，对纵队进行整顿。几个月的工夫，就使第二纵队发生了大的变化。他的这一成绩，得到毛泽东的充分肯定。林彪担任红四军军长后，毛泽东在考虑红四军政委人选时，认为担任此职除必须具备立场坚定、观念正确、有丰富的政治经验等基本条件外，还需要有宽广的胸怀，既要有坚定的原则性，在非原则问题上又要有容人的气度，善于忍让、谅解，这样才能把红四军的工作做好。凭着对罗荣桓的了解，毛泽东认为非他不可。于是向前委建议，由罗荣桓出任红四军军委书记兼政委。

抗日战争时期，罗荣桓受命在山东开辟根据地。罗荣桓独当一面地领导全山东人民进行革命斗争，使他成长为一名成熟的革命军事家，也表现出他的高超的领导艺术和战略远见。对此，毛泽东说：山东换上一个罗荣桓，山东全局的棋就下活了。

解放战争时期，罗荣桓出任东北野战军（即第四野战军）的政治委员。在著名的辽沈战役中，罗荣桓深刻领会毛泽东的军事思想，坚持贯彻毛泽东先打锦州之敌，造成关门打狗的作战方针，受到毛泽东的赞扬。

1950年4月，毛泽东找罗荣桓谈话，希望他担任公安部长。他则向毛泽东推荐罗瑞卿担任，毛泽东当即表示同意。不久，毛泽东又提名由罗荣桓担任中国人民解放军总政治部主任兼总干部管理部部长。这表现了毛泽东对罗荣桓的高度信任和器重。

1954年，中国人民解放军准备实行军衔制。这在人民军队历史上是第一次，是对军队干部制度的一项重大改革。按照中央规定，授予元帅、大将军衔人员的名单由中央确定。当罗荣桓得知党中央准备提名授予他元帅军衔时，立即给党中央和毛泽东写信，说明自已参加革命较晚，对革命贡献不大，恳切地请求不要授给他这样高的军衔。

中央和毛泽东没有采纳他的意见。他和朱德、彭德怀等10位解放军高级将领因对创建和领导人民武装力量，领导战役兵团作战功勋卓著，在1955年9月23日，经第一届全国人民代表大会第22次会议决定，被授予元帅军衔命令公布后，罗荣桓没有将这看成是个人的荣誉。他对总政治部的一些同志说：“我是政治部主任。给我授元帅衔，这主要是党中央和人民给予我们军队政治工作者的崇高荣誉。”9月27日，毛泽东亲自将元帅军衔和一级八一勋章、一级独立自由勋章和一级解放勋章授予罗荣桓。