随后，林彪又找到朱德，提出应一鼓作气，兵分三路，把耒阳境内敌军全部歼灭。朱德看着这个20岁的“娃娃”连长，再次采纳了他的建议，派出 3个连分3路直捣新市街的耒阳县常备队和驻在大陂市的耒阳挨户团总局。耒阳战役后，林彪威镇三湘。朱德发现林彪是个做大事的材料，1928年3月，提拔他为二营营长。如果在军事指挥上把林彪比作“千里马”的话，那么，朱德就是发现千里马的“伯乐”。

红四军参谋长王尔琢倒下了，他升起来了

1928年3月底，蒋介石从湘粤桂调集7个师的兵力，从南、北、西三路夹攻朱德、陈毅等人领导的湘南工农革命军。紧急时刻，朱德接到中央发来的一封信，信中说:“在桂东的北边茶陵、酃县以至江西莲花，均有毛泽东同志所带领的农军驻扎，不知你们已和他联络否？”“你们应确实联络，共同计划发动群众，以这些武力造成割据的暴动局面，建立工农兵代表会议——苏维埃政权。”根据中央指示，朱德决定撤出湘南，与湘南各县的农军一起向井冈山转移。

1962年朱德在《从南昌起义到井冈山》一文中说:“1928年4月28日，我们南昌起义保留下来的这部分队伍和湖南地方武装，在宁冈县的砻市同毛泽东直接领导的工农革命军胜利会师。”后来，何长工、肖克等老同志的回忆也都认为会师的时间是4月28日。1928年5月4日，两军会师大会和红四军成立大会在砻市举行。会上宣布成立工农革命军第四军。朱德任军长，毛泽东任党代表，王尔琢任参谋长，下设第十、十一、十二师。21岁的林彪任第十师第二十八团一营营长，何长工任该营党代表。

井冈山会师后，革命的武装力量更加壮大了。后来，蒋介石调集湘、赣两省军队多次“进剿”井冈山，少的时候有八九个团，最多的时候达18个团。在井冈山的反“围剿”斗争中，特别是在毛泽东亲自指挥的三打永新和龙源口激战中，林彪机智灵活、善用疑兵的战术风格赢得了毛泽东的赏识。

1928年6月，江西的国民党军队发动5个团的兵力“围剿”井冈山，第二十八团奉命前往老七溪岭袭击敌人。由于敌人在老七溪岭有3个团的兵力，地形又对红军不利，这次战斗任务极其艰巨。为此，团长王尔琢召集全团连以上干部开会研究作战方案。会上，几种意见争论不休，而且谁也说服不了谁。这时，一向沉默寡言的林彪突然站起来说:“不要争了，我建议从全团连排干部中，挑选一部分骨干组成十几个冲锋队，每24人为一个冲锋队，轮流向敌人猛冲猛打。这样，敌人必败无疑。”王尔琢觉得林彪这个意见很好，就采纳了。林彪提出的这一方案果然十分奏效，敌人被打得连气都喘不过来，林彪见敌人已开始溃败，就马上提出组织兵力追歼逃敌。战斗结束后，毛泽东、朱德在作战总结会上，对林彪在这次战斗中的作用给予了很高的评价。

1928年6月下旬，中共湖南省委派代表杜修经、杨开明带着省委的指示来到边界，要红军离开井冈山，“立即向湘南发展”，强迫边界特委、红四军军委必须“毫不犹豫”地执行。为此，特委、军委和永新县委在永新城内召开联席会进行讨论。毛泽东、朱德等人在会上陈述红四军不能轻易离开宁冈、冒进湘南的理由，与杜修经发生激烈的争论。毛泽东认为红军远离根据地十分危险，决定仍坚持发展罗霄山脉中段政权的原定方针。从安福连夜赶回永新参加会议的王尔琢，也反对冒进湘南，并与杜修经据理力争。

恰在这时，湘赣国民党军队联合进攻永新，朱德、王尔琢根据军委决定，率领第二十八团、二十九团出击湘东，红军首先攻克湖南的茶陵，后又进占酃县。可是，当部队准备回师宁冈的时候，由宜章农民军编成的第二十九团部分官兵因思念家乡，想取道郴县返回湘南。杜修经坚持执行湖南省委向湘南发展的指令，利用第二十九团宜章籍士兵欲回家乡的情绪，引导部队冒进湘南。

朱德、王尔琢得知信息后，觉得二十九团单独深入湘南，处境将十分危险，遂决定率二十八团前去追赶。7月23日，二十九团抵达郴州，在攻城战斗中先胜后败，幸亏二十八团及时赶到，才免于全团覆灭。但在撤出战斗时，二十九团部分官兵仍然不听指挥，并私自散去，“当日收集的不过百人”。王尔琢与朱德商量后，就将二十九团剩余的人员编入二十八团，然后率队从资兴、桂东回师井冈山。8月23日，在桂东与从湘赣边界赶来接应的毛泽东带领的三十一团三营会合，并召开前委扩大会议，决定部队重返井冈山。

二十八团第二营营长是袁崇全，党代表是杜松柏。在部队向井冈山进发途中，由袁崇全率部打前卫。8月25日，当部队到达崇义新地圩时，袁崇全突然改变行军路线，串通营党代表杜松柏，伙同副营长，胁迫该营及一个机枪连、迫击炮连共6个连向敌刘士毅部投降。袁崇全的行踪引起了四连连长粟裕、机枪连党代表何笃才、六连党代表赵尔陆等人的怀疑，他们识破了袁崇全的阴谋，率领4个连设法摆脱了袁崇全，但第五连和迫击炮连还是被袁带走了。

林彪率部疾追，很快便追赶上了二营，并包围了二营驻扎的思顺圩，袁崇全命令反包围，双方一场血战在即。在这紧要关头，团长王尔琢带领军部警卫排赶到，王尔琢边走边喊:“我是团长王尔琢，是来接你们回去的！”一听到王尔琢的声音，部队没做任何抵抗就回到了王尔琢身边。

王尔琢向战士们问明情况后，布置警卫排从两侧包围上去，防止袁崇全等人逃走，当时袁崇全等人正在庙里打麻将，王尔琢念及是同乡又是黄埔军校同学，就不顾危险，对着庙里喊道:“袁崇全，你们快出来，我接你们回去！”听到喊话后，袁崇全首先冲出来，他手持双枪，二话没说，对准王尔琢一连打了几枪，王尔琢当场牺牲。

第二十八团是北伐时期叶挺独立团的老底子，后补充了南昌起义、湘南起义的精干力量，全团1900多人，是红四军中有名的“钢铁团”，1个团可以与国民党军1个师相抗衡。王尔琢牺牲后，经毛泽东、朱德再三思考，决定由二十八团一营营长林彪接任团长职务，这也充分表明了毛泽东对林彪的器重。这样，年仅21岁的林彪成为了红四军中仅次于毛泽东、朱德和陈毅的第四号人物。

再接下来，彭德怀率领平江起义部队来到井冈山，彭德怀的红五军与朱德、毛泽东的红四军胜利会师。从此，林彪与彭德怀成了毛泽东、朱德军事上的左膀右臂。