1924年，曾延生进入中国共产党领导的上海大学读书，经过组织培养，光荣加入了中国共产党。他一方面积极与吉安团组织建立密切的联系，不断寄送《向导》、《新青年》、《资本论入门》等进步书刊传播革命思想，另一方面，为了推动和发展上海的工人运动，曾延生肩负党的使命来到沪东杨树浦区，以创办“平民夜校”作掩护，启发工人阶级觉悟，建立和发展工会组织。1925年2月， 日商纱厂的工人群众进行了声势浩大的“二月罢工”，曾延生因势利导，迅即发动沪东工人参加到沪西工人发起的罢工行列，斗争持续一个月，几天之内，会员增加到3000多人，迅速扩大了杨树浦地区工会组织的力量，终于迫使厂方请求与工人谈判，资本家不得不让步，第一次显示了工人阶级的力量。

不久，上海发生了震惊中外的“五卅”惨案，当天，曾山的哥哥曾延生带领一支工人宣传队，冒着危险，深入到工人群众中做宣传鼓动工作，宣传队的优秀女工蒋竟英看见曾延生革命坚决，而又有胆识，向他表达了自己的忠贞爱情。

1925年6月中旬，党组织派曾延生以上海工商界宣传代表身份来到江西省南昌市，向江西各界人民陈述帝国主义制造“五卅”惨案的真相和在上海、汉口、青岛继续屠杀工人的罪行，他组织各界人士开展反帝风暴，声援“五卅”运动。7月间，曾延生把工作重点放在农村，起初在土洲钟家村，以办国音补习班为名，吸收28名青年学生秘密参加，组织进步团体——觉群社。8月中旬，社员扩展到90余人，于是，觉群社便在白沙明心寺正式成立，曾延生任社长。曾延生写了一副阐明宗旨的对联：“说一般人要说而不敢说的话，做大家想做而不敢做的事”。觉悟社成立后，曾延生组织社员进行反帝反封建的宣传活动。同时，他在白沙附近组织了吉安地区农村第一个农民协会，响亮地提出了“打倒土豪劣绅”的口号，受到了广大农民的拥护。火热的斗争唤醒了农民，他们有力地打击了地主豪绅的嚣张气焰。这年9月2日，江西督办方本仁无故逮捕省城共产党员及爱国人士邹努等六人，曾延生获悉，立即组织吉安地区工农积极分子，举行声势浩大的援助省城被捕的共产党员邹努等6人运动，吉安的反动派本来就对曾延生虎视眈眈，现在趁机反攻倒算，四处捉拿声援省城邹努等6人的工农积极分子。在曾延生等声援之下，敌人一无所获。由于曾延生的积极工作，有力地推动了吉安人民的爱国运动，受到了团吉安特支的表扬。

这年10月，曾延生奉命返回上海，党派他担任中共引翔港部委员会的宣传委员、做出了许多成绩。

1926年11月4日，北伐军攻克九江城，党中央派曾延生和蒋竟英来九江市工作，中共江西省委将“中共九江特支”改组为“中共九江地委”，由曾延生任九江地委书记，根据工作需要，开设了“九江书店”，作为党的秘密据点，指令曾炳生（曾延生的三弟，次年7月31日牺牲于九江）负责，在曾延生的领导下，南浔铁路、久兴纱厂、轮船码头、九江师范学校和郊区的黄老门、马回岭、港口等农村党团组织得到了健全和发展，工会、农会、学联等群众团体相继建立起来了。

从12月26日起，九江的英商太古、怡和和日清公司的码头工人，因要求增加工资改善待遇未果宣布罢工。翌年（1927年）1月6日，九江税务司乘机雇工复工，破坏罢工，码头工人见状前去与之说理，遭到英国水兵突然袭击，致使工人吴宜山当场毙命，数名工人身负重伤，酿成了“一·六”惨案。曾延生当即以中共九江地委名义，通过九江市党部紧急召开全市工农商学妇各界代表会议，组织工人高呼口号，冲进租界，驱逐了英帝国主义分子和英国水兵，收回了被英帝国主义霸占数十年之久的“租界”，并成立了“九江市对英外交行动委员会”，发表了“九江市对英外交行动委员会宣言”，这一反帝斗争之壮举，迅速得到了全国人民的声援。1927年2月19日，英帝国主义被迫正式承认九江英租界无条件地归还中国管理。

1927年3月17日，蒋介石指使豪绅、地痞流氓捣毁“九江市党部”，杀害了工人纠察队员曹炳元等人，以曾延生为首的中共九江地委，迅速组织反击，包围全城，捕捉凶手。3月29日，一代文豪郭沫若从安庆潜回九江，转道南昌，曾延生指派专人将郭沫若护送抵达南昌。4月4日，郭沫若的讨蒋檄文《请看今日之蒋介石》，经九江地委书记曾延生签交《九江民国日报》全文发表，激发了全国人民对蒋介石反动派的愤怒，看清了蒋介石屠杀工农、镇压革命的反革命面目。同日，曾延生和九江地委领导全市工农群众，一举捣毁了国民党九江县党部。