由于“左”倾教条主义的错误影响和军事上的错误指挥，中央苏区的第五次反“围剿”遭到失败，中央红军被迫战略转移。1934年9月上旬，中共中央决定将江西省委书记李富春调任红军总政治部副主任，随军行动。曾山临危受命接任江西省委代理书记，留守江西苏区，开展游击战争。

　　1934年9月下旬，曾山在宁都县安福乡西甲村召开军政工作会议，决定撤销江西省苏、省军区，成立江西军政委员会，并将部队整编为三个独立团（乐安第一团、省直第二团、万泰第四团），并部署万泰军分区独立第四团和县和独立营，挺进游击队坚持万泰苏区的武装斗争。11月，万泰第四团和游击司令部先后驻扎在灌溪兴富、中龙亭前和小龙回龙洲。曾山军领红二团驻扎在兴富，并在兴富一个较为空旷的树林里召开了地方干部和游击队员大会，到会人员200多人，会上，曾山告诉大家中央主力红军正在冲破敌军封锁线，一定还会打回来，鼓励大家不要悲观，要坚定信心，坚持工作，顽强斗争，要坚壁清野，断绝交通，不断扰乱敌人。接着，在回龙洲又召开了公略、万泰、兴国三县领导人会议，宣布成立中共公万兴特委，直属江西省委领导，辖上述三个县委。特委书记先后由徐达志、胡海担任。

　　1935年1月上旬，敌四个师包围江西省军政委员会驻地，曾山、李锡凡召开紧急会议，决定部队分三路向东固突围。曾山带领省委机关和红二团，从永丰县南坑向良村开始突围，从小布到东固，需要经过永丰的君埠和永丰、吉安交界的大乌山。敌人在君埠至中村、南坑构筑了碉堡封锁线，各大村镇驻有敌军。为了使部队能够胜利通过君埠，曾山采用调虎离山之计，他派出一个营的部队向龙冈驻敌发起进攻，调动君埠驻敌赶赴龙冈增援，乘这个空当，曾山率领大队人马急行军两个多小时，从君埠附近穿越过去，抵达永丰、吉安交界的一片茶林。在茶林隐蔽了一天一夜之后，曾山又带领部队向海拔1200米高的大乌山前进。大乌山是吉安、永丰、兴国三县交界的大山，无论通往哪个县境，都要经过一条蜿蜒10多公里的羊肠小道。敌军在进山口驻了两个连，卡住通往东固的通道。黄昏时刻，侦察员施巧计杀死了两个国民党哨兵之后，曾山带领部队用机枪开路，用强火力向驻敌发起猛攻，掩护机关人员往前冲。经过20多分钟激战，部队伤亡了200多人，大队人马终于通过了这条咽喉要道，黎明时分到达东固，与公万兴特委领导的游击队胜利会合

　　曾山率红二团与公万兴特委、红四团会合后，一边在兴国、万泰苏区帮助群众搞生产，一边开展游击战争，准备与谭余保领导的湘赣边红军会合。1935年3月初，国民党北路军发现曾山领导的留守红军后，旋即调集九个团的兵力前来包围。为跳出敌人的包围圈，曾山率领红二团、红四团向兴国崇贤挺进，敌人发觉后急忙从杨（殷）赣（县）苏区抽出兵力堵击。中共杨（殷）赣（县）特委书记兼独立十三团政委罗孟文得悉后，立即召开特委紧急会议，决定利用这个间隙，率部向东转移，与曾山领导的红二、四团在崇贤会师，于是，曾山在崇贤的齐纷，召开了省委扩大会议，讨论突围问题。决定突围到赣粤边和李天乐、杨尚奎会合。但几次突围均遭失败。为了缩小目标，曾山命令各独立团自行选择突围路线，突出重围，寻找发展机会。突围之前，曾山又来到胡海领导的红军游击队，向干部战士讲清当时的形势和任务。曾山和胡海分手时，拿出一面写有“艰苦奋斗”四个大字的红旗，满怀革命必胜的信念对胡海说：“这面红旗我们各拿一半，一则用艰苦奋斗的精神互相勉励；二则我们今后胜利会师时，重新把它缝合起来作为纪念。”胡海带领部队沿罗孟文率领的红十三团突围路线西行，在吉安县雪溪径村因叛徒．出卖被捕，1935年，在南昌英勇就义。

　　曾山率红二、四团近千人向北突围。他们趁敌人追赶红十三团之机，迅速从兴古线以北突破了敌人的防线。接着，又先后在富田学士桥、丁毛山一带，冲破了敌人的碉堡封锁线。在进攻小口岭附近的两个碉堡时，俘敌10多人，缴枪七八支。在兴国的后坊街，一举歼敌一个连，缴获三四十支枪和一批战利品。几次艰苦战斗，部队损失很大，但始终未能进入湘赣边与谭余保会合。

　　东固突围，一方面保存了革命武装力量。另一方面，更加坚定了红军指战员不畏艰难，冲破敌人围追阻截的信心与决心。提升了红军队伍的“亮剑”精神。虽然东固突围损失较为严重，但最为重要的是，它给根据地军民留下了胜利的希望与期盼，播下了革命的火种以及对于革命必胜的坚定信念。