鲁瑞林出生于1912年10月，其于1932年2月加入中国共产党，于1931年10月参加江西宁都起义时加入中国工农红军，参加了中央苏区第四、第五次反“围剿”和二万五千里长征，1937年10月率部东渡黄河，开赴山西太原，坚持太行山区持久战，深入敌占区反“扫荡”、打到敌后方进行反蚕食斗争，开辟、巩固和创建、发展抗日根据地。在解放战争时期，还率部投入解放大西北战役，展开大规模运动战，诱敌围歼，为解放华北发挥了决定性作用。