120师的前身是于46年1月由山东军区警3旅及冀热辽第16军分区23旅合编而成的东北民主联军辽东第3纵队第9旅,46年7月31日改称东北民主联军辽东第3纵队第9师,48年1月改称东北野战军第3纵队第9师,同年11月改称中国人民解放军第40军第120师。
358团的前身是45年8月由鲁中军区第3分区特务营、独立大队、费北独立营(分别为第1、2、3营)合编的山东军区警备第3旅第8团,同年11月与调往东北的警2旅第6团合编为新的警3旅仍为第8团,46年1月随所在旅编入东北民主联军辽东第3纵队第9旅为第25团,46年7月31日改称东北民主联军辽东第3纵队第9师第25团,48年1月改称东北野战军第3纵队第9师第25团,同年11月改称中国人民解放军第40军第120师第358团。该团战斗力较强,是师主力团。