日军继而鼓动张学良堂弟张学成于10月29日接手“东北民众自治军”残部，发给奉天兵工厂武器，试图作为日军前驱进占锦州。张学成一贯认为自己怀才不遇，与堂兄应该分庭抗礼，1931年初曾参加石友三的叛乱。这一次则欣然接受日军指挥，携四名日本顾问上任，号称有18个旅。黄显声请示张学良后，派公安骑兵第二总队进攻张学成部。由于东北地区当时抗日情绪强烈，张学成部也兵无战心，交火后不久即溃散，四名日本顾问和张学成都被乱枪打死，伪旅长荣庭被俘。

在锦州期间，黄励精图治，大力组织和扩充地方武装。而张学良由于年轻和患病，此时处于刘伯承所说“五行不定”的状态。他一面调动了一部分部队到锦州前线，似有抵抗之意，另一方面支持将锦州一带设为隔离区的方案，随时准备撤离。在军事上，张显得十分消极。黄显声有一次建议既然锦州前线工事构筑不易，不如以攻为守，张当即拒绝。在日军进攻马占山的时候，张坐拥重兵，毫无策应（反而是日军进攻锦州时，极端困难的马占山反攻齐市，试图调动日军北上）。对于黄显声招募的部队和反正伪军，张学良也拒绝给与正规番号，他一方面希望借助这些部队抵抗日军，一方面怕因此形成中国正规军与日军交战的口实。

在这种掩耳盗铃的思维支配下，张学良甚至下令给马占山和丁超等吉黑将领，下令他们部下原来东北军的正规部队一律不得使用正规军番号，只能自称“自卫军”，“救国军”等名义。

事实证明，这种做法不但不能减少日军对中国军队的进攻，相反使其进攻更加理直气壮–既然对手不是正规军，就只能是“土匪”，“马胡子”了。堂堂正规军一夜之间竟然连自己的番号都不能使用，各路抗战部队也因此而气馁。

在这种情况下，黄显声急中生智，将新编部队改称为“辽宁抗日义勇军”，编张海天部为第一路，项青山部为第二路，陆续委任达二十余路，自己担任总司令。

这就是“抗日义勇军”的最初来历。

1931年12月15日，张学良倚为依靠的蒋介石下野，张的抵抗意志更加消沉，在日军大举进攻的压力下，张最终下令东北军主力于1931年最后一天撤离锦州。在回复记者的访谈时，东北军方面表示在锦州周围与日军进行了激烈的攻防战斗，最后不支撤退，损失五千余人。然而，在当地的外国人和民间团体回忆，东北军的各部，除步兵19旅，骑兵20旅的部分部队，装甲列车队以外，基本与日军未有接触即撤离，撤离时日军还在锦州的百里之外。真正在锦州外围和日军展开了血战的，是黄显声部下的义勇军和公安队。他们与日军在白旗堡，田庄台，盘山，打虎山各地辗转血战，还曾经反攻过营口，给日军造成相当重大的打击。

辽西战场上的义勇军

东北军撤退时，黄显声帅三个骑兵公安总队断后掩护。黄以第一，第二总队掩护机关人员撤退，亲自带第三总队到大凌河畔杨官屯拒敌。1月2日，黄部与日军渡大凌河部队展开激战，由于敌众我寡，战斗到夜间两点三十分，黄下令炸毁女儿河铁桥阻挡日军追击，部队撤向关内。1月3日，日军占领锦州。义勇军部队，一部随黄显声入关，一部留在当地继续和日军作战。

由于“义勇军”这个名字响亮而且贴切，逐渐成为东北各地抗日军民最为常用的叫法。1935年，田汉，聂耳合作为电影《风云儿女》谱写了主题曲--《义勇军进行曲》。这首脍炙人口的战歌，后来成为今天中国人民共和国的国歌。

然而，很少有人去细究这里所说的“义勇军”，最初指的是哪一支部队了，它代表的，是白山黑水的关东人，也是全体中国人不屈的精神。

黄显声戎装照

入关后的黄显声将军，所部公安骑兵总队和一同撤退的保安队，义勇军被改编为骑兵第二师，黄任师长，参加了长城抗战，再次与日军交手。以后，为了替张学良将军控制53军万福麟部，又前往万部担任副军长兼119师师长。威震冀中的吕正操司令员，当时就是他的部下，也是他的好友。黄显声将军并协助张学良策划和实施了西安事变。