1931年12月15日，张学良倚为依靠的蒋介石下野，张的抵抗意志更加消沉。在日军大举进攻的压力下，张最终下令东北军主力于1931年最后一天 撤离锦州。在回复记者的访谈时，东北军方面表示在锦州周围与日军进行了激烈的攻防战斗，最后不支撤退，损失五千余人。然而，在当地的外国人和民间团体回 忆，东北军的各部，除步兵十九旅、骑兵二十旅的部分部队，装甲列车队以外，基本与日军未有接触即撤离，撤离时日军还在锦州的百里之外。真正在锦州外围和日 军展开了血战的，是黄显声部下的义勇军和公安队。他们与日军在白旗堡、田庄台、盘山、打虎山各地辗转血战，还曾经反攻过营口，给日军造成相当重大的打击。

东北军撤退时，黄显声率三个骑兵公安总队断后掩护。黄以第一、第二总队掩护机关人员撤退，亲自带第三总队到大凌河畔杨官屯拒敌。1932年1月2日，黄部与 日军渡大凌河部队展开激战，由于敌众我寡，战斗到夜间两点三十分，黄下令炸毁女儿河铁桥阻挡日军追击，部队撤向关内。1月3日，日军占领锦州。义勇军部 队，一部随黄显声入关，一部留在当地继续和日军作战。

由于“义勇军”这个名字响亮而且贴切，逐渐成为东北各地抗日军民最为常用的叫法。1935年，田汉、聂耳合作为电影《风云儿女》谱写了主题曲——《义勇军进行曲》。这首脍炙人口的战歌，后来成为今天中华人民共和国的国歌。

然而，很少有人去细究这里所说的“义勇军”，最初指的是哪一支部队了，它代表的，是白山黑水的关东人，也是全体中国人不屈的精神。

入关后的黄显声将军，所部公安骑兵总队和一同撤退的保安队、义勇军被改编为骑兵第二师，黄任师长，参加了长城抗战，再次与日军交手。以后，为了替张学良将军 控制五十三军万福麟部，又前往万部担任副军长兼一一九师师长。威震冀中的吕正操司令员，当时就是他的部下，也是他的好友。黄显声将军并协助张学良策划和实 施了西安事变。

1938年，黄到武汉活动争取释放张学良将军不果，经周恩来介绍，准备以中共特别党员的身份到延安组建新东北军，不幸被国民党方面扣押，从此开始了十年的拘禁生活。

据推测，黄显声的被扣押，与东北军内部斗争也有很大关系。黄是张学良最为亲信的少壮派军官，长城抗战后，张学良深感老东北军将领各顾妻子，腐化老朽，已经不堪改造，因此大力提拔少壮派军官，黄显声就是其中的典型。然而，这种做法明显侵犯了占据高位的老牌将领的利益。张学良被扣以后，东北军上层并非都尽全力营 救，而是在蒋介石的拉打之下分裂，自相残杀，可说与此有关。失去了张学良支持的黄显声，也成为这些老牌将领的眼中钉。正是因为看到这一点，蒋才毫不犹豫地扣留了这位著名的抗日将领，他确信这不会影响他对于东北军的使用。（蒋介石深恨黄显声，因为从事后的情报得知，西安事变中，黄显声是张学良最主要的助手之一，而且态度强硬明朗。）

在被扣押的十年时间里（最初还给会武术的将军戴着镣铐，怕他逃跑），黄显声从不屈服，坦然自若。他在一封信中写道:“我现在虽然坐牢，但并没有犯法，是为团体、为国家、为义气而坐牢，问心无愧，将来生死存亡在所不计。”

只有在反复读一句诗时，将军常常痛哭失声。这句诗就是陆游的“报国欲死无战场”。

写到此处，忽然想起了陆游的另一首诗:

早岁哪知世事艰，中原北望气如山。

楼船夜雪瓜洲渡，铁马秋风大散关。

塞上长城空自许，镜中衰鬓已先斑。

出师一表真名世，千载谁堪伯仲间。

道济见收，脱帻投地曰:“乃复坏汝万里之长城！”

有一种说法，讲东北军旧部和共产党方面（例如黄的秘书刘澜波）都曾努力争取让黄显声将军越狱，看守的特务也为将军人格所感，多同情于他。但营救为将军所拒绝。

这是有一定真实性的说法，因为黄显声将军一直认为自己被抓是莫须有的罪名，作为一个堂堂正正的军人，要堂堂正正地走出牢房（推测他期待和张学良将军一起获释，故有“为义气”的说法。）同时，将军也知道自己逃走将连累很多难友，因此一度拒绝了营救。但是，在1949年，看清国民党方面已经不可能给他公平的释 放，将军实际上同意过接受外面的营救。只是，为了能够同时营救好友、张学良将军的副官李英毅，黄显声将军希望营救的时间推后，在重庆即将易手的时候进行， 以便乘乱多救一些人。

按照刘澜波的安排，当时，渣滓洞看守宋惠宽已经成为营救的内线。他答应在时机合适时，于半夜时候把黄显声将军和李英毅副官以及一切可以带出来的人带到白公馆后面的山坡上，由负责营救的夏在汶开着汽车在那里等着，把将军等人带走。刘澜波并叮嘱一旦出现有政治犯被杀，则不顾将军的反对，将他单人救走。

但是，意料不到的是，保密局布置的对政治犯的大屠杀，第一个被杀的，就是黄显声将军。1949年11月27日，按照毛人凤的密令，黄显声将军被军统特务杨进兴执行秘密枪决，杀害于红岩步云桥，李英毅与将军同难。