到了1921年，戴笠利用他和青帮的关系离开了杭州去上海，在那里，他在杭州的秘密帮会“师傅”把他介绍给了青帮头子，即当时上海城最有权势的帮主黄金荣。于是通过这些关系，在刘志陆、张啸林、王晓籁、向海潜、张子廉、田得胜、冯石竹、唐绍武、石孝先及范绍增横行的时代，戴笠成了那些臭名昭著的上海流氓和“打手”们的好友。

对这些乱七八糟的帮匪们来说，戴笠只不过是又一个跑腿的而已。他在赌场当私人保镖或跑堂，且常常没工可做，总是想法赚点外快或找靠山来支撑自己的职业。不过，哪怕是俗艳廉价，他也总要保持衣冠楚楚。比方说，在杭州“打流”，也意味着得保持他惟一的一套夏装的整洁。因此他通常在西湖边找一块无人之地，脱下上衣和裤子来洗，然后把衣服晾在一块有太阳的岩石上晒干，自己在一边替帆布鞋上粉，直到看上去像新的一样。

旅居上海

在上海戴笠力图保持同样的形象。每晚都洗身上惟一的那套西服，好在他睡觉时晾干，于是戴笠在人们眼里总是显得要比他的实际情况得体。事实上，他是靠在商务印书馆当职员的表弟张冠夫的供养生活的。张冠夫在1920年间在小北门地段租了一间小阁楼与妻子住。戴笠就睡在这对夫妇床边的地板上。这一点造成了戴与表弟媳王秋莲之间的紧张关系。戴笠曾企图通过表弟在商务印书馆找工作，结果由于张太太的阻挠而没能得逞，而且她有一次还真让他吃了闭门羹。

不过，尽管有她的反对，张冠夫还是随着戴笠进入了情报工作系统，在1931年成了他联络组的一员，并在1937年接受了主管苏浙行动委员会经理处的中将及军统财务处副处长的任命。尽管有这些报赏，张太太仍旧看不起戴笠。她所了解的这个秘密警察头子是个瘪三，在她看来，他永远是一个扮作国王的猴子而已。而到了后来灯红酒绿的年代，轮到戴笠扬眉吐气的时候，他对张夫人十分鄙视，管她叫做毫无青春魅力的“黄脸婆”。与此同时，他用怂恿表弟纳妾、让他的妻子与一个年轻美貌的小老婆同居一个屋檐下的办法，来竭力折磨她。