赏识，他必须要体现出自己的价值来，于是他回到熟悉的上海滩，依靠以前建立起的关系网络，开始为日本情报机构展开工作。李士群在上海策反了一批国府官员和特工，其中就有他当年在《社会新闻》时的同事唐惠民，以及老上级丁默邨。
在李士群的招揽下，丁默邨等加入了日本情报机构，而当时负责日本在上海情报事务的，就是土肥原机关的主脑土肥原贤二。李士群和丁默邨被授命建立起一个特工组织，隶属于土肥原机关下属的“梅机关”。这个特务小组，就是以后七十六号的原型，当时全部人员加起来不超过十个人，开着一辆来路不明的破车，合用一支成员自带而来的破旧转轮。
但是只经过半年时间，李士群的特务组织，就在季云卿手下青帮流氓的加入之后，开始发展壮大起来，很快组织总部就搬入了忆定盘路九十五弄十号，除了从日本人那里拿到的两千块法币活动经费，他们还干起了抢劫勒索与赌场的买卖，这群流氓打手在租界里掀起了一阵腥风血雨，通过暗杀与恐吓等犯罪手段，肆意破坏租界内的抗日活动。
很快汪伪政权在南京成立，李士群的特工组织，被日本人全盘送给了汪兆铭，一晃神的功夫，上海街头的地痞流氓，变成了南京国民政府的特工人员