戴笠接到蒋介石的命令后，十分谨慎地开始筹划暗杀张敬尧。为了避免打草惊蛇，戴笠亲自点将，起用了会说一口流利的广东话和标准南洋话的军统局老牌特务郑介民。郑介民曾经在马来西亚和新加坡等地居住过一段时间，所以郑介民的马来话说的和当地人几乎没有任何区别，不是马来西亚、新加坡等地的常住居民，根本就听不出郑介民不是当地人，而且郑介民还会说英语，因此他能够利用自己的语言优势，很好地隐藏自己的身份。此外，郑介民是一名老牌特务，他的警惕性高，经验丰富，所以戴笠认定，他是暗杀行动的最佳人选。
为了确保此次行动万无一失，戴笠还特意将自己的左膀右臂，军统四大金刚中的两位——王天木和陈恭澍从天津抽调到北平，协助暗杀张敬尧。
经过多次商议，戴笠最终确定了暗杀张敬尧的方案。
暗杀方案确定后，郑介民乔装打扮成南洋富商，以回国做人参生意为由，入住六国饭店。
这六国饭店，是当时北平一等一的饭店，是当时各国公使、达官贵人、各行各业的巨商和社会名流聚集地。它始建于1901年，由一位专做火车车厢生意的比利时人建造，外形类似教会教堂，是当时北平最豪华的西式宾馆。1905年，由英、法、美、德、俄、日六国合资改建，并改名为六国饭店。改建后的六国饭店一共五层，地上四层，地下一层，是当时北平最高的楼房之一。由于六国饭店的投资者关系复杂，实力庞大，因此入住六国饭店的大多是非贵即富的名流，一旦有重大聚会，就都选定六国饭店。因此，六国饭店的人气越来越旺，而许多下野的军政要员，也逐渐将六国饭店作为庇护地，长期包房居住在六国饭店。所以，许多巨商和政客来到北平后，下榻的第一个选择，就是六国饭店。
1933年4月底，郑介民带着十多个沉甸甸的箱子来到了六国饭店，为了彰显身份，他包下了六国饭店的一个豪华包间。郑介民所扮演的南洋富商刚一住进六国饭店，张敬尧的随从就开始注意这个南洋富商了。
20世纪30年代的中国动荡不安，富商们几乎成了军阀、黑社会、国民党等武装组织的“钱袋子”，回国做生意赚得到赚不到钱另说，在当时混乱的局势下，携巨款回国做生意，能不能保住性命都难说，所以，并没有几个华侨愿意回国做生意。当然，也偶有华侨回国做生意，但偏偏是在张敬尧住进六国饭店没几天，这个南洋富商就出现了，要说是巧合，也未免太赶巧了。于是，张敬尧的随从心生疑窦，开始关注这位南洋富商。
经过几天的观察后，张敬尧的随从们发现，这名华侨入住六国饭店仅仅几天，就凭借高超的交际手腕和阔绰的出手，和饭店里身份低下，却消息灵通的茶房、侍从、跑堂的混得跟亲哥们儿一样，甚至和这些人称兄道弟，这让这些随从们更加不安起来，一位身份高贵的商人，如果不是有特殊的目的，怎么可能会自降身份和那些“低贱”的人混在一起呢！为了主子的安全，随从们将这件事情迅速报告给了张敬尧，希望他能够提高警惕，提防这位南洋富商。
然而张敬尧一心拉拢人马组建傀儡政府，无暇顾及此事，而且从郑介民扮成南洋富商入住六国饭店后，张敬尧就注意到了这位南洋富商，他通过观察，发现这位南洋富商的行为、言谈举止、语气语调，与他接触过的南洋当地的富商并没有什么差别，所以也就没有把随从们的提醒放在心上。而且张敬尧以为自己行动缜密，一定没有人知道自己已经离开天津，秘密进入北平，而且他入住六国饭店用的是“常石谷”这个化名，不会有人将他和已经隐退政坛四年的张敬尧联系起来。
不过，张敬尧还是坚持了一贯的谨慎小心和严密防卫，他还是要求随从们随时向他报告南洋富商的行踪，然后还是小心隐匿自己的行踪。
张敬尧行踪不定，他每次出门都很诡秘，外出途中会换乘好几辆黄包车。张敬尧在六国饭店订了几个房间，有时，他让随从将自己约好的人带到六国饭店来见面，却并不在自己居住的包间与客人见面。由于张敬尧在六国饭店订了好几个房间，就算是住在六国饭店里的人，也摸不清楚他每天到底住在哪个房间。就算是张敬尧的随从，也摸不清张敬尧的行踪，因为他随时可能从六国饭店的这个房间到那个房间去，即便是半夜三更，也会调换房间睡觉。这就给郑介民等军统特工们带来了极大的困难。
暗杀的最好时机是半夜三更，人们深度睡眠之时，此时睡眠中的人大脑反应最迟钝，暗杀成功率最高，然而由于张敬尧太过小心谨慎，给郑介民等人的暗杀工作带来了很大的麻烦，虽然郑介民早就调查清楚张敬尧和他的手下居住的包房的房间号、位置和周围环境，但是由于张敬尧“狡兔三窟”，郑介民等人一直找不到下手的机会。
这一天，王天木带着军统特工白世维，装扮成生意人，到六国饭店找郑介民，他们和郑介民商讨了进一步的行动计划。中午时分，白世维等人从郑介民的房间走出来，准备出门去吃饭，看到一个裁缝，胳肢窝里夹着一个蓝色小包裹，走进六国饭店，王天木认识这名裁缝，他是西服店的掌柜。
于是王天木走上前去和掌柜的寒暄，问他到这里来干什么？掌柜随口回答，说有人前两天到店里来，说要做两套西服，让我今天来量尺寸，顺便确定一下西服的样式。王天木凭着多年的特务经验，对掌柜的话产生了兴趣，虽然王天木并没有再接着探问，但他却惦记上了这名西服店的掌柜。
王天木和白世维走出六国饭店后，来到陈恭澍的住所，把和郑介民沟通的情况告知了陈恭澍，郑介民告诉他们，张敬尧化名常石谷，下巴上有一撮毛，可以凭此名字和特征辨认并暗杀他。随后，王天木还将遇到西服店掌柜的事情也说给了陈恭澍，由于刚才在六国饭店门口，人多口杂不方便细问西服店的掌柜，所以王天木打算午饭后，到西服店去找西服店老板打听，到底是谁要做西装。
午饭后，王天木、白世维、陈恭澍三人来到西服店，掌柜的恰好就在店里，掌柜的以为王天木等人要定做西服，还没等王天木等人开口，就表示自己最近这两天很忙，恐怕要过些日子才能接几位的活，他得先把常先生的服装和其他人的服装赶出来，常先生急着要，后天下午他就准备回天津去了。
听到这个消息，王天木突然意识到，这个常先生，十之八九就是张敬尧。随后，三人返回六国饭店，悄悄查询了六国饭店登记入住的人员名单，只有常石谷这样一个姓常的房客。于是，王天木等人开始紧张起来，如果西服店老板说的没错，那么过两天张敬尧就要离开北京了。也就是说，在这两天里，他们必须迅速完成“老板”戴笠交代下来的任务，可现在他们还没找到暗杀张敬尧的最佳时机。
就在王天木等人一筹莫展之时，一个绝佳的机会突然出现了。
1933年5月7日上午11时左右，王天木带着白世维来到六国饭店，准备开一个房间，住在六国饭店里，随时洞察张敬尧的行踪。因为三、四楼已经没有空房间了，所以王天木订了二楼的一间空房，订好房间后，王天木和白世维一起去看房间。看完房间，王天木和白世维跟在茶房伙计的后面，想跟着伙计抄近道走到饭店的大堂去，就在这时，他们路过走廊南侧的一间房子，从窗户外，他们偶然间看到一个人，这个人正侧身坐在床边，手里摆弄着一个小物件，下巴上正好有一撮小胡子。
王天木突然想到郑介民所说，张敬尧的下巴上有一撮小胡子，那么这个人是不是就是张敬尧呢？王天木担心自己看花眼，于是停下来，扭过身子朝窗户内仔细窥探，没错，此人下巴上就是有一撮毛，而且，王天木仔细回忆了一下，在所谓的常石谷登记入住的几套包间中，也的确有这一间。
白世维见王天木停了下来，也随着王天木的视线往窗户里面看，此时，王天木不再犹豫，拉过白世维，指着窗内的那个人悄声对白世维说，就是他，他就是张敬尧。
白世维二话没说，掏出手枪，对着窗户里的人，砰、砰、砰连开三枪，然后二人转头就往六国饭店门口飞奔，转身时，白世维用余光看到，窗内那个人被击中倒地。
当张敬尧的随从反应过来，携带枪械封锁了六国饭店时，王天木和白世维早就逃出了六国饭店。随从们想到了那名可疑的南洋富商，便去南洋富商的房间里查看，却发现南洋富商早就不见了人影，房间里留下了十几只沉甸甸的箱子，随从打开箱子一看，里面竟然全是砖头。
5月8日，也就是第二天，报纸上就刊登出一条消息：巨商常石谷，在东交民巷六国饭店内遇刺，伤重不治身亡，凶手逃逸，尚未抓获。
张敬尧被暗杀一案，当时并没有在社会上激起多大的浪花，许多人以为，他只是被仇家暗杀，或者被人劫财不成反遭杀害，前面已经说过，当时的商人很多自身难保，而这两个原因，又是导致商人死亡的主要原因，因为当时屡有商人遇害的案件发生，所以此事也并没有受到广泛的关注。
只有知晓张敬尧身份的一些人，隐约猜到他有可能是被军统局的特务们暗杀的，但是知晓张敬尧身份的那些人，不是张敬尧拉拢来的汉奸，就是打算跟着张敬尧一起做汉奸的人，谁也不敢公开站出来寻找暗杀张敬尧的凶手，于是此事就此不了了之。
直到几天后，国民党在北平机关报上发出报道，报道内容主要是：北洋皖系军阀首领之一张敬尧因叛国通敌，被“锄奸救国团”击毙在北平，此事才算真相大白。
这是军统局第一次对汉奸亮出自己锋利的刀锋，自此，以张敬尧被暗杀一案为开端，军统局的锄奸行动广泛展开，后来，不仅仅是汉奸，就连日本军官也屡屡被军统特工暗杀。
军统局的行动，让日本驻华特务机构紧张不已，他们再也不敢轻视中国特工，为了改变这种局面，他们迫切需要建立一支能够与军统局和中统局相抗衡的特工组织，找到一个在情报、暗杀、绑架等工作上皆不逊色于戴笠的特工的人来主持一支为日本政府服务的特务组织，从而制约和反击军统和中统的锄奸和暗杀行动。于是，李士群终于得到了日本驻华特务机构的重视，而李士群本人，也因为张敬尧被军统局暗杀惊恐不已，迫切希望组建一支能够保护自己、对抗军统和中统的特务机构，于是，李士群开始积极筹建汪伪76号。
攀上杜月笙的“大船”
虽然日本驻华特务机构认识到了李士群的重要性，但是要正式确定帮助李士群筹建亲日特务机构的计划，尚需时日。但是李士群却一刻也等不及了，他在遭遇军统暗杀后，已经忧心忡忡，而在张敬尧被军统局特工暗杀后，则更加坐卧不宁。李士群恨不得当下就杀到军统局的大本营去，将戴笠一干人等杀得片甲不留，以图彻底安心，不过他当然明白，自己这个想法不过是妄想而已，以他现在的实力，别说是杀到军统局的大本营了，就连走出大西路67号后，自己能不能再安全地回到大西路67号都是个问题。所以，李士群更加抱紧日本人的大腿，为日本人鞍前马后地效力，为了获取日本人更多的信任，他开始四处拉拢人马。
李士群苦于没钱没兵，自然就没有反击军统局的资本，于是李士群想到了拉拢社会各界的人来为自己服务。
为了拉拢社会各界人士，李士群想到了汪曼云，前文已经说过，汪曼云被李士群拉上了贼船，投靠了日本政府。当下，李士群便想通过汪曼云的社会关系，拉拢更多的人为自己服务。汪曼云是杜月笙的门徒，李士群于是盯上了杜月笙，倘若自己能够攀上杜月笙这条大船，那么必然可以联络到更多的人，为自己未来的发展奠定坚实的基础。
李士群是个心思活络的人，他非常清楚，能被杜月笙这样的大亨看得上眼的人，要么有强大的实力，要么有过人的能力，那么，当下，能力不足，实力平平的自己，又怎样才能进入杜月笙的法眼呢？
就在李士群正在为如何才能顺利与杜月笙攀上交情发愁之时，日本特务机构为李士群“送”来一份“大礼”——一份文件，文件名为《杜月笙在上海的势力》。就是这份文件，解决了李士群的燃眉之急。
这份文件是怎么来的呢？
当时，杜月笙在上海势力庞大，与政要名流的关系更是盘根错节，可以说，谁能得到杜月笙的支持，谁就能获得上海至少1/3的各界名流的支持，面对如此巨大的势力，贪婪无比的日本政府怎么可能不眼红？日本驻上海特务机构早就盯上杜月笙，他们威逼利诱杜月笙的门徒为他们搜罗杜月笙的各种信息，还拉拢到一名杜月笙的亲信，为他们撰写了一份详细的文件，那就是《杜月笙在上海的势力》。
