陈赓当然懂得，光是一两个这样的“王先生”，是不能更好地完成任务的。不入虎穴，焉得虎子。必须尽可能多地派人深入虎穴，打进敌人心脏，即打入国民党军、警、宪、特机关、党部及帝国主义在租界设立的巡捕房，才能掌握更多更有价值的情报。于是经过长期努力，通过各种关系，抓住各种机会和深入细致地工作，慢慢地在敌人内部安下了钉子，布下了眼线，建立起反间谍关系，使情报工作得到很大发展。
1930年4月，黄埔军校第一期毕业生黄第洪，刚从苏联学习回到上海不久，就秘密写信给蒋介石，说他希望和蒋见面，但千万不要让别人知道。还把周恩来准备同他会面的地点及他的联络地址附在信上。他不了解，此时的蒋介石，已经不是黄埔军校那时羽翼未丰的校长了，不可能像过去那样随便见了。蒋介石大笔一挥批给了陈立夫，陈又批给了其亲信、党务调查科科长徐恩曾办。徐是纨绔子弟，每日花天酒地的鬼混，既没有时间也没有精力去管这事，就交给他的机要秘书钱壮飞办，而钱壮飞是中共党员。
钱壮飞是北平医学专科学校的毕业生，1925年和妻子一起加入中国共产党，曾经利用医生职业作掩护为中共工作。1927年“四一二”反革命政变后，北平反动当局也在疯狂捕杀共产党人和革命群众。是年底，他带着全家跑到上海，为生活所迫，考进了上海无线电管理局长徐恩曾主办的无线电训练班，因为忠厚老实又多才多艺，又是徐的浙江省湖州的同乡，所以深得徐的信任，被任命为无线电管理局的秘书，成为徐的亲信。
1928年1月，国民党中央组织部建立了党务调查科，组织部长陈立夫就逐渐把它发展为一个进行秘密侦察、逮捕、审讯的特务机关，任命其表兄弟徐恩曾为主任，徐就把钱壮飞也带到这个机关来当他的秘书……此后钱壮飞的组织关系就转到了陈赓手上，也就成了陈赓建立起来的重要的反间谍关系。
钱壮飞在这个位置上，曾得到过很多重要军事情报，中共中央转发各地红军，对反击国民党军队的“围剿”作战，起过很大作用。这次拿到黄第洪的信，怎敢怠慢，急忙把情况报告组织，陈赓也立即报告周恩来。周恩来指示先将黄第洪隔离开，然后派人去和他周旋、了解情况。经过周密调查，证明黄确已叛变，企图勾结敌人，对党进行大破坏。就令陈赓指挥红队出动，将黄第洪秘密逮捕镇压，为党除了一个大害。
任弼时当时在中共江苏省委工作，1929年9月的一天，一早出去开会，离家时告诉妻子12点回来吃中饭，但直到天黑也没回来。妻子陈琮英感到可能出事了，急忙将情况报告中共江苏省委书记李维汉，当时中共江苏省委机关也设在上海。
原来，任弼时去开会的地点，已被敌人发现，英租界的巡捕房已经在院中设下了埋伏。那天下大雨，自己人还没有来得及发出报警信号，任弼时已经疾步走上台阶敲门了，被巡捕抓住。他身上什么也没有带，只有一张乘公共汽车的月票，而月票上的地址也是假的，巷子里根本没有那个门牌号。敌人问他什么他也不说，于是就对他严刑拷打，还使用了电刑，任弼时皮开肉绽，几次昏厥过去……但他毫无惧色，依然不讲真实姓名，不吐露中共的秘密，始终保持了共产党员的高风亮节。
陈赓遵照中共的指示，通过杨登瀛去营救。杨利用自己同英国巡捕房的关系，说任弼时是他手下的人，顺利地保了出来。
杨登瀛是广东省人，原名鲍君甫，曾留学日本，交游甚广。1925─1927年大革命时期是国民党员，“五卅”惨案前后，和几个共产党人交了朋友；此后转向南京方面，成为陈立夫等人的亲信，陈立夫、张道藩等国民党要人到上海，都同他吃喝玩乐。后来，国民党叫他做侦探，他接受了，但又觉得搞反共，若不告诉共产党朋友是对不起人；同时又觉得不取得共产党朋友的帮助，不但事情难办，也还可能有性命危险。因此，表面接受国民党的任务，暗中又与共产党联系。中共中央研究了他的情况，觉得这个人政治上虽然不甚可靠，但在隐蔽战线上还是需要的，就叫陈赓和他联系，并给他资助。于是杨登瀛也成了陈赓的重要的反间谍关系。
1928年8月，杨登瀛奉命把国民党淞沪警备司令部的一件密封公函，送往英租界巡捕房，但不知道信的内容，结果造成平凉路中共党的机关7人被捕。此后，共产党员戴冰石去找杨登瀛说：这个案子是他到警备司令部告的密。当时有人答应他，把他小姨子一起逮捕，等被捕人员全部引渡到警备司令部时，会把他的小姨子放出来，但直到现在没放。他的老婆终日和他吵闹。希望杨登瀛和警备司令部说说，赶快把他的小姨子放出来。杨登瀛立即把这情况告诉了陈赓，经调查，戴冰石确实是出卖平凉路机关的内奸，立即通知特科的第三科，派人把这个叛徒处决。
1929年夏，小瘪三王松生拿了一份共产党的秘密文件给杨登瀛，问他要不要？如果要的话，他可以继续提供。
杨登瀛故意问：“这些文件真是共产党的吗？”
“千真万确。”王松生说，“这是共产党地下党员陈尉年亲手给我的。你要不信，我可以叫他直接来见你。”
杨登瀛立刻把这一情况告诉陈赓，陈赓让杨和陈尉年接头，并收买他的文件。经过一段时间的了解，查明陈尉年不仅是共产党的叛徒，并且已经成了淞沪警备司令部的密探，危害极大，就通知红队把他处决了。
1930年上半年的一天，陈赓通知杨登瀛，中共有两个机关被暴露，巡捕房和国民党警察局准备去查抄，共产党人已经不能去那里了。如果他们动手，中共会遭受重大损失。杨登瀛立即派人去那两个地方，迅速把里面的东西转移走，敌人去时扑了个空。
在上海北火车站有一个共产党的宣传机关，被叛徒出卖，陈赓带着人赶去那里，将重要东西拿走，然后通知杨登瀛去向敌方报案，特务们赶去时，在那里只找到了一些共产党的宣传品。
1930年，共产党干部吴节生（又名吴良夫）和他的弟弟一同被捕，巡捕从他身上搜出刘冰山（已被捕）在狱中给他写的一封信，又在他家中搜出一些革命传单，还有《红旗报》的德文译本和马克思、恩格斯、列宁的著作。4月15日，兄弟二人被押解到江苏省高等法院第二分院，审判时杨登瀛争取参加陪审，在他的斡旋下，1931年1月21日法院宣判其弟无罪释放，吴节生被判处两年徒刑，后减刑4个月，于1932年8月6日获释。
1931年4、5月间，中共中央政治局委员关向应，在上海被捕，还被巡捕房抄去一箱文件。关向应化名李世珍，受到严刑拷打，没有一点口供。英国探长对那箱文件也很发愁，对汉语不熟悉，挑来挑去不知道哪份重要。陈赓便去和这时已经升任“国民党中央党部驻沪特派员”的杨登瀛商量，要杨直接去找英租界巡捕房的兰普逊探长，说愿意帮助他鉴别文件，英国人正求之不得就答应了。杨登瀛又说自己忙，就介绍陈赓推荐的刘鼎去鉴定，并说刘是专家。刘鼎一个人在屋中，把所有手抄和复写的文件藏在身上，出屋时手上拿着几份油印文件，对巡捕房的人说：“我带回去研究。”后来陈赓叫杨登瀛告诉兰普逊，说被捕的是一位学者，文件大都是学术研究资料。从此巡捕房不认为关向应是重要犯人，同年冬天就放了。
陈赓主持的第二科，不仅在国民党特务机关中，有重点地建立了反间谍工作，并且在国民党淞沪警备司令部，英、法租界巡捕房中也分别建立了反间谍关系，有的是派人打进去，有的是经过收买等手段“拉出来”。尽管这些关系有的建立时间短，有的因职务低等原因，作用不太大，但是陈赓通过这些关系，得到了一些情报，营救了一些革命人士，在保卫中共党组织安全方面，起到了积极作用。
