1927年9月，中共中央机关迁往上海。这里既是帝国主义侵略中国的重要基地，又是反革命势力的大本营。同时，“革命形势一经变动，许多党员动摇消极，甚至公然叛党，投降敌人，陷害同志”、“自首告密叛变的事由南而北渐渐遍及全国各级党部”。面对反动当局的严密搜捕和血腥屠杀的残酷局面，要把国民党统治下广大地区的党组织保存下来极其困难，要使其得到巩固和发展更是举步维艰。周恩来深刻地认识到“必须创建专门的工作机构”，于是向党中央建议成立中央特科。

中央特科以原武汉中央军委特务工作科的李强等同志为骨干，又吸收了上海地下党的一些同志，由周恩来亲自指挥。这个机构的主要任务是收集情报、惩办叛徒、营救同志、打击敌人、保卫中央机关的安全。周恩来对中央特科的建立、发展、完善及一系列活动倾注了大量心血，制定了一整套的政策和原则，并注重实践历练。在敌人白色恐怖极为严重、工作条件极为险恶的情况下，为中央特科举办训练班。周恩来亲自为训练班作政治报告，讲对敌斗争的方针政策和原则。同时，训练班还学习秘密工作技术和秘密工作纪律，如化装侦察与反侦察上海市区道路和居民住宅情况、密码破译、密写技术以及被敌人抓捕后开镣技术等，并乘船去海上进行射击训练。

在周恩来的领导下，中央特科根据工作需要逐步建立了各有分工又密切合作的四个科：第一科是总务科，负责总务事项；第二科是情报科，负责情报工作；第三科是行动科，承担惩办特务、镇压叛徒的任务；第四科是无线电通讯科，负责无线电的通讯联络工作。党的六大召开以后，为加强对中央特科的领导，1928年11月14日，中央政治局常委会决定成立中央特别委员会，简称“特委”，由向忠发、周恩来、顾顺章组成。周恩来是决策人，日常工作则由顾顺章负责，向忠发挂名，也就是说“周恩来是特委的灵魂、决策者”。

在实际对敌工作中，周恩来亲自指导中央特科在国民党专业反共领导机构中建立了强有力的反间谍关系。如深得陈立夫、张道藩信任的“大红人”，后被陈立夫正式任命为“国民党中央驻沪特派员”的杨登瀛，从参加国民党侦察机关就一直为中央特科工作，多次提供了国民党特务机关对共产党采取的行动计划，弄清了隐藏在我党内部的叛徒与奸细，积极营救被捕的同志，还从敌人手中巧妙地夺回党的机密文件，为党中央的安全和中央特科准确打击敌人、严惩叛徒作出了重要贡献。再如国民党上海警备司令部的政治密查员宋再生，也是中央特科安置在敌人内部的反间谍人员。他曾协助陈赓处决了两个企图向敌人告密，抓捕李维汉、李立三的奸细和叛徒。中共中央在上海期间，周恩来领导的中央特科隐蔽战线发挥了无可替代的巨大作用，多次在敌人对中央机关采取毁灭性行动的危急关头，及时传递准确情报，为党的转移和采取应变措施赢得了时间，保证了中央机关的安全。但意想不到的变故还是发生了，严重考验了周恩来领导的中央特科。

1931年4月24日，中央特科负责人顾顺章在武汉被捕后立即叛变投敌。因他长期负责党中央机关的保卫工作，故对党的秘密工作情况十分熟悉，对中央在上海的重要机关、领导人住处也了如指掌。接到顾顺章叛变的消息后，周恩来临危不惧、当机立断，有条不紊地作安排。当天就同陈云商定对策，并在聂荣臻、陈赓、李克农、李强等人的协助下，迅速采取了一系列紧急措施：销毁机要文件；将党的主要负责人迅速转移并采取严密的保卫措施；在他们的秘书当中，凡可能被顾顺章认识的都做调动；将一切顾顺章所熟悉的、可能成为其侦察目标的干部尽快转移到安全地区或调离上海；切断顾顺章在上海所能利用的所有重要关系；废止顾顺章所知道的一切秘密工作方法和暗号，并由各部门实行紧急改变。在周恩来的严密部署下，当天夜里，中共中央、江苏省委和共产国际远东局的机关全部转移。周恩来率领中央特科夜以继日地战斗，终于赶在敌人前面打了个漂亮的时间差，使敌人处处扑空。敌人企图一网打尽中国共产党地下组织的阴谋被彻底粉碎。

敌人阴谋虽未完全得逞，但周恩来对中央特科工作进行了深刻反省，敌人在上海的大搜捕使中共中央及地方党组织受到破坏，许多共产党员被捕惨遭杀害。周恩来认为，中央特科工作虽有许多成绩，但“因顾顺章一人背叛，遂使全部工作受到影响”是特科工作本身缺点造成的，其根源是缺乏政治教育，并表示自己应负主要责任。

1931年12月上旬，根据中央决定，周恩来离开上海赴中央苏区担任中央局书记，而中央特科直到1935年9月才撤销。从1927年到1931年，周恩来领导的中央特科与敌人进行了艰苦而隐蔽的斗争，在对敌斗争中发挥了重要作用，在中国共产党斗争史上建立的卓越功绩不可磨灭。