1945年初，国民党军统总部情报处的余则成接到重要任务，和上级吕宗方赴南京潜入汪伪政府，暗杀叛逃的李海丰。吕宗方初到南京便遭枪杀。余则成单枪匹马暗杀了李海丰，得到军统嘉奖。这时，共产党特使突然告诉他吕宗方的真实身份是地下党。更让余则成惊讶的是，深爱的女朋友左蓝也是共产党。根据吕宗方对余则成的评价，特使希望余加入地下党。
余则成无意中发现戴笠等人为私利而向日军泄露新四军情报，也彻底看清国民党失去民心的原因，加上左蓝的劝告，遂弃暗投明。党组织要求他留在军统，潜伏待命，代号“峨眉峰”. 余则成受命到军统天津特务站，站长吴敬中要求他把夫人接来。党组织给他派来了大方朴实、泼辣耿直的女游击队长翠平，让两人做起了假夫妻。练过功夫、枪法如神的翠平不适应吃西餐、打麻将的官太太生活，闹出不少笑话，多次强烈要求离开，二人在生活细节和性格上也冲突不断。 1946年1月，国共双方开始“军调”.余则成发现中共派来的军调人员中竟然有左蓝。余则成将军统在中共代表身边布下的监视特务名单交给左蓝，并公之于众，首战告捷。特务站内部明争暗斗。站长动用潜伏在延安的特务“佛龛”调查左蓝和余则成的关系，行动科长马奎还抓捕了余则成的联络员秋掌柜。余则成与左蓝利用特务站陆桥山与马奎的争权夺利，将“峨眉峰”的帽子戴在了马奎头上。最后，马奎被转运时逃脱，而左蓝挖出“佛龛”，用他换回了受尽酷刑的秋掌柜。身份暴露的“佛龛”李涯分配回到天津，他提议让余则成策反左蓝，以测试余则成。得知左蓝不从，李涯决定杀害左蓝。他让余则成电话通知左蓝晚上在某地见面，余则成无奈答应，同时让翠平中途去拦截左蓝。眼看就要成功，不料途中横杀出咆哮着寻仇的马奎，一番激战，左蓝和马奎互射身亡。左蓝的牺牲让翠平第一次看到地下斗争的残酷，开始慢慢理解余则成的潜伏工作，两人渐渐有了默契。余则成和李涯联手，几经争斗，路桥山被迫调走，余则成晋升为天津站副站长，获得了更多情报。
原因一：“大嘴巴小眼睛”撞出火花
张静说，《潜伏》的走红，和原著小说、编剧、演员密不可分。别以为《潜伏》里都是小规模的巷战是为了省钱，这样的构思是为了在形式上区别于别的谍战剧——谍战戏里经常出现的枪林弹雨等极具动作感的场面在《潜伏》中被有意回避了。“我要的是稳稳当当地内斗、心斗、智斗，不知道到底谁是敌、谁是友。这可能也是《潜伏》和其他谍战剧在核心上不同的地方。”张静说。而导演和编剧两者身份的合一，在拍摄过程中能将效果最大化——姜伟会在导演过程中发现有些东西是编剧时未考虑到的，现场和演员一商量，就能立马改好了。
说到演员，当时第一选择是辛柏青和朱媛媛，姜伟说写剧本时，余则成和翠平就是照着他们写的，但朱媛媛突然怀孕了，这才赶紧又开始物色演员。“姜伟看到了孙红雷的照片，心想，就是他了！可谁也不敢保证孙红雷会愿意接啊！我们运气太好了！结果把剧本送到孙红雷手上，他第二天就给回音了，要演。”张静说，接着就开始找“翠平”，依然是姜伟先提议姚晨，“他说完之后还是问了周围人的意见。可能有些人觉得不合适，怕姚晨演不出那种感觉。最后，孙红雷开口了，他说对和姚晨的合作‘有点期待’，就这样开工了。”张静透露，事实上，这一对“新组合”所碰撞出来的火花，确实令人惊喜，包括一些台词，都是两个人临场发挥的，“印象最深的恐怕就是那场对话，‘余则成：你以后能不能生个嘴巴小点的孩子？翠平：我还想生个眼睛大点的呢！’”
原因二：在谍战性中融入荒诞性
有业内人士评价，《潜伏》是“比《暗算》更好看”的谍战剧，之所以出彩最根本的原因是节奏紧凑、情节经得起推敲。记者注意到，“承袭了谍战剧情节扣人心弦、紧张刺激的经典特色，剧情更紧凑，细节更缜密”是观众对比《潜伏》与其他谍战剧后的普遍评价，“真实感很强”也成为颇具代表性的美誉。
其次《潜伏》打破了以往谍战剧的一贯严肃作风，几乎每一集都安排搞笑成分。导演姜伟表示，观众评论所说的“团结、紧张、严肃、活泼”气氛其实是他们的刻意追求的，“故事、情节的荒诞性是原小说就具有的，只不过到电视剧里夸大了。谍战性属于火，荒诞性属于水，按说不相融的，但是谍战做出这么多不相融，现在让它融了，是它的可看性之一。”