隋文帝看到攻打陈朝的时机已经成熟，就召集群臣商议灭陈的计划。他说:“如果我们之间有一条水，我们能做些什么吗？”当他说“一衣带水”时，他指的是长江。仆射(相当于宰相)高炯说:“要灭陈，先要灭陈的粮库。江南的房子和粮仓，大多是用竹子和稻草建造的。只要一把火，就能化为灰烬。没有食物他们怎么打仗？”隋文帝甚至自称好。高炯补充道，“他们割稻子的时候，我们派兵骚扰。等他们集合了割稻子的兵，我们就撤退。有几次像这样的场合，他们以为我们没有真打，所以必须放松警惕。到那时候，我们就趁机突破长江天险，半个江南不就都是我们的了？”
隋文帝听了非常高兴。他一边派兵骚扰江南，一边派大臣苏阳建造战船，准备渡江。
当时，陈朝的陈后主还过着放荡的生活。他盖了很多楼，建了亭子，用金子铺了宫殿，用玉做了台阶。一整天，他都和他最喜欢的、孔以及几个专门拍马屁的大臣厮混在一起。他不问政治，越来越迷信。他梦见穿黄衣的人围攻城池，坚称橘树在作怪，派人去砍城墙附近的橘树；他见了狐狸，就把妖怪喊出来，假装把自己卖到佛寺当奴隶，说这样可以避祸。
隋开帝八年(公元588年)，隋文帝决定渡江灭陈。发兵前，他发出书信，一一揭露陈后主的罪恶，抄了30万封，秘密派人分发到江南各地。接着，他派次子晋王杨光为元帅，率领五十万大军出发了。从东海到永安县(今四川奉节县)，隋军分八路同时过河。
紧急公文如雨点般下到建康(今江苏南京)，陈后主急忙召集大臣商议对策。都城的官员孔范故作镇定地说:“长江在古代被称为天险。隋军能用翅膀飞到这里吗？”这只是镇守边境的将领谎报敌情，想骗取赏赐。杀他几个，就没人敢撒谎了！”昏庸的陈后主一听，又振作起来，挺直了胸膛，抬起头说:“说得对！建康自古以来就是帝王之都。我(古代自称皇帝的人)注定是皇帝。你害怕什么？曾几何时，北齐三次进攻，都失败了；北周两次入侵也碰壁。今天小小的隋文帝能成什么气候！"
黄凯九年(公元589年)正月初一的清晨，大雾漫天，江面上什么也看不见。陈超俊和他的臣民还在酣睡。两名隋军率领的将军何若璧和韩擒虎悄悄渡过长江，然后联合起来，包围了健康城。
当时建康城内有数十万陈军队，地形十分险要。如果组织得当，积极防守，是很难突破的。然而，当陈后主兵临城下时，他急得日夜哭泣，什么也做不了。萧漠河将军建议在隋军站稳脚跟之前，立即出兵攻打隋军，孔范也对陈后主说:“我认为应该出兵决战。如果我们死了，我们还是会被载入史册的！”陈后主听了他们的话，立即命令萧漠河和任忠带领部队出城决战。陈麾下将士久未练兵，将领惯于享受生活。双方一战，陈掉头就跑。任忠投降了隋军，他和韩擒虎冲进了建康城的大门朱雀门。守卫城门的陈军持枪抵抗。任忠大叫:“连老太太都投降了。你为什么而战？”驻军士兵一听，一哄而散。何若碧活捉了小漠河，从北门冲进了建康城。
这时候，文武百官都逃命去了，而愚蠢的陈后主还坐在庙里，等着士兵报告好消息。忽听得一阵杀声，他才知道已入城，吓得跳下宝座，奔到后宫，找到、孔，一手牵着一个，企图逃出。刚跑到景阳寺的一口枯井边上，就听到前面有喊声。眼看无路可逃，陈后主带着两个妃子一起跳进井里，但他没有死。
隋军进了宫殿，当他听说陈后主挖了一口井时，他找到一个绳钩，把它放在地下钩住。没想到有三个人挂了。隋朝的士兵看到这一幕，都气愤地说:“这么荒唐的君主怎么能不死！”这口井原名景阳井。自从陈后主跳进这口井，人们就称它为胭脂井。胭脂是女人的化妆品，让人嘲笑陈后主的放荡。陈朝的一些老人(改朝换代后仍忠于前朝的老人)认为这是陈朝的耻辱，把这口井称为“耻辱井”。
正月二十二日，晋王杨光进建康城，陈朝灭亡。南北朝的分裂也结束了。隋朝只用了四个月的时间就出兵攻打陈，最终消灭陈。