随后自行捆绑，到晋王杨广那里请罪。杨广将此事上报朝廷，隋文帝下令赦免了他。下诏命令对陈高祖、陈世祖、陈高宗的陵墓，总共安排五户人家负责守护。
隋文帝派人将陈朝灭亡的消息告知许善心，许善心穿着丧服在西阶之下痛哭，坐在草席上向东而坐了三天，隋文帝下敕书慰问他。第二天，下诏召许善心到馆舍，任命他为通直散骑常侍，赏赐一套衣服。许善心哭尽哀思，进入房间更换衣服，再次出来后，面向北方站立，流泪叩拜接受诏书，第二天才入朝，趴在殿下哭泣，悲痛得无法起身。隋文帝看着身边的人说：“我平定陈国，只得到了这个人。他既能怀念旧主，也就会是我的忠臣。”下令让他以本官身份在门下省任职。
陈朝水军都督周罗睺与郢州刺史荀法尚驻守江夏，秦王杨俊统领三十位总管、水陆大军十余万驻扎在汉口，无法前进，双方相持超过一个月。陈朝荆州刺史陈慧纪派遣南康内史吕忠肃驻守岐亭，占据巫峡天险，在北岸岩石上开凿孔洞，系上三条铁锁，横截长江上游以阻挡隋朝战船，吕忠肃还倾尽自家财产补充军用。杨素、刘仁恩率军奋力进攻，历经四十余次战斗，吕忠肃凭借险要地势顽强抵抗，隋军战死五千余人，陈军割下死者的鼻子回去邀功请赏。不久后隋军多次获胜，俘获陈朝士兵后，三次将他们释放。吕忠肃放弃营栅逃走，杨素慢慢拆除了铁锁；吕忠肃又占据荆门的延洲，杨素派遣一千名巴地土着士兵，乘坐四艘五牙战船，用拍竿击碎陈朝十余艘战舰，大败敌军，俘获士兵两千余人，吕忠肃仅孤身逃脱。陈朝信州刺史顾觉驻守安蜀城，弃城而逃。陈慧纪驻守公安，烧毁全部储备物资，率领军队东下，从此巴陵以东再无坚守的城池。陈慧纪率领三万将士、一千余艘楼船，沿长江东下，想要入援建康，却被秦王杨俊阻拦，无法前进。此时，陈朝晋熙王陈叔文被罢免湘州刺史之职，返回建康途中到达巴州，陈慧纪推举他为盟主。但陈叔文已经率领巴州刺史毕宝等人送信给杨俊请求投降，杨俊派遣使者迎接慰问。恰逢建康平定，晋王杨广命令陈叔宝亲笔写信招降上游各位将领，派樊毅前往周罗睺军中，派陈慧纪的儿子陈正业到陈慧纪军中传达旨意。当时各城守军都已放下武器，周罗睺于是与各位将领大规模哭吊三天，遣散士兵，然后前往杨俊军中投降，陈慧纪也随之投降，长江上游全部平定。杨素率军抵达汉口，与杨俊会师。王世积在蕲口，听说陈朝已经灭亡，便写信晓谕江南各郡，于是江州司马黄偲弃城逃走，豫章等郡的太守都前往王世积军中投降。
癸巳日，隋文帝下诏派遣使者巡视安抚陈朝各州郡。二月乙未日，撤销淮南行台省。苏威上奏请求每五百家设置一名乡正，负责治理百姓、裁决诉讼。李德林认为：“当初废除乡官裁决事务，是因为他们与乡里百姓关系亲近熟悉，容易判决不公，如今让乡正专门管理五百家，恐怕危害更甚。况且偏远狭小的县城，有的不足五百家，难道要让两个县共管一个乡吗！”隋文帝不听。丙申日，朝廷颁布制度：“五百家为一乡，设置乡正一人；一百家为一里，设置里长一人。”
陈朝吴州刺史萧瓛深得民心，陈朝灭亡后，吴地百姓推举他为首领，右卫大将军武川人宇文述率领行军总管元契、张默言等人前往讨伐。落丛公燕荣率领水军从东海赶到。陈朝永新侯陈君范从晋陵投奔萧瓛，合军抵抗宇文述。宇文述的军队即将抵达晋陵，萧瓛在晋陵城东设置营栅，留下士兵抵抗，派遣部将王褒驻守吴州，自己从义兴进入太湖，想要袭击宇文述的后方。宇文述进军攻破营栅，回兵攻击萧瓛，大败敌军；又派遣士兵分路袭击吴州，王褒穿着道士服装弃城逃走。萧瓛率领残余士兵退守包山，燕荣率军击败了他。萧瓛带着身边数人躲藏在百姓家中，被人抓获。宇文述进军到奉公埭，陈朝东扬州刺史萧岩献出会稽投降，萧岩与萧瓛都被押送到长安斩首。
杨素攻下荆门后，派遣部将庞晖率军攻城略地，向南抵达湘州，城中将士毫无坚守之志。湘州刺史岳阳王陈叔慎，年仅十八岁，设置酒宴召集文武官员。酒酣之际，陈叔慎叹息道：“君臣大义，难道就此终结了吗！”长史谢基伏在地上流泪。湘州助防遂兴侯陈正理在座，起身说道：“君主受辱，臣子该死，各位难道不是陈国的臣子吗！如今天下危难，正是为国捐躯的时候。即使不能成功，也能彰显臣子气节。青门之外（指代投降），我绝不苟活！今日之机，不容犹豫，后响应者斩首！”众人都答应了。于是杀牲结盟，又派人假装向庞晖献上降书。庞晖相信了，约定日期进城，陈叔慎埋伏士兵等待。庞晖一到，就被抓获示众，其部下也全部被斩首。陈叔慎坐在射堂，招集士兵，几天之内聚集了五千人。衡阳太守樊通、武州刺史邬居业都请求出兵相助。隋朝所任命的湘州刺史薛胄率军恰好赶到，与行军总管刘仁恩合力进攻；陈叔慎派遣部将陈正理与樊通迎战，兵败。薛胄乘胜入城，擒获陈叔慎。刘仁恩在横桥击败邬居业，也将其擒获。两人都被押送到秦王杨俊处，在汉口斩首。
岭南地区尚未归附，几个郡共同推举高凉郡太夫人冼氏为首领，号称圣母，保卫境内，抵抗隋军。隋文帝下诏派遣柱国