隋朝建立之初，與之并存的政權有后梁和陳。后梁，是占據江陵(今屬湖北)及周圍數縣的小國，其皇帝蕭琮于開皇七年(587)到長安朝見隋文帝，被扣留，文帝命襄州(今湖北襄陽)總管崔弘度帶兵進駐江陵，遂滅后梁。陳朝，是江南大國，與隋為敵，曾于公元581和588年攻隋，一度占去胡墅(今江蘇六合縣東)。可見，隋的統一，主要是滅陳。隋文帝楊堅即位后，進行了一系列政治經濟改革，又多次賑濟災民、減免賦役，發展生產，穩定政權。在隋朝奮力圖強的同時，江南的陳朝極端腐敗。其皇帝陳后主陳叔寶，沉迷酒色，不理國事，同貴妃張麗華、宰相江總等一群大臣妃嬪，經常游宴后庭，夾坐賦詩，長歌酣飲，通夜達旦。還用沉香、檀香木建筑臨春、結綺、望仙三閣，又造大皇寺、齊云觀，窮極侈麗，士民憤怨，歌曰：“齊云觀，‘寇’來無際畔”，表明陳朝人民對陳的統治深惡痛絕，盼望隋朝來拯救他們。開皇七年，隋文帝做渡江滅陳的準備，派清河公楊素到永安(今四川奉節)督造五牙、黃龍等大戰艦，疏通了揚州境內的山陽瀆運河，以使舟師能夠通過。為取得人民對滅陳的支持，次年三月發布討陳詔書，并抄寫三十萬張散發到江南。十月，命晉王楊廣、秦王楊俊和楊素為行軍元帥，率九十總管、五十一萬八千大軍，八路出兵，由楊廣節制，大舉滅陳。十二月，隋軍抵達長江北岸，陳邊將飛書告急，而陳朝君臣卻仰仗王氣在金陵(即陳都建康)，仍然縱酒賦詩不輟。開皇九年(589)正月，隋將韓擒虎、賀若弼率軍渡過長江，很快進逼建康城下。陳朝老將任忠投降，引隋軍從朱雀門入城。陳后主和張貴妃、孔貴嬪，被隋軍用繩子從景陽殿枯井中拉出來，投降了隋朝，長江上游的陳軍也隨即投降。隋滅陳，是“吊民伐罪”的正義戰爭，又做了充分準備，所以前后不過四個月就取得了成功。它結束了漢獻帝初平元年(190)以來近四百年的紛亂局面(中間有西晉36年的短期統一)。人民有了較安定的社會環境從事生產，到隋文帝末年，儲備的糧食可供多年食用。說明隋的統一，促進了社會經濟的發展。統一國家的出現，帶來了南北方經濟、文化發展成就的結合，為唐朝的繁榮奠定了基礎。有關隋統一的史事，記載在《隋書高祖紀》、《南史·陳本紀》、《資治通鑒·隋紀·高祖文皇帝》中。