楊堅成爲國師之後，便著手謀朝篡位。五百八十一年，楊堅退位讓賢，建立了自己的國家，被稱爲隋文帝。但是，一個剛剛建立的國家，還有很多事情要做。且不說這些年來，百姓們已經被打得筋疲力盡，就連北方的匈奴人，也開始蠢蠢欲動了。隋文帝深思熟慮之後，終于打消了平庸之心，決心大舉進攻，重創匈奴人。隋文帝制定了三條政策：

一是、停止對大西域的年度貢賦，以重創大西域的國力；二是、鞏固國防，築牢對內長城；三是、利用離間之術，讓大突厥人爭奪王位。以此爲基礎，隋王朝在與突厥人的鬥爭中逐步取得優勢，但其自身的危險並沒有消除。雖然，北邊的突厥人已經安然無恙，但陳朝卻在南邊擴張，與長江中的其他地方展開了戰爭。更何況，在隋的西邊，還有一個叫‘吐谷’的地方，他們也要在那裏占點便宜。爲了整個國家的利益，隋文帝對吐谷渾的態度非常好，願意放棄自己的土地。沒想到，他居然還敢打下涼州（現在的甘肅武威市）的主意。更恐怖的是，在隋東北地區，有高麗勢力撐腰的高寶甯，正准備對其發動反攻。如今的隋朝，正處于四面受敵的局面，情況並不樂觀。幸運的是，東、北、西、南四個方向的敵對勢力還沒有聯合起來，彼此之間都是各自爲戰。

隋文帝雖然四面受敵，但他並沒有慌亂，反而沉著地對整個世界進行了一番全面的評估。隋文帝則以爲：陳朝外敵雖猛，內敵未齊。論兵法，陳朝的士兵根本不是隋軍的對手。吐谷渾雖然有雄心壯志，但是他們所處的地方是蠻荒之地，體制陳舊，不可能有什麽作爲；而西域的西域人，雖然實力大減，但也不容小觑。最好的辦法，就是集中力量，進攻相對弱勢的吐谷渾國和陳國，之後，就可以全力對付突厥人了。

隋文帝五百八十三年3月，诏令兩位名將賀若弼、韓擒虎，統領南疆軍機。到了9月，隋的精銳部隊繼續向前推進，先後在吳州、壽陽兩個地方擊敗了陳軍。從那以後，陳軍就再也沒有翻身的機會了，一直被隋朝的軍隊壓著打。陳朝的陳宣帝，原本打算率軍向北，與隋並駕齊驅，但沒想到一敗塗地。陳宣帝傷心欲絕，到了年末便大病一場，不久之後便去世。宣帝去世，大陳後主登基爲皇。陳後主見隋軍氣勢如虹，當即派出特使，前往隋求和，並割讓了一大片疆域，以求停戰。陳後主的懇請，隋士兵充耳不聞，一心要向南方進發，擊潰陳軍。不過，隋文帝又怕這條線拉得太遠，會引起北邊的西域突厥的異動。所以，他命令陳後主收兵，帶著自己的軍隊返回。

隨著南部戰場的大捷，在西部戰場上，隋王朝的軍隊也取得了不少戰果。隋文帝五百八十三年8月，命袁蘭爲總指揮，率領婁子幹，元浩等兵馬，向吐谷渾發起總攻。元諧奉隋文帝之命，采取迂回戰略，截住了吐谷渾人部的退路。元諧占據上風後，一路高歌猛進，直搗敵人大本營。吐谷渾王世子可博汗帶著五萬大軍向隋進軍，卻被隋大軍打得潰不成軍。這一戰之後，吐谷渾損失慘重，再也沒有了反抗的力量。西線、南線的勝利，讓隋王朝擺脫了陳朝、吐谷渾的威脅，奠定了未來擊敗突厥人的基石。開皇二年，突厥人遭受到了前所未有的災難，無數的子民陷入了絕境。迫于無奈，突厥可汗沙缽略被迫出兵四十萬，進攻隋的長城。西域雖有自然災害，但士兵們的鬥志卻絲毫不減。

5月16日，位于隋東北部的高寶甯等人與突厥人合作，對隋發動了攻擊。在突厥與高寶甯的強攻之下，隋陣前出現了多面崩潰的局面。隋大將李崇率領大軍與突厥人交戰，然而，在強悍的突厥人面前，卻始終無法取勝。隨著突厥人的不斷進攻，他們的攻勢越來越猛烈，他們在大隋的西北長城沿線，州縣相繼失守，京城長安亦岌岌可危。後來，隋文帝任命虞慶爲統帥，率兵出征弘化（今甘肅慶陽），與敵軍周旋。虞慶下令達奚統領的軍隊，帶著2000人前去打探消息，沒想到被突厥人團團包圍。面對四面八方的敵人，達奚大儒生卻沒有絲毫畏懼，他下令部下快速列好陣勢，自己沖在最前面，鼓勵部下拼死一搏。突厥鐵騎雖然數量龐大，但是達奚和他的長儒卻是寸步不讓，這一戰就是三天三夜。

在戰鬥中，隋軍沒有武器，所以戰士們都是徒手與敵人厮殺，有些戰士還能看到手臂上的白骨。突厥人本來是來劫掠的，沒想到會有這麽凶猛的攻擊。所以，他們將士兵們的屍體一把火燒了，然後匆匆離開了關隘...一步錯，一步錯，滿盤皆敗。楊堅一統天下之後，奮發有爲，成就了“開皇之治”的光輝曆史。在此基礎上，宇文泰在西魏朝推行“鮮卑化制”，使已被改爲“鮮卑”的漢朝官員、武官（包括他們所屬的武官）都重新成爲“漢”字。此外，還取消了九品官的制度，采用了五府六司的制度，後來被稱爲“五省六司”制度。而楊堅則是采納了司馬蘇威的提議，廢除了鹽酒的專賣，在接下來的幾年中，又進行了幾次的稅收減免，以減少百姓的負擔，增加了全國的糧食産量，鞏固了全國的經濟。

這一點，從開皇年間的人口就可以看出，在開皇年間，有四百六十二萬人居住，而在開皇九年，則有七十萬人居住在這裏。