先秦時期，秦國在隴西設定隴西郡，這裡是秦國的核心統治區域。
但是涼州的大部分土地並不屬於秦國，更不屬於漢人，而是原本就屬於異族。
而大漢對涼州的統治，則要從漢匈戰爭說起，因為涼州的土地打從一開始就是屬於匈奴的。所以大漢建國四百年，在涼州這邊土地上和異族也打了四百年，西涼這片土地一直到現在也不太平。
最早是大漢與匈奴之間的戰爭，這場戰爭一直持續了近一百年，期間總共可以分為四個階段。
第一階段，從漢高祖七年前200年）開始，至漢武帝元光元年前134年）結束。
這一階段採取了和親政策，大漢對匈奴人進行妥協，漢文帝時“與匈奴和親，匈奴背約入盜，然令邊備守，不發兵深入，惡煩苦百姓”。
第二階段，從漢武帝元光二年前133年）馬邑之戰開始，至漢武帝元狩四年前119年）的漠北之戰結束。
漢武帝的元朔二年前127年），衛青、李息出雲中，西經高闕，直到符離，取得河南之戰的勝利，順利奪取了河套地區，大漢在此設定了朔方郡。
次年，漢武帝又派遣校尉蘇建率領十萬人興築陰山甫麓的長城，同年開始修築長城。
河套地區、朔方郡、長城內外，便是如今大秦國的地盤，更確切地說應該是赫連勃勃的地盤。
元狩二年前121年），霍去病出隴西，殲滅匈奴渾邪王的部隊，並越過焉支山一千餘里，取得了河西之戰的勝利，並獲得隴西，大漢在此設定涼州四郡。
匈奴人哀嘆：“亡我祁連山，使我六畜不繁息；失我胭脂山，使我婦女無顏色。”
匈奴單于恨渾邪王損兵折將，渾邪王和休屠王害怕，便投降漢朝。
這是秦朝滅亡後，大漢首次佔領涼州的土地，是付出了不小的代價從匈奴人手裡搶過來的。
元狩四年前119年），霍去病率軍北進兩千餘里，越離侯山，渡弓閭河，與匈奴左賢王部接戰。此戰，殲敵七萬人，俘虜匈奴屯頭王、韓王等3人及將軍、相國、當戶、都尉等83人，乘勝追殺至狼居胥山。在狼居胥山舉行了祭天封禮，一直打到翰海，方才回兵。
史稱“封狼居胥山，禪於姑衍，登臨翰海，執虜獲醜七萬有四百四十三級”。
元狩六年前117年），霍去病病逝，年僅二十四歲。霍去病一生戰無不勝，凡六擊匈奴，斬俘敵12萬餘人，收降4萬餘人。
這一階段，透過以衛青、霍去病為首的將領，對匈奴進行了三次大規模戰爭。大漢消滅了匈奴的有生力量，收復了河套，佔據了河西走廊，切斷了匈奴與西羌的關係，為漢朝與西域之間開闢通道。
而匈奴則狼狽北徙漠北，匈奴帝國從此逐漸走向衰亡，匈奴威脅基本解除。
第三階段，從漢武帝太初二年前103年）的浚稽山之戰開始，至漢武帝徵和三年前90年）結束。
漢武帝太初二年前103年），趙破奴率領漢軍攻打匈奴，被匈奴圍困全軍覆沒。
漢武帝天漢二年前99），李廣利攻打匈奴，慘敗，差點就沒有逃脫，六七成的漢軍將士被殺。
漢武帝天漢四年前97），李廣利率領六萬騎、步兵七萬人出朔方攻擊匈奴單于，公孫敖率領一萬騎兵、三萬步兵出雁門攻擊匈奴左賢王，漢軍戰不利，皆引還。
漢武帝徵和三年前90年），李廣利率軍深入漠北，漢軍再一次全軍覆沒。
這一階段，因為大漢的人才斷代，導致對匈奴作戰連連失利。
