割据于西北一隅的凉国，一向是石虎的心腹大患。
凉国始于张轨。公元301年，凉州大姓汉族人张轨被晋朝封为凉州刺史，313年封西平公，课农桑、立学校，多所建树。又铸五铢钱，全境通行。
后张轨死，其子张寔袭位。西晋灭亡后，仍然拒守凉州，使用司马邺的建兴年号，成为割据政权。直到320年，张茂改元永元，前凉遂彻底成为独立政权！
值得一提的是，张氏世守凉州效仿窦融，向东晋俯首称臣，但其名为晋臣，私下却亦向汉赵、后赵称臣。可见张氏凉州实则独立（或者讲至少是半独立）的割据政权，而并非东晋实际掌控的地方势力，史称“前凉”。
凉国的军事力量还是十分强大的。
凉国政权已经历张轨、张寔、张茂、张骏四世而治，先后打退了刘曜、石虎的进攻，又西越流沙，攻打龟兹，西城诸国先后归附。然后击败了伊吾戊己校尉赵贞，在其地设立高昌郡，控制了从陇西到西域的广大地区。
到张骏时，凉国达于极盛，境内分置凉、沙、河三州，设西域长史于海头，在今吐鲁番地区设置高昌郡，统治范围包括甘肃、宁夏西部以及新疆大部，史载其疆域“南逾河、湟，东至秦、陇，西包