公元353年，前凉王张重华病逝，遗命年仅十岁的世子张曜灵继位，由张重华的庶兄张祚辅政。主少国疑，不少张祚的朋党上书给张重华的母亲马太后，要求废黜张曜灵，改立更为年长的君主，而这个马太后与庶子张祚早有私情，所以便顺水推舟废黜了自己的孙子张曜灵，改立张祚为前凉王，张曜灵不久被张祚腰斩而杀。
张祚继位之后荒淫暴虐，国内很多将领不服，355年，前凉河州刺史张瓘被逼造反，随后骁骑将军宋混起兵响应张瓘，二人东西夹攻很快攻入前凉首都姑藏城（甘肃武威）。混乱中张祚被姑藏城内的临阵倒戈的乱兵砍死，乱兵威胁马太后改立张重华年仅七岁的幼子，张曜灵弟弟张玄靓为凉王。张瓘因为拥立有功，遂把持前凉朝政。但是同样有人不服张瓘的领导，前凉持续内乱。后来张瓘担心宋混威胁他的地位，在公元359年的时候召集数万军队到姑藏准备铲除宋混，但是宋混提前得到消息，趁夜将张瓘斩杀，前凉大权转到宋混手里。
宋混其人还算忠义，尽心辅佐张玄靓，前凉得以太平两年的时间。但是361年宋混病逝，临终时张玄靓和祖母马太后亲自到宋家询问其身后是否要让他的儿子宋宗林辅政，宋混交代道：“宋宗林年纪太小又胆怯懦弱，无法担当大任，如果大王不嫌弃我们宋家，那么就让我的弟弟宋澄来辅政。”于是宋混死后宋澄继承了辅政大臣的职务，但是仅在五个月后，前凉右司马张邕便斩杀宋澄，屠灭宋氏三族，然后张邕威逼张玄靓任命自己跟张重华的弟弟中领军张天锡为辅政大臣。
张邕掌权之后如张祚一般荒淫暴虐，张天锡的幕僚怂恿他诛杀张邕，一日在上朝的时候，张天锡的两个手下突然冲出要杀张邕，但是被张邕逃了，随后他带了三百多人冲进王宫，张天锡登上城楼对着士兵高呼：“张邕残暴，屠灭宋混三族，如今又要对张氏王族动手，我们张家数代对你们都不薄，你们为什么要帮着张邕？现在你们放下兵器，就只是张邕一人的责任，起于都不追究。”士兵们便一哄而散，张邕自刎而死，张天锡又成了辅政大臣。
张天锡此时只有十七八岁，但是他是张玄靓的叔叔，而张玄靓此时也只有十五六岁，两个半大的小伙子肯定都不愿意自己被对方指手画脚的管着，于是双方都生起了除掉对方的念头。最终张玄靓的计划失败，张天锡赢得了最后的胜利，成为了前凉王。
张天锡上位之后前凉的内斗总算安定了下来，但是在公元366年的时候，张天锡做了一件和之前仇池杨纂一样的事情（其实张天锡是在前，杨纂在后的），他派人去跟前秦说，以后我不做你秦国的臣子了，我要做晋国的臣子。而此时的苻坚君臣正专心的在搞国内的经济民生建设，虽然前凉不再称藩，但是两家也没其多大的冲突，所以苻坚就把这事放在了一边。然后到了公元371年的时候，前秦灭掉了仇池，大军在秦凉边境走了几个来回之后，张天锡立即就认怂了，派人到长安道歉称臣。
张天锡虽然表面上向前秦服软了，但是心里也清楚苻坚迟早是要对自己动手的，于是他给自己找了个安慰，派使节到江东找到了东晋大司马桓温，并且跟他约定在公元372年一起出兵攻灭前秦，但是此时的桓温已经病入膏肓，英雄老矣，雄心不再，一切都没能按张天锡的意愿进行。
联合东晋攻灭前秦的计划破产之后，张天锡就彻底的自暴自弃起来，公元376年他认了两个比他还大的干儿子刘肃、梁景，将朝政全都交付给了这二人，自己则躲到后宫里全身心的投入了美酒和美女的怀抱。
前凉的朝政被刘梁二人搅得一团乱麻，官员意思劝谏张天锡都依然我行我素。苻坚则趁前凉君臣离心离德的时机准备发动灭凉战争。他先派武卫将军苟苌、左将军毛盛、中书令梁熙、步兵校尉姚苌等领军来到黄河岸边，然后派尚书郎阎负、梁殊二人前往姑藏征召张天锡来长安，如若张天锡不从，便发大军攻灭前凉。
阎负、梁殊来到姑藏之后张天锡终于从醉生梦死中醒来，他不敢去长安，怕到了那里之后苻坚就会杀了他，于是便和大臣们商量。投降派表示可以送质子去长安，但是前凉是个汉人政权，此时很多汉人是看不起氐族人建立的前秦的，他们对张天锡说：“我们大凉世代都是终于晋室的，如果委身胡人的朝廷，那会让祖宗蒙羞，再说我们还有河西走廊天险，倾尽全国之力，联合西域和匈奴，不相信打不过老氐！”张天锡被这话刺激的脸色潮红，撸起袖子振动双臂高呼：“孤意已决，再言投降者杀！”然后便跑去质问阎负、梁殊：“想死还是想活？”二人不卑不亢，从容不屈。张天锡怒火攻心，将二人绑在柱子上随后乱箭射死。
苻坚得知阎负、梁殊身死之后，立即下令大军出动。梁熙、姚苌和赶来的凉州刺史王统、河州此时李辨从清石津（甘肃兰州西北黄河渡口）渡过黄河攻击河会城（兰州西河口镇），守城将领梁济投降。数日后平凉总司令苟苌率大军渡过黄河，前凉龙骧将军马建退守清塞（甘肃武威东南）。张天锡派征东将军常据率三万大军阻挡，自己则亲领五万大军进驻金昌城（今地不详）。不久马建率一万部众投降，苟苌则领军与常据会战，常据全军覆没自己则自杀身亡。
四天后，苟苌领兵攻击金昌城，张天锡派赵充哲率军抵抗，苟苌斩杀俘虏赵充哲三万八千多人，并阵斩赵充哲。张天锡见势不妙率数千骑兵逃回姑臧城，一天后苟苌率军兵临姑藏城下，张天锡白马拉车，自缚双手，抬着棺材出来投降，苟苌将其送到长安，苻坚还是如同对待慕容暐等人一样，没有杀他，封他为归义侯，至此立国五十七年（320年至376年）的前凉亡国覆灭。
攻灭前凉后一个多月，之前降而复叛，叛后又降匈奴人刘卫辰向苻坚发来求救信。原来是刘卫辰的老丈人代国的拓跋什翼犍屡次攻击刘卫辰，刘卫辰实在抵挡不住了，于是向苻坚求援。苻坚派遣堂弟苻洛领兵十万，邓羌领兵二十万双管齐下进攻代国。拓跋什翼犍派兵阻挡都被前秦所攻破，此时拓跋什翼犍自己身患重病不能领兵，于是便率众往漠北逃去，但是北方的游牧民族丁零族将他赶了回来，于是他趁着前秦兵马稍微南退的时候返回了都城盛乐（内蒙古和林格尔县）。回到盛乐之后，拓跋什翼犍的庶长子拓跋寔君因为继承人的问题发动叛乱把拓跋什翼犍给杀了，前秦军队得到消息后立即回兵攻入盛乐，代国灭亡。
至此，前秦帝国统一中国北方，其疆土东至辽东半岛，西到高昌，北到漠北草原，南有巴蜀，以淮河、汉水与东晋为界，正式形成南北对抗的局面，双方大战一触即发。
