正当裴行俭以自己过人的胆略平定西突厥的阿史那都支后，返回到长安城。可是就在这一年(679年)十月，后突厥突然爆发大规模的叛变。

　　自贞观四年，颉利可汗被俘，东突厥亡国以后，在差不多半个世纪的时期内，唐朝统治下的东突厥各部基本上稳定。但由于朝廷常征调他们东征西讨，渐渐引起突厥群众不满，特别是一些民族上层人物滋生了复国思想。

　　公元679年(调露元年)冬十月，单于大都护府下属突厥酋长阿史德温傅、奉职率所辖二部反唐，立阿史那泥熟匐为可汗。二十四州突厥酋长响应他们，部众共达数十万人。唐廷以都护府长史萧嗣业率军进击，失败而归。此后突厥乘胜南下，攻掠定州。刺史霍王李元轨命开门偃旗，突厥疑有伏兵，惧而夜退。

　　十一月二十七日，命刚刚班师回朝的裴行俭为定襄道行军大总管，率太仆少卿李思文和周道务将兵18万，会同西军程务挺、东军李文暕合兵三十万，旗帜绵延千里，皆归裴行俭节制以讨伐突厥;另命回纥兵自漠北南下，企图南北夹攻，击破突厥，安定北边。

　　公元680年三月，唐军与突厥军在黑山一带展开决战。大唐远征军的总兵力达到三十万人，这无疑占据有绝对的优势。战况呈现一边倒的局面，在裴行俭的指挥下，唐远征军与突厥大军连续交锋，每次都大败敌军。在战斗中，突厥造反派的首领阿史德奉职被唐军俘虏，这对突厥来说，是一次大挫折。突厥残部从黑山撤到了狼山。裴行俭再度追击，突厥各部虽然在造反时如一阵风席卷而来，但在挫败面前，本就松散的部落联盟更加松动，最后引发一场内讧，一些部落决定退出叛乱集团，被推为可汗的阿史那泥熟匐被杀死，这些部落拿着阿史那泥熟匐的人头向裴行俭投降。

　　就在这个时候，唐高宗李治犯下一个大错，认为突厥的叛变已经指日可定了，便派户部尚书崔知悌到定襄，慰劳将士，并处理对突厥的善后事宜，然后令裴行俭班师回朝。

　　朝廷之所以急于将北征大军召回，乃是因为帝国的西疆受到吐蕃的威胁越来越大，吐蕃势力如日中天。这一年，吐蕃攻陷大唐西南重要的军事重镇茂州安戎城，降服西部诸羌，严重威胁到大唐西部的凉州、松州、茂州、巂州，西面又占据龟兹、疏勒等西域四镇，南面直抵天竺国，北面接西突厥，疆域万里，成为大唐最强劲的对手。

　　裴行俭的班师回朝，给了突厥人予喘息之机。