231年春天，诸葛亮第四次北伐中原，以木牛运粮，包围祁山。又招揽鲜卑人轲比能，轲比能起兵到石城响应蜀军。因曹魏大将曹真病重，曹睿改派司马懿为统帅屯于长安，领张郃、费曜、戴陵、郭淮等人抵抗。司马懿先派费曜、戴陵与四千精兵前往上邽防守，自己则率其他兵力解救祁山。张郃则认为该分兵驻守雍、郿，但司马懿认为若分军不及合军有利，便向西推进。诸葛亮知道后，留下王平继续领军攻打祁山，自己率主力迎战司马懿。其后诸葛亮在上邽打败了魏将郭淮、费曜，并收割了魏军的麦粮，与司马懿军在上邽之东遇上，司马懿深知蜀军劳师远袭，粮食补给困难，因而凭险坚守，拒不出战，诸葛亮便回军卤城。

　　司马懿进军卤城，但却登山掘营，与蜀军对峙，不与交战。张郃认为蜀军从远来攻，“孤军食少”，必然想要速战速决。所以应该以大军屯于此处，然后分为奇兵，包抄蜀军，截断其后路。但司马懿不采纳。魏军将领数次请战，司马懿都不准，诸将十分不满，便讥笑他：“公畏蜀如虎，奈天下笑何!”。在众将的一再要求下，司马懿只好派张郃攻于南围的无当监王平，由案中道进逼蜀军，自己则率众迎击诸葛亮。诸葛亮派大将魏延、高翔、吴班分三路领兵作战，大败魏军，光斩获魏军三千多人，获得战利品玄铠五千、角弩三千多。从此司马懿再不敢轻易出战。

　　六月，诸葛亮眼见粮草接应不上，而又收到下令北伐军撤退的召命，诸葛亮惟有引军退回。司马懿欲遣张郃追击蜀军，张郃认为“围师必阙，归师勿遏”，不赞同追击未被被打败而主动撤退的蜀军。但司马懿坚持要张郃领兵追击，张郃无奈前往追击。最后于木门道，被埋伏于高处的蜀军射中右膝，伤重病逝。