231年春天，諸葛亮第四次北伐中原，以木牛運糧，包圍祁山。又招攬鮮卑人軻比能，軻比能起兵到石城響應(yīng)蜀軍。因曹魏大將曹真病重，曹睿改派司馬懿為統(tǒng)帥屯于長安，領(lǐng)張郃、費曜、戴陵、郭淮等人抵抗。司馬懿先派費曜、戴陵與四千精兵前往上邽防守，自己則率其他兵力解救祁山。張郃則認為該分兵駐守雍、郿，但司馬懿認為若分軍不及合軍有利，便向西推進。諸葛亮知道后，留下王平繼續(xù)領(lǐng)軍攻打祁山，自己率主力迎戰(zhàn)司馬懿。其后諸葛亮在上邽打敗了魏將郭淮、費曜，并收割了魏軍的麥糧，與司馬懿軍在上邽之東遇上，司馬懿深知蜀軍勞師遠襲，糧食補給困難，因而憑險堅守，拒不出戰(zhàn)，諸葛亮便回軍鹵城。

司馬懿進軍鹵城，但卻登山掘營，與蜀軍對峙，不與交戰(zhàn)。張郃認為蜀軍從遠來攻，“孤軍食少”，必然想要速戰(zhàn)速決。所以應(yīng)該以大軍屯于此處，然后分為奇兵，包抄蜀軍，截斷其后路。但司馬懿不采納。魏軍將領(lǐng)數(shù)次請戰(zhàn)，司馬懿都不準，諸將十分不滿，便譏笑他：“公畏蜀如虎，奈天下笑何!”。在眾將的一再要求下，司馬懿只好派張郃攻于南圍的無當(dāng)監(jiān)王平，由案中道進逼蜀軍，自己則率眾迎擊諸葛亮。諸葛亮派大將魏延、高翔、吳班分三路領(lǐng)兵作戰(zhàn)，大敗魏軍，光斬獲魏軍三千多人，獲得戰(zhàn)利品玄鎧五千、角弩三千多。從此司馬懿再不敢輕易出戰(zhàn)。

六月，諸葛亮眼見糧草接應(yīng)不上，而又收到下令北伐軍撤退的召命，諸葛亮惟有引軍退回。司馬懿欲遣張郃追擊蜀軍，張郃認為“圍師必闕，歸師勿遏”，不贊同追擊未被被打敗而主動撤退的蜀軍。但司馬懿堅持要張郃領(lǐng)兵追擊，張郃無奈前往追擊。最后于木門道，被埋伏于高處的蜀軍射中右膝，傷重病逝。