后来调任冯翊太守。这时长沙王司马乂因为河间王司马颙在关中专权横行，有图谋不轨的迹象，就对惠帝说了，惠帝密诏雍州刺史刘沈、秦州刺史皇甫重讨伐司马颙。于是刘沈、皇甫重等与司马颙在长安交战，张辅于是带兵援救司马颙，刘沈等被打败。司马颙感激张辅，就让他代替皇甫重担任了秦州刺史。当时奔赴司马颙的危难，金城太守游楷也有战功，转任梁州刺史，他没有到任。游楷听说张辅要回返原地，时时迎接他，却想暗中除掉他。游楷又杀了天水太守封尚，想在西疆扬威。游楷召陇西太守韩稚一起商议，未有结果。韩稚之子韩朴勇武强悍，当场杀了有不同意见的人，接着召集军队攻打张辅。张辅与韩稚在遮多谷口交战，张辅军被打败。
当初，张辅曾谈论班固、司马迁说：“司马迁的著作，文辞简约而事理清晰，叙述三千年的事只用了五十万字；班固叙述两百年的事竟然用了八十万字，语言繁简不同，这是班固比不上司马迁的第一点。优秀的史官叙述事情，善行足够用来奖励、劝勉，恶行足够用来鉴察、使人警戒，这是为人之道的常理。一般普通小事，也不足取，但班固都记了下来，这是比不上司马迁的第二点。文中诋毁贬低晁错，有伤忠臣之道，这是比不上司马迁的第三点。司马迁已经首创了（纪传体），班固又沿袭（司马迁）的老办法（写史书），难易更加不同。”
本文来源：http://www.010zaixian.com/gushiwen/wenyanwen/561316.htm