多羌人都唯这些首领马首是瞻，如今羌人首领都被杀害，羌人自是难以控制心中的愤怒，遂纷纷声讨义渠安国然而，此时的义渠安国依然不知悔悟，竟然擅自调兵遣将，以镇压先零之民，并杀了一千多羌人于是羌族各部及归义羌侯杨玉等都很震恐，被迫离开其地，为了扩大势力，他们不惜劫掠其他小族部落，最终犯汉边塞，攻城邑，杀长吏义渠安国遂以骑都尉身份带领三千骑兵抗击羌人，此一战才发现羌人的战力惊人，其三千士兵战死者十之七八，直道他败退令居，才想起向宣帝报告这里的情况
元康三年（公元前63年），羌人中最强盛的先零部落和其他羌族部落酋长二百多人“解仇交质”，并歃血为盟，规定一起向中原进军，反抗汉朝官吏的暴政
探马很快就将消息传到宣帝耳中，闻讯朝野震动此时，霍氏一门已经被诛除，赵充国成为国家的巩固之臣，与黄霸、萧望之等人共同辅佐宣帝当此之时，赵充国挺身而出，向皇帝陈述道：“羌人最大的隐患，主要包括三个方面，一是羌族与匈奴早就打算联合；二是羌族原来各部落互相攻击，易于控制，但近几年来他们‘解仇合约’，共同反汉；三是羌族还可能‘结联他种”，即与其他种族联合’综上所述，赵充国提出了“宜及未然为之备”的建议
宣帝和众臣都以为有理，一月之后，小月氏部落的羌侯狼何果派人到匈奴借兵，打算攻击鄯善、敦煌，以切断西域与汉朝的通道赵充国遂向皇帝提出两点建议：一是加强军事上的边防；二是离间羌族各部落而侦探其预谋并且，赵充国还认为，羌人之所以如此，肯定还会有更为深层次的原因，为此，需要做万全的打算和长远的准备
此时的赵充国已经七十多岁，但宣帝对于赵充国的见识谋略等方面的才能还是很敬佩的，见他说得头头是道，宣帝心中便生出了请他挂帅平定叛乱的心思然而，宣帝又有些担心他年老，精力和勇略不足于是，便派遣御史大夫丙吉去看看赵充国，向他咨询谁可以担当重任
赵充国很自信地回答：“无逾于老臣者矣”宣帝又派人去问：“将军度羌虏何如，当用几人？”赵充国答：“百闻不如一见兵难隃度，臣愿驰至金城，图上方略”意思即是，打仗不能纸上谈兵，而要亲临前线观察，然后才能根据实际情况作出对策并向宣帝请求，将平乱的事情悉数交到他的手中，皇帝定然可以高枕无忧宣帝闻言，欣然答应
“老当益壮、宁移白首之心；穷且益坚，不追青云之志”赵充国虽年逾七十，却依然督兵西陲他在获得宣帝的准许之后，迅速领骑兵八千余人出师，巧渡黄河，立稳阵脚，做好战斗准备羌人听闻是当世名将赵充国来督