昭帝始元六年（公元前81年），出台一个重大举措，在今河湟地区设置金城郡。这是一个大郡，从天水、陇西、张掖三郡各取二县，加上原有辖地，一郡下辖十三县，即允吾、浩门、令居、枝阳、金城、榆中、袍罕、白石、河关、破羌、安夷、允街、临羌等，辖地涵盖了今天兰州市的黄河以南地区、临夏、青海等河湟地区。其中，浩门、令居、枝阳、金城、榆中、允街六县在今兰州市辖区内。郡名取之金城，是因建郡之初，郡治设于金城县城，即今兰州市西固城。以此为据点，郡域又逐渐西扩，扩一步，巩固一步，后来直接将郡治迁往允吾，即今青海民和县古鄯镇。
羌人丢了黄河谷地，现在湟水谷地也保不住了。允吾已是湟水腹地，为羌人的东大门，此地一失，使其随时处在汉军的威胁之下。优良牧场丢失，“田畜”范围缩小，战略要地易手，几乎大门洞开了。羌人害怕了，也急了，但汉军强大，打，无必胜把握，退，汉军得寸进尺，又能退到哪去。
羌人和匈奴再次走到一起来了。匈奴退往漠北是不甘心的，可汉朝正处在强盛时代，急切问无从下手。共同的利益再次将两家结为同盟。这次，是羌人主动找上门的，两家一拍即合，决定先从汉朝西北边界下手。这种选择是有战略眼光的，河湟地区离汉朝的腹地较远，且隔着崇山峻岭，大军往来不便，而控制河湟，则可先得地利，或沿黄河东出，与漠北匈奴联手，威胁汉朝北部边疆，或沿渭水河谷直捣长安。即使做不到这些，也可固守要地，解除汉朝威胁。
计议一定，羌人便整备兵马，待机而动。因不明汉军底细，羌人便以小股马队四处骚扰，与先前一样，发挥马军优势，一得手，迅速退走，汉军疲于应付，却无应对良策。西北战事一时陷于僵局。
仗终于打大了。
羌人骚扰汉界，汉人不堪其苦，汉人以牙还牙，也不断侵扰羌地，羌人也不得安生。汉宣帝元康三年（公元前63年），宣帝派光禄大夫义渠安国巡视羌人各部，先零羌首领杨玉请求朝廷允许他们过湟水放牧，安国答应了。消息传到朝廷，老将赵充国怀疑羌人有诈，上书指责安国“奉使不儆，引寇生心。”宣帝召回安国，拒绝羌人要求。杨玉大怒，联合本部各部落，强渡湟水，占据汉朝边地。边郡无力禁止，二百多名羌人首领大规模会盟“解仇交质”，即消除冤仇，交换人质，共同对汉。有一酋长，竟派使者向匈奴借兵，企图进攻鄯善、敦煌，以切断汉朝通西域之路。
宣帝向赵充国问策，赵认为，羌人一旦与匈奴联兵，而各部结盟成功，“到秋马肥，变必起矣。”他提出，应先派员检阅边防部队，令其积极备战，同时，派人出使羌部，相机离间，散其同盟。宣帝准奏，派安国使羌。
这次，汉光禄大夫义渠安国到陇西后，采用欺诈手段，召集羌人三十多位部落首领开会，严词谴责他们图谋不轨，将其一齐处斩，又率大军对羌人大开杀戒，一千多羌人死于非命，而蒙难者多为羌人平民和老弱妇幼。民愤已起，羌笛横吹，匈奴人和羌人豪酋乘机发难，迅速组成一支大军，向汉军杀奔而来。闯了祸的义渠安国，亲率三千精骑屯扎浩门（即今永登河桥），严阵以待。不料，羌人经几十年卧薪尝胆，这次又是挟怒而来，一鼓作气，竟将汉军三千铁骑打得落花流水。义渠安国尝到了羌兵厉害，慌忙率残部退往令居，一边深沟高垒固守自保，一边申奏朝廷请求发兵。
此时，汉朝正逢国丧，昭帝驾崩，宣帝初登大宝。汉朝自武帝晚年已从强盛的高端跌下来了，昭帝虽可勉强维持局面，但内忧外患，汉朝雄风难再。宣帝是有作为的皇帝，可是，任何作为都是要有物质和精神基础的，国库空虚，水旱频仍，许多地方已经民不聊生，朝堂上，大臣之间，内宦与外臣间，帝党与戚党间，你争我夺，互不能下，一时腐败公行，国势不振。宣帝急于扭转这种局面，而边关军情乃刻不容缓之事。
七旬老将出马：安边还看赵充国
有道是，内事不决问相，外事不决问将。这是对皇帝说的。一个有作为或想有作为的皇帝，最起码的要做到这点。西北边关出事了，边关无小事，一个小小的冲突都有可能导致兵连祸接国本摇动。义渠安国逞奸施诈，妄杀羌人，羌人同仇敌忾是当然选择。羌人各部本非铁板一块，内部矛盾重重，安国的滥杀行为，成为羌人联合反汉的催化剂。
情势危殆，举朝惶恐，议论纷纷，莫衷一是。这时，汉宣帝想起了熟悉边务，又老成持重的赵充国。
赵充国何许人也？
赵充国原籍陇西人，后移居金城令居。少有大志，研习兵法战略，留心边防，初以“良家子”参军为骑兵，因善骑射被选入羽林军，守卫皇宫。天汉二年，汉武帝下诏征讨匈奴时，赵充国以代理司马身份，随贰师将军李广利出师酒泉，攻击匈奴右贤王部，被其大军包围。流沙千里，黄尘漠漠，匈奴对汉军围而不打。赵充国判断，匈奴意图有二：一者困死汉军，一者迫降汉军。于是，他建议，趁汉军尚未疲惫突围而出，并自告奋勇为前驱。
一百多人的敢死队组建起来了，赵充国面对这些视死如归的壮士说，我等离家万里，受困大漠，与其等死，何如拼死决战，死则上报天子厚恩，胜则报父母养育之劳。一百多壮士一齐振臂呐喊：愿随司马同生共死。鼓角大作，全军振作精神大喊助威，一百多匹骏马，一百多名健儿，刀枪映日，愁云惨淡。匈奴兵满以为汉军已成瓮中之鳖，不劳动手，再困几天，只消收尸或押送俘虏罢了。猛不防一支精兵杀出，被冲得立脚不住。回过神来，看对方冲阵的人并不多，牛角号震天响起，大队人马从四面围裹上来。李广利乘势率大军突围而出。
大家满以为敢死队必死无疑，而他们是为了掩护大军牺牲自己的，突围到安全地带后，个个伤感不已。这时，却听见身后一串马蹄声急，只见赵充国血透铠甲，手下壮士只剩十余人，个个成了血人，所乘战马皮开肉绽伤痕累累。好在他们活着回来了，死里逃生的汉军将士齐声欢呼，个个热泪盈眶。李广利这位没什么将才，只因是皇帝舅子才作了将军的将军，见状也百感交集，在给赵充国换衣疗伤的当儿，仔细一数，伤口竟达二十多处，好几处几乎致命。这位才略不济却自视甚高的将军，此时也被震撼了，感动了。回到京城，他向皇帝如实汇报了战场情形，汉武帝也大为惊异，当朝亲自查验赵充国身上伤口，满朝文武无不感叹。赵充国当即被拜为中郎，旋即又升为车骑将军长史。
汉昭帝时，氐人在武都造反，赵充国奉命率兵镇压，因功升为中郎将，又为水衡都尉。水衡都尉是干什么的，是主管皇家上林苑的长官。可见，昭帝对其也是很宠信的。就在这年冬天，匈奴二万大军犯边，赵充国率兵征讨，一战斩、俘九千人，并获其西祁王。回朝后，论功行赏，赵充国官拜后将军，兼水衡都尉。
此时的赵充国已冲上权力的核心层了，也正好到了用权的时候。昭帝崩，无子，谁继承皇位，各派政治势力粉墨登场，一时皇宫内杀机四伏。大将军霍光是外戚，权高位重，信义素著，他倾向于迎立宣帝，赵充国积极赞同，迎立成功后，宣帝论功行赏，赵充国被封为营平侯。边关又有事了，匈奴与车师联兵进攻乌孙，乌孙乃西域小国，如何抵挡得住，便向汉朝求援。匈奴是汉朝死敌，乌孙是汉朝保护国，此事不可不管，要管还要管好。在朝大将首推赵充国。他被拜为蒲类将军，率三万骑兵，西出酒泉一千里驰援乌孙。两军接战，首战斩匈奴数百人，匈奴暂退后，集中十万骑兵反扑，赵充国统兵四万，沿北部九郡长城沿线布防，屯驻不出，匈奴无机可乘，引兵北去。
将赵充国的履历行状详细交代，目的是想说明：在专制体制下，一个人所建立的功业大小，与体制对他的认可程度有关。赵充国历事武、昭、宣三朝，每朝对其都是信任有加，因而使他有更多的建功立业机会，能够在较为宽松的环境中发挥自己的才干，而对于汉宣帝，赵充国不仅是于国有功，对自己也有迎立之功，这为赵充国的“安边”事业奠定了政治基础。
义渠安国与羌人彻底翻脸后，河湟边地局势迅速恶化，纷争时时有，大战一触即发，并且势所难免。《汉书·赵充国传》记载，宣帝神爵元年（公元前61年）春，宣帝决定派兵平羌。这么大的事，谁当此任呢。宣帝颇费踌躇。一时委决不下，派为官清正的御史大夫丙吉前去征询赵充国的意见。赵却笑而不答。丙吉急了，说国难当头，将军世受皇恩，又权高位重，为天子分忧，为社稷出力，是我等为臣子的本分，何儿戏如此！再三请教，赵充国方慨然道：“亡逾于老臣者矣。”意思是说，当此大任，舍我其谁。丙吉闻言大惊，却默然无言，只是定定地望着赵充国。赵充国笑道，大人莫非谓我老不堪用？丙吉不置可否。赵充国说，国家命将，要在专任，今主上忧疑，群臣议论，即使孙吴复生，亦难见功矣。丙吉心下肃然，忙起身告辞，答应把这个意思如实禀报。别说丙吉惊诧，宣帝闻报也是大感意外。要知道，赵充国时年已是七十三岁高龄了，而这次是兵发西陲，别说临阵决机，就是地远路险风霜酷寒的自然条件，也非老者所能承受。
宣帝心中壮其忠勇不减当年，又虑其老迈不堪大用，但对于赵充国的军事才能，宣帝还是心中有数的。他生在边地，熟悉边地民情风俗，又长年从事边务，久经战阵，威名远播，朝中大臣没有能跟他相比的了，挂帅出征未必力能胜任，但运筹帷幄非他莫属。召见后，宣帝便垂询羌人情况，以及应对之策。赵充国见宣帝焦急，他不急，他不像有些大臣为讨皇帝眼下欢心，口出大言，大包大揽，终致误国误民。他徐徐言道：陛下勿忧。如今羌人情势未明，山河悬远，军情大事不便遥测，待老臣前去金城观察过后，再作处分。《赵充国传》写道，宣帝忽然长叹一声说：
“廉颇虽忠勇可嘉，无奢自古英雄出少年啊。天乎，天乎，霍卫已逝，充国白发，谁佑大汉？”
赵充国闻言，含泪道：“圣虑如此，老臣之过也。老臣恨不能重生天地，为国驱驰。然依老臣浅见，为将之道，在于临阵决机，所谓一将无能，千军遭殃，至于冲锋陷阵自有健儿担当，老臣不能，亦不为也！”
一席话，说得满朝文武瞠目结舌，又觉合情合理。宣帝释了疑虑，决定拜赵充国为统兵大将，率军西征。
汉宣帝没有选错人。兵者国之大凶也，不是随便可以用的。在旧兵器时代，杀敌一千，自损八百，两国交战，尚不以杀伐多少为胜，白起是中国历史上屈指可数的军事家，打仗固然厉害，可杀心太重，坑杀赵国降卒四十万，赵人为之切齿千年，秦人对他也没什么好感，无论对谁，想想那个残忍！何况，汉朝面对的仅是周边的一个民族部落。战的目的在于和，在于相安无事。赵充国一生征战，经历了太多的血腥，厌倦了杀伐，他说此次西征舍他无人，并不是老汉口出狂言，目无他人，说实话，按照当时汉羌双方的实力，真要像汉朝和匈奴那样你死我活，羌人绝非汉朝敌手。可是，战后如何？从赵充国后来的行为看，他主要考虑的并非战场业绩，而是善后事宜。他的那句大话是因此而说的。
当然，既然是打仗，就得把仗打好，打得好，善后工作才可做得好。赵充国率两万大军浩浩荡荡杀奔金城。羌人占据北岸，汉军在河南扎下营寨，求战心切的将士主张一鼓作气打过河去，赵充国说不忙，先搞清情况再说。河北羌兵零落，不像大兵压境的样子。有人又要即刻渡河发起攻击。赵充国为防羌兵趁半渡偷袭，在夜间，先派三个分队偷渡过河，建起滩头阵地，第二天，大部队方从容过河，安营扎寨，严阵以待。这时，有一百多名羌人勇士前来挑战，属下跃跃欲试，赵充国说，我军远道而来，人马疲惫，不利速战。再者，敌骑轻装而来，人数又少，显然是诱我之计，我军志在全胜，不可贪图小功。羌人见汉军不动，打马扬尘而去。
眼看放跑了敌人，部属嘴上不敢说，心里都在嘀咕，说朝廷派此老头为将，岂不误事。又觉得，老了就是老了，再英雄无敌的人，都是越活胆子越小。赵充国不管别人心中怎么想，军中无戏言，令行禁止，毫不含糊。他命人连夜前去四望峡侦察敌情，发现那样紧要的关口竟无羌兵把守，便连夜率大军穿峡而过，直插西部都尉府。西部都尉府在哪儿，在今天的青海海宴，青海湖北岸。汉军绕过了羌人湟水天险，不仅直捣腹心，几乎是打到后方了。羌人惊为天兵到来，忙组织反攻，可这时，汉军又按兵不动了，只是紧守营寨，无论羌人如何挑战，一律不闻不问。赵充国每天杀牛宰羊，歌舞美酒，与将士一起吃饱便睡，好似不是来打仗的。
赵充国在等什么呢，他在等羌人内部的变化，他侦知，羌人的意见并不统一，很多小部落都是受胁迫而反汉的，坚决反汉的只有先零羌首领杨玉。果然，罕部首领派人来了，向汉军表明被迫反汉的心迹。赵充国对来使说，这些情况我都知道，这也是我按兵不动的原因，战鼓一响，玉石俱焚，滥杀无辜，非天朝大军所愿。汉军只问有罪的人，你本无罪，不必害怕。今放你回去，望能转告各部，速与叛乱者脱离关系，以免自取灭亡。今天子有诏，对参与叛乱而能投案自首的人，或能协助官军捕杀叛乱者，既往不咎，并论功行赏。凡捕杀一个有罪的大贵族赏钱四十万，中等豪酋十五万，小豪酋二万，壮年男子三千。
消息很快在羌人各部落中传开，反叛者惶惶不可终日。不料，赵充国将自己的做法汇报给宣帝后，却引起了麻烦。皇上不通边务，大臣不通边务，在他们的眼里，打仗就是冲锋陷阵，就是人头落地，就是你死我活，哪有这样温文尔雅婆婆妈妈的。反对最力者要数酒泉太守辛武贤。客观地说，他也是懂得打仗的将军，可他不懂得战争中的政治，属于单纯军事观点。他认为，如今边防部队都在南山，北边空虚，而且塞上酷寒，中原人马不适应，不如等到七月再起兵，各带一月粮草，从张掖、酒泉分路进兵，先征讨鲜水羌人，夺其牲畜，虏其妻儿，然后迅速退兵，再伺机出击，必能震慑羌人。
这个损招，居然得到了宣帝的赞同。他一面颁诏调陇西兵实施此策，一面遣使与赵充国商议。说是商议，其实是命令，汉宣帝还算明白，赵充国毕竟德高望重，深谙军事，且有功于己，对待起来，便客气一些。赵充国心中明白装糊涂，既然皇上要商量那就商量。他拟就一个奏折，请来使上呈。在折子中，他先严词反驳了辛武贤的论调，继之，则给皇上算了一笔账。他说，辛氏此举，实属轻率，一万人马，远道千里击敌，一匹马驮三十天粮食，再加上装备，行速必慢，即使赶去，羌人或逃或拒，都会劳师无功。那么，该怎么办呢，他认为只有“先行先零之诛”，才可震慑各部，使之“悔过反善”，此乃“全师保胜安边之策”。
应该说，赵充国的做法是对的，与羌人作战，是与反汉的羌人作战，而非与所有的羌人为敌。鲜水羌与汉相隔遥远，并无反汉行为，辛武贤此举乃为国树敌。可宣帝听不进去赵充国的良策，反而一面下诏切责，一面任命许延寿为强弩将军、辛武贤为破羌将军，率兵征讨已经与汉合作的罕部羌人，并令其速战速决。
