但是元鼎五年公元前112年九月，分布在后世甘肃临夏以西和青海东北一带的先零羌和封养牢姐种羌尽释前仇，结成同盟，再次与匈奴人相勾结，合兵十余万人，会攻汉朝的边郡令居县今甘肃永登西北和安故县，包围了枪罕今甘肃临夏东北，边关告急。

汉武帝派将军李息、郎中令徐自为率兵十万人，在元鼎六年公元前111年十月，出兵讨伐。经过强硬的军事行动，解开枪罕之围。元鼎六年公元前111年十月，汉军平定了诸羌的叛乱。

因为这次叛乱让汉武帝意识到必须要加强对羌饶管控，于是在同年设置护羌校尉，持节统领内附汉朝的诸羌部落。

到了汉昭帝始元六年公元前80年，朝廷又设置了金城郡，治所在允吾今甘肃省永靖西北，原护羌校尉所辖的领地全部归属金城郡。

因此，在东汉绵延百年之久的羌人叛乱，大多始于金城郡。

在后汉一朝，最先开始的烧当羌之乱就从公元57年秋，断断续续绵延到公元101年，历时44年之久。

而在烧当羌之后，先零羌之乱势头更大，甚至羌人一定突破三辅攻入河内郡以及益州等多个地区，一度动摇了大汉王朝的根基。

叛乱起源于公元107年，那时后汉朝廷征发归附的西羌人屯戍西域，西羌人不满，大举逃亡。

东号的儿子麻奴兄弟因此与本部一同西行出塞。而滇零与钟羌各部落则深入河西走廊边郡大肆抢掠，阻截了陇道。朝廷派车骑将军邓骘、征西校尉任尚伐西羌，结果失利。

公元108年，滇零在北地郡自称子，招集武都郡参狼羌，和在上郡、西河郡的杂羌，切断陇道，进攻掠夺三辅，并南下侵入益州，杀死汉中郡太守董炳。

到了公元109年，叛乱持续当煎、钟羌、勒姐诸羌进攻临洮。

公元111年，先零羌攻打河内郡河南武陟。陇西、陕北诸郡，百姓都被迁移到内地。朝廷决定放弃陇西，被大臣死命劝阻。

公元112年，滇零病死，他的儿子零昌继位。零昌年龄尚幼，同族的狼莫为他出主意，任命杜季贡为将军，分兵驻扎到丁奚城。

公元113年，牢羌在安定郡与侯霸交战。先零、多号被侯霸、马贤在枹罕今甘肃临夏打败。

汉军在这时开始反击，派遣中郎将尹就征讨在益州先零羌，大获全胜。

公元116年，汉军起用度辽将军邓遵，由邓遵率军在灵州进攻零昌，斩杀八百余羌人。时年十二月十二，汉军在北地进攻零昌，杀死零昌的妻子儿女，焚烧他们的住舍，将七百余人斩首。

公元117年九月，护羌校尉任尚又收买效功羌人号封，刺杀了零昌。朝廷由是封号封为羌王。

同年十二月廿五，任尚与骑都尉马贤在富平县大败狼莫的羌军，斩杀五千人，狼莫逃走。于是西河郡的西羌部落虔人部一万人前往度辽将军邓遵处归降，陇右郡平定。

公元118年，度辽将军邓遵收买上郡羌雕何刺杀了狼莫，朝廷将雕何封为羌侯。

到了此时先零羌之乱才算彻底平息，这场羌乱深入大汉疆域内部，几乎使朝廷放弃陇西，是为所有羌乱之中声势最为浩大的一次。