汉朝先派司空张温发幽州乌桓突骑三千讨凉州。

这支队伍刚行到蓟中，乌桓因军中饷款亏欠，多叛归。

故中山太守张纯怨张温不令自己带领这批乌桓部队，乃与同郡故泰山太守张举及乌桓大人丘力居等连盟反叛，劫略蓟中，杀护乌桓校尉及右北平太守，众至十余万。

灵帝中平五年188年，汉朝调发南匈奴兵，配合幽州牧刘虞讨伐张纯。

单于羌渠遣其子左贤王于扶罗将骑前往，匈奴国人恐发兵无已，于是匈奴右部落与先已反汉的屠各胡合，共十余万人，攻杀羌渠。

于扶罗在外闻知，自立为单于。

杀羌渠的国人，恐于扶罗为父报仇，乃另立须卜骨都侯为单于。

于扶罗到洛阳讼诉和求助。

适逢灵帝病死189年，董卓带兵人京，天下大乱。

于扶罗乃与白波军合兵攻打郡县。

时各地多聚众筑壁自保，于扶罗钞掠无所得，部众受到挫伤，只好在河东郡平阳今山西临汾市西南停住。

须卜骨都侯为单于仅一年而死，南庭不再立单于，只以老王代行国事。

献帝初平元年190年初，关东州郡起兵讨伐董卓。

于扶罗与驻在上党的张杨一起投靠了袁绍，二人屯兵漳水。

次年191年，于挟罗拟叛离袁绍，张杨不从，于扶罗乃劫持张杨出走，在邺城南被袁绍将麴义击败。

既而于扶罗袭杀驻在黎阳的度辽将军耿祉，兵势复振。

董卓以朝命封张杨为河内太守。

初平四年193年，袁术从南阳转移到陈留，屯军封丘今河南封丘西南，于扶罗又依附袁术。

袁术被曹操打败后，于扶罗返归乎阳。

兴平二年195年，于扶罗死，弟呼厨泉继立为单于。

十二月，董承、杨奉等奉献帝东归，李傕、郭汜等追赶乘舆。

董承、杨奉屡吃败仗，乃招故白波帅李乐、韩暹、胡才及南匈奴右贤王去卑，共同卫护献帝。

建安元年196年七月，献帝始到洛阳，去卑又护送献帝到许，然后返回平阳。

建安七年202年，袁绍甥并州刺史高干、河东太守郭援及南匈奴单于呼厨泉一齐背叛曹操。

操使司隶校尉钟繇围南单于呼厨泉于平阳，呼厨泉降操。

建安十年205年，操北征乌桓，高于再次叛操，守壶关口。

次年，被操攻克，高干自入匈奴求救，呼厨泉不受，操遂定并州。

并州既是胡汉杂居之地，又俯邻邺、洛二都，所以曹操对治理并州的人选极为注意。

如河东太守杜畿、并州刺史梁习都是操精心选拔出来的州郡要员。

三国志卷15梁习传载：

并土新附，习以别部司马领并州刺史，时承高干荒乱之余，胡狄在界，张雄跋扈，吏民亡叛，人其部落，兵家拥众，作为寇害，更相扇动，往往棊跱。