晋绥抗日根据地的一部分。1938年8月下旬，八路军一二○师派出在三五八旅旅政治委员李井泉带领部分兵力组成大青山支队，从五寨地区出发，挺进绥远。至1938年冬，大青山支队与汉地杨杆霖抗日武装会合，开辟了平绥路以北，百灵庙、固阳以东至武川、乌兰花以西的绥西区；归绥、乌兰花以东、陶林镇以西的绥中区；平绥路以南，托克托、归绥以东，丰镇、集宁以西的绥南区，大青山抗日根据地初步形成。大青山根据地建立后，遭到日军和国民党顽固派的多次围攻，根据地面积日益缩小，1942年，绥中区丧失，八路军仅能在绥西、绥南一带坚持游击战争。10月，中共晋绥分局将绥远和雁北合并成立塞北军分区，绥远区党委改为中共塞北工作委员会。
与此同时，大青山党政军机关组织武装工作队、骑兵分队和两个工作组，进入绥中区开展工作。1944年8月，大青山根据地军民配合晋西北八路军的秋季攻势，扩大了解放区。到1944年底，大青山根据地基本恢复。1945年6月，国民党顽固军进攻大青山地区。8月中旬，顽军被逐回河套。八路军随即发起战略大反攻，以骑兵旅、第二十七团一部会同教导第二队等武装，由偏关向托克托、林格尔挺进，扫清了平绥路沿线敌军据点，夺取了抗战的最后胜利。