在曹操控制北方的军事活动中，主要对手之一是袁绍，而当时的山西地区就是袁绍的地盘。袁绍是东汉后期的世家大族，其先人世代在朝廷做高官，枝叶繁盛。当东汉末年天下陷入战乱之后，袁绍利用其家族的影响力，形成了以当今河北地区为中心的北方割据势力。当时，袁绍的公开官职是冀州牧，山西地区归属冀州。《后汉书·袁绍传》记载，袁绍为了巩固自己的势力，决定：“令诸子各据一州，以视其能。”所谓“诸子”，不仅包括自己的儿子，还有甥侄一类的亲属。于是，袁绍就把中子袁熙任命为幽州刺史，控制河北和山西北部；任命外甥高（gàn）为并州刺史，控制山西的中部和南部。

然而，历史的发展并不能以个人的意志为转移，袁绍也许是想效仿西周初年周王分封子弟、拱卫王室的故事，但是，袁绍的子弟个个无能，最终完全败在了曹操手下。就说并州刺史高，到任之后，利用家族的名声，招徕四方游士，倒也想大干一番。当时的一位著名学者和文士名叫仲长统，游学青、徐、并、冀州之间，年仅20多岁，颇有见识，受到同道中的人称赞。听说高礼贤下士，仲长统也来到了并州。高很高兴，亲自与仲长统见面，并请他就天下形势和自己的情形发表看法。仲长统很不客气地对高说：“君有雄志而无雄才，喜好士人但却不能选择贤者。所以，我劝君要多多注意这些方面。”没想到高一向自以为是，根本不想采纳仲长统的意见，仲长统只好离开并州。后来，高最终被曹操所杀，完全印证了仲长统的看法。

当然，袁绍本人的才能也不是曹操的对手，在与曹操的军事对抗中败多胜少，终于在汉献帝建安九年（公元204年）郁闷而死。袁绍死后，袁尚主持大局，继任冀州牧。就在这一年，曹操亲率大军征讨袁尚。袁尚派遣河东太守郭援、并州刺史高联合匈奴南下，攻击曹操腹背。但是，曹操手下的司隶校尉钟繇则说服西凉将军马腾等人，攻击高、郭援，大破之，郭援被杀，高及匈奴单于则投降了曹操。但是，以曹操当时的力量，还不能派出自己的部队全面占领山西地区，所以，只好采取权宜之策，让高继续担任并州刺史。但是，不论形式如何，这应该是曹操第一次取得了对并州的控制权。

进而言之，曹操之所以接受高的投降，主要原因是当时的主战场在河北，主要对手也是袁绍的几个儿子；另外，曹操是最具猜忌之人，其实是不太喜欢重用降将。高不能不明白这一点，肯定会意识到曹操迟早会对自己下手，所以，到了第二年十月，高开始反叛曹操，企图形成自己独立的势力范围。

高的叛军从并州南下，先制服了上党太守，控制了晋东南，然后派重兵把守壶口关，以抗拒曹操的主力。汉献帝建安十一年（公元206年），曹操亲自征讨高，开始了对并州的再度控制。当时，跟随曹操亲征的是大将李典和乐进。李典从河南北部进兵，直接攻击壶口关，乐进则从北方进兵，迂回攻击高的后部。高在与乐进的对攻中失利，只好留下其手下将领把守壶关城，自己跑到匈奴那里去求救。可是，匈奴人也看出了曹操的力量不可阻挡，不敢得罪曹操，就没有答应高的请求。高无奈，只好带着身边的一些人向南逃亡，想投奔荆州牧刘表，但在途中却被曹操的手下人斩杀。

到这一年的三月，曹操彻底消灭了高的残余势力，终于再次占领了并州及山西全境。我们曾经说过，在汉高祖统一天下的进程中，曾派出韩信占据山西南部；而在汉光武帝夺取江山的过程中，也曾派出大将邓禹攻占山西南部和东南部。这两次重大的军事行动，都为这两个王朝的建立发挥了关键作用。这种历史进程的重复演进并非出自偶然，而是因为山西太原以南是汉代的米粮川以及人口稠密地区。所以，在两汉王朝建立的过程中，山西地区虽然不是主战场，但却是最重要的进可攻、退可守的大后方，以及军粮和兵源重要供给地。特别是在战争后期，这一地区往往以其源源不断的军备资源，成为取胜者最后一击的唯一依靠。在曹操称霸中原、控制北方的过程中，山西中南部也发挥了同样的作用。事实上，如同汉文帝一样，曹操也称河东为其“股肱郡”，是其曹魏政权得以建立的最坚强的支撑。所以，在与当时北方最重要的军事力量袁氏集团的对垒中，曹操不惜两度亲征山西，以便效仿先贤，继续发挥山西地区举足轻重的战略作用。