实际上，曹操讨伐张鲁的更重要目的是想剿灭长时间割据西北的马超与韩遂，马、韩二人占据一方，虽没有叛乱之意，却不服从曹操。而且孙权已经有了联络马超的打算，想在曹操后方进攻，欲令曹操腹背受敌。曹操很早就想除掉这块心头之患，但师出无名。所以，他想借这次出兵寻找借口将二人予以清除。

当曹操派军队讨伐张鲁的时候，马超、韩遂等将领果然认为钟繇是曹操派来消灭自己的，因此立刻发动叛乱。曹操派遣曹仁讨伐。马超等人将部队屯扎在潼关，曹操戒令曹仁等说:“关西马超等人兵力强悍，要坚守壁垒，切不可与之交战。”七月，曹操亲自出征，与马超等隔关对峙。

曹操看到马超占据了有利地势，易守难攻，便想法智取。表面上，他采取急攻态势，暗中却派遣徐晃、朱灵等人夜渡蒲阪津，占据河西为营。之后，曹操率军从潼关北渡，要与徐晃等会合。不过事情却发生了急剧的变化，曹军前锋部队刚刚渡河，曹操和一百余人断后，马超突然率领一万余人来袭，而这时的曹操还在军营内的胡床上未来得及起身。张郃、许褚等人看到情况紧急，急忙领着曹操进入船中。但河水湍急，一下子将曹操的船只冲离了四五里远，马超见状又急令士兵向船中射箭，一时间，箭如雨下，铺天盖地而来。曹操乘坐船只的船工中箭而死，许褚左手高举马鞍为曹操遮蔽弓箭，右手划船，这样才勉强逃出。

曹军各将领看到军队溃败，急于找到曹操，但却不知曹操坐在哪只船中，极为惶恐，最后发现了曹操以后，又极为激动，喜极而泣。曹操却若无其事，放声大笑说:“今天差一点被马超这小子所困！”当军队溃散的时候，校尉丁斐趁机放出牛马以诱惑敌人，敌人纷纷去夺取牛马，曹操趁机渡过河去，沿着河边小道向南而去。

曹操的这次失败给了他极大的警示，让他不得不小心翼翼地应对马超。当马超的士兵退守渭河河口的时候，曹操在河中设置了大量疑兵，暗中却用船载上士兵进入渭水，结为浮桥，趁着夜色，将士兵分散运输到渭河南岸安营扎寨。马超发现曹军已经全部渡河，便对曹军营寨进行攻击，但为时已晚，曹操埋伏下精兵将其各个击破。

马超看到曹军实力强大，便请求与曹操割河西之地为和，被曹操断然拒绝。双方相持不下，每当曹军强渡渭水时，马超军队便极力袭击，所以军队无法安营，再加上河滩沙地，土质松软，军队甚至无法修筑壁垒。这时有一个叫娄子伯的人对曹操说:“现在天气寒冷，可令士兵将沙子垒筑起来，然后灌入河水，待河水冻结后，城也就筑成了。”曹操大喜，忙令士兵运水筑城，一夜之间，一道坚固的城墙就筑好了，这样，士兵才得以过河。九月，曹军已经全部渡过渭水。

马超求和不成，便屡次挑战，但曹操置之不理，马超无奈，除了请求割地之外，又附加上了送儿子为人质的条件。曹操采用贾诩离间马超和韩遂的计策，暂时答应了马超。

这时韩遂请求与曹操相见，因为曹操与韩遂的父亲为同年孝廉，两人阵前单独相见交谈了相当长的一段时间，内容都是京都旧事，丝毫未涉及军事。两人谈笑风生，极其融洽。谈完，韩遂回到阵营，马超问及所谈内容，韩遂感到所谈内容并无军国大事，均为过去琐碎之事，没必要重复给马超，于是就实话实说:“没说什么。”马超听后却大为不快，感到韩遂没有说实话。几天后，曹操又写信给韩遂，信中故意涂涂改改，目的是让马超看到后，怀疑信件是韩遂改的，果然，马超见信后更加怀疑韩遂通敌。

离间之计成功，曹操便开始与马超面对面交锋，到了双方择定的交战日期，曹操先用轻兵挑战，待对方筋疲力尽之时，曹军突然派威猛骑兵两面夹击，打得马超军队狼狈逃窜，数名大将被杀。马超、韩遂败逃凉州。至此，关中平定。十二月，曹操班师，留夏侯渊驻守长安。

西北地区的安定，对曹操来说具有重要意义。长期以来，西北边陲虽然由朝廷直接任命官员，但经常处于割据状态。所以，解决了西北问题后，曹操便又开始向东讨伐孙权，为进一步统一全国扫清障碍。

攻汉中得而复失

西北安定之后，经过半年多的休整，曹操于建安十七年（公元212年）十月再征孙权，建安十八年（公元213年）正月，曹军进攻濡须口，攻破孙权江西营，并俘获孙权都督公孙阳。之后，双方相持一月有余，曹操“作油船夜渡”，被孙权发觉，孙权率水军围攻，结果俘获曹军3000余人，曹军另有3000人溺水身亡。这次交战，孙权大胜。接着，孙权又数次挑战，曹操吸取教训，坚拒不出。孙权看到曹军毫无动静，便乘轻船从濡须口径入曹军大营，曹军将领认为孙权这是挑战，欲袭击他们，但曹操却说:“这一定是孙权想亲自看一看我们军队的阵列。”并命令军中严阵以待，没有命令不得擅自进攻。曹操看到孙权部队纪律严明，便喟然而叹说:“生子当如孙仲谋，刘表的儿子就像猪狗一样不堪重用。”

孙权这一番“巡视”，给这次战役带来了转机，他感觉到这样和曹操对峙下去不会有任何结果，所以离开曹营之后，他马上给曹操写了一封短信说:“春水正在涨，你应该马上退却。”有意思的是，除了这封短信之外，孙权还另外加了一张纸条，上面写着“足下不死，孤不得安。”而曹操也有同感，所以面对孙权的恶言，他一点也不生气，反而对大家说:“孙权没有欺骗我。”于是便率军返回。四月，到达邺城。五月，曹操被献帝策命为魏公。

之后，在西北边疆，马超、韩遂及其余部联合边疆少数民族又多次叛乱，夏侯渊均予以平定。马超不得已逃亡汉中。曹操也在建安十九年（公元214年）的七月，再一次东征孙权，但仍然劳而无功。