这次的英勇作战，使得马超被后世称为“虎臣罴士”曹操担任丞相时，曾想招揽马超入朝为官，但马超没去，后来平阳大战胜利后，封马超为徐州刺史，但马超依旧没去赴任。于是曹操改封马超为谏议大夫。这场战役后，匈奴臣服东汉多年，未敢觊觎。而著名的“文姬归汉”，就发生在此战后不久。建安八年-建安九年间（203年-204年），马超随父亲马腾屯聚三辅，防备北边的胡族贼寇，东边的逆乱张白骑，善待士人推举贤才，怜悯救援百姓们的身家性命，三辅的人民都非常爱戴马腾军。
建安十年-建安十二年间（205年-207年），高干又召集旧部再次造反于并州，曹操派张既征集马腾、韩遂、马超等西方诸将，大破高干、张晟军，斩杀了反叛的卫固等人。朝廷召拜马腾为前将军、槐里侯、假节，马超也随父亲屯兵于槐里。建安十三年（208年），马腾一来与韩遂不和，二来觉得自己年老，在张既的劝说下入朝为官，被朝廷任命为九卿之一的卫尉。
马超的两个弟弟马休，马铁也被封奉车都尉、骑都尉，唯独马超留守凉州，被封为偏将军、都亭侯，统领马腾的部队，割据原来马家势力所在的“三辅”，依旧屯兵于槐里。建安十四年（209年），曹操与孙刘联军展开赤壁之战，鉴于马超和韩遂之间的博弈，虽然对曹操有威胁，却没有做出进攻曹操的行动。建安十五年（210年），周瑜跟孙权提出攻占两川联合马超围攻曹操，但计策未实施就病逝了，而周瑜的计划中并没有联合韩遂，足以说明马超当时在北方的威望和实力。
建安十六年（211年）三月，曹操派遣钟繇、夏侯渊率领军队出河东，试图经过马超等凉州军阀的领地进攻汉中张鲁，以马超、韩遂为首的关西军阀都怀疑曹操要攻打吞并凉州。马超料到这是曹操的假道灭虢之计，利用自己在关中西北的政治威望，联合凉州诸将起兵反抗曹操。率领十万人马（包括曾经击败斩杀李傕的张横、梁兴、安定的杨秋、河东的侯选、程银、李堪、马玩、成宜）推举韩遂为都督，屯聚于渭河、潼关，建列营寨。
曹操派遣曹仁率领夏侯渊、钟繇等前往拒守，因为忌惮精悍的关西兵，曹操下令让诸将坚壁固守，不要擅自进攻，等待曹操大军的支援。据《魏略》记载，起初，马超为了拉拢韩遂一起反曹时，为了尽量拉拢，凉州第一势力的韩遂，对韩遂说过“之前司隶校尉钟繇，让我进攻吞并韩将军，关东人的话不能再相信了，现在为了抵抗曹操吞并我们，我决定放弃父亲，以韩将军为父亲，韩将军也应当放弃儿子，以超为儿子”韩遂也对反对自己的女婿阎行说：“关中诸位将领不谋而合，似乎是上天安排的。
期间还曾拉拢刘雄鸣势力，但遭到拒绝，被马超率兵击破，投靠了曹操。七月，曹操率领中原大军亲自西征，与马超联军在潼关夹关对峙。八月，曹操从潼关北渡黄河，派遣徐晃、朱灵等率领四千人夜渡蒲阪津，马超知道后，派遣梁兴率领五千兵进攻徐晃，但被徐晃击退，徐晃占据河西设立营寨， 曹操亲自率军从潼关北渡，前队刚过，曹操和许褚以及虎士百余人断后，马超突然率领步骑万馀杀到，全军大乱，但曹操仍然坐在胡床上不起身。
许褚、张郃等将领，见事情紧急，将曹操架起带出船中，急忙渡河，马超率领骑兵在后边追边射，箭如雨下，曹操几乎丧命。曹操部下虎卫军许褚一手用马鞍挡箭，一手撑杆，拼死救出曹操。曹操帐下校尉丁斐在河岸放出大量牛马，马超的士兵顾不得乘胜追击，跑去抓奔跑牛马，马超控制不住，（这就是《后出师表》中：曹操殆死于潼关）曹操因此才得以成功渡河。
曹操手下将领见兵败，又不知道曹操在哪，都非常的惶恐害怕，到后来见到曹操，心情有的悲伤有的惊喜，还有的都吓哭了。曹操却大笑说："今天差点被小贼的困住了！"据《山阳公载记》记载，曹操军驻扎在蒲阪，想要西行渡河，马超听说后对韩遂说：“可以在渭河北岸据守，不到二十天，河东粮食用尽，敌军便自行撤军了。”但是被韩遂的“半渡击之”的计谋代替。
曹操后来听闻了马超的计策后，感叹：“马超小儿不死的话，我恐怕连葬身的地方都没有了”。九月，曹操遁过渭河作甬道到渭南。马韩联军失去战略要地，只能退守，拒兵屯在渭口，曹操却多次设疑兵，用船载兵偷偷潜入渭河，做成为浮桥，到一天夜里，曹操分兵在渭南结营。联军趁夜攻击兵营，曹操设置伏兵击破马韩联军偷袭。于是马超等人屯兵在渭南，遣送信件，请求割河西一带和谈，但曹操不答应。
