洛阳，数月都没有被任命职务。他发现三辅地区土地肥沃，原野宽广，而自己带来的宾客又不少，于是便上书刘秀，请求率领宾客到上林苑去屯田。光武帝答应了他的请求。
此时，隗嚣听信了部将王元的挑拨，想占据陇西，称王称霸，因而对汉朝存有二心，处事狐疑。
马援见状，多次写信，好意相劝。
隗嚣怨恨马援，认为他背离自己，见到信后愈发恼火，后来竟起兵抗拒朝廷。
马援上书刘秀，陈述消灭隗嚣的计策。
刘秀采纳马援的计策，令他率突骑五千，游说隗嚣的将领高峻、任禹等人以及羌豪，陈述利害祸福，分化瓦解隗嚣集团。
马援又写信给隗嚣部将杨广，陈说利害，希望他能归附汉朝并劝谏隗嚣悬崖勒马，杨广没有答复。
建武八年（32年），刘秀亲征隗嚣。
军队行进到漆县，不少将领认为前途情况不明，胜负难卜，不宜深入险阻，刘秀也犹豫不定，难下决心，正好马援奉命赶来。
刘秀连夜接见，并将将领们的意见告诉马援，征询他的意见。
于是，马援说出了自己的看法，他认为隗嚣的将领已有分崩离析之势，如果乘机进攻，定获全胜。
说着，他命人取些米来，当下在光武帝面前用米堆成山谷沟壑等地形地物，然后指点山川形势，标示各路部队进退往来的道路，其中曲折深隐，无不毕现，对战局的分析也透彻明白。刘秀大喜道：“敌虏已在我眼中了。”
遂决意进军，第二天，光武帝挥军直进，抵达高平第一城。
当时，凉州牧窦融率河西五郡（指敦煌、酒泉、张掖、武威、金城）太守及羌、小月氏等步骑数万、辎重车五千辆与刘秀会合，分数路攻陇。
隗嚣大将十三人及部众十万余人不战而降，隗嚣逃至西城，援陇蜀军李育、田弇逃至上邽。
汉军占领了天水的16座属县，刘秀派吴汉、岑彭围西城，派耿彝围上邽，至此，隗嚣军主力基本上被汉军消灭，
若是没有马援这个之前在隗嚣麾下担任绥德将军、颇受器重之人刘秀身旁，那刘秀平定陇右兴许也没有这么大的胜算。
聂有回忆起他以前在史书上看到的这些，感慨道：“马援将军如此尽心尽力的帮刘秀，可最后却落得个如此下场，正如陛下对陆伯言陆都督那般，
即便是陆都督为陛下立下取荆州、在夷陵大破蜀军，解了吾国的灭顶之灾，可还是落得个愤恚致卒的下场，哎，自古以来君心皆是难测啊！”