尔朱荣虽然有时做事不讲道理，但他的军事能力勿庸置疑。在尔朱荣短暂的人生中，他最值得骄傲的战绩，就是消灭了北魏历史上头号草头王葛荣。
就在尔朱荣处心积虑的攫取北魏王朝最高统治权的这段时间，葛荣已经将北魏在太行山以东地区的统治翻了个底朝天！葛荣兵锋已经严重威胁到洛阳的战略安全。即使尔朱荣不打算日后定都洛阳，而他的根据地河东距离葛荣也太近，所以尔朱荣必须除掉这个与自己同名的鲜卑人。
北魏永安元年（公元528年）的九月，尔朱荣亲率七千名最精锐的契胡族骑兵，风驰电掣的直扑葛荣。关于尔朱荣骑兵部队的人数，《魏书》说是七万，而《北史》则说是七千，《资治通鉴》也从《北史》记载。
葛荣的军队人数不详，但他对外号称有百万大军，再从尔朱荣自知与葛荣“众寡非敌”来看，葛荣军至少也有数十万。葛荣听说尔朱荣只带了七千骑兵，大笑着告诉喽罗们：“弟兄们每人准备一条绳子，等羯奴到来时，把他放倒了捆上。”众喽罗鼓噪一片。
葛荣一声令下，数十万流民军队从邺城以北，列成一个方圆几十里的超级大阵，各部依次向前移动，旗帜飘扬、烟尘漫天，鲜卑语的战术命令不断在战场上传达，场面非常震撼。不过尔朱荣并没有瞧上葛荣的这群乌合，尔朱荣带来的是“精骑”，平时训练有素，纪律严明，战斗力非常强悍，这岂是葛荣那群喽罗兵可以相比的？
尔朱荣也知道葛荣人多势众，强攻未必能占多少便宜，如果把自己手上这支仅有的精锐骑兵打光了，元子攸就随时有可能翻盘，所以他决定智取葛荣。尔朱荣下令：军中诸将每三人为一组，各率几百骑兵，在各处击鼓扬尘，制造人数众多的假象，干扰葛荣的判断。
尔朱荣用契胡语下达了攻击命令，随后他亲自纵马前冲，他是个将军，所以他必须要起到带头作用。如果只让手下弟兄冒死拼来富贵，他自己则安逸享受，他会觉得受之有愧。见大哥亲陷敌阵，弟兄们热血沸腾，数千名极度亢奋的契胡骑兵紧跟在大哥身后，风一般的冲进了葛荣军中，身后狼尘滚滚……
按照尔朱荣的作战部署，契胡骑兵每人都配备了一枝短棒，准备在与敌军短兵相接的时候，用短棒直接去砸敌人的脑袋。看得出，这次尔朱荣确实是豁出去了，人生其实就是一场赌博，面对人生的逆境挑战，男人们应该记住战国名将吴起的一句名言：“必死则生，幸生则死。”
尔朱荣和他的骑兵战队，以玩命的姿态揪住葛荣往死里打。葛荣和他的喽罗们从来没和这样的亡命徒交过手，再加上他们本就是乌合之众，实战能力远不是契胡人的对手。结果葛荣越打越没脾气，最终惨败，一代草头王葛荣在阵上失手被擒。
当契胡兵将被捆成粽子的葛荣推到尔朱荣面前时，满脸是血的尔朱荣在马上仰天大笑！
这场一对一的轮盘赌，尔朱荣赢了，他知道自己距离天堂又近了一步。而失败者葛荣则提前一步下了地狱，葛荣被用一辆驴车押到洛阳斩首。尔朱荣在处理葛荣余党时的政策也非常值得称道，尔朱荣不追究葛荣余党的责任，反而将他们在各州郡进行妥善安置，择其能者，擢为将帅，给他们铺开了一条光明大道。
尔朱荣通过政治手段瓦解安抚葛荣余部，效果极佳，葛荣余部“群情大悦”，顿时星散，回家种地去了。自此，“冀、定、沧、瀛、殷五州皆平”，本来对北魏非常不利的河北、山东局势被尔朱荣彻底扭转。可以说，尔朱荣是北魏末年六镇大起义的真正终结者，其功甚伟，其才甚雄。
最重要的是，尔朱荣用和平而温情的方式遣散葛荣余部，得到了北魏朝野上下的高度好评，官场上一片叫好声。汉族士大夫集团对这个羯人刮目相看，这无形中拉近了尔朱荣和他们的心理距离，在政治上对尔朱荣是极为有利的。
在尔朱荣的军事生涯中，有两个最具分量的对手，一个是葛荣，已经被尔朱荣给敲掉了，而另一个，就是大名鼎鼎的梁朝名将陈庆之。就在尔朱荣刚刚平定全葛荣的当月，也就是梁大通二年（北魏永安元年，公元528年）十月，白袍将军陈庆之奉大梁皇帝萧衍之命，带着萧衍所册立的“大魏皇帝”元颢，率七千汉族骑兵北上，开始了南朝历史上最为荡气回肠的北伐历程。
陈庆之的骑兵部队渡过烟波浩渺的长江，高举着大梁旗帜，迎风浩荡北上。从铚城（今安徽睢溪县临涣镇）开始，梁军所向披靡，接连拔掉魏军的重要据点。最值得一提的是，陈庆之率七千汉族骑兵部队在荥阳城下，打败了尔朱荣侄子尔朱兆等人率领的二十万装备精良的魏军骑兵部队，震惊了北魏朝野。
元子攸做梦也没想到他的大魏国都会有陷落的一天，为了避免做姚泓第二，元子攸仓皇逃出洛阳，渡过黄河避难。北魏永安二年（公元529年）四月，“大魏皇帝”元颢在北魏王公大臣的簇拥下，大摇大摆的进了洛阳城。
面对南朝政权的强势反击，尔朱荣知道他遇到了一个伟大的对手。如果不及时打掉陈庆之，任由南朝势力在北方蔓延，迟早有一天，梁朝的旗帜会插遍中原所有的城墙，到时尔朱荣连个落脚的地方都没有。
尔朱荣率领契胡骑兵星夜南下，他要和陈庆之单挑，来证明谁才是真正的风云男儿！但让尔朱荣没有想到的是，他所面对的这个“南蛮子”是个极其强悍的男人，尔朱荣和陈庆之在黄河岸边血战了三天，大小战役十一场，尔朱荣竟然没有占到丝毫便宜，反而让陈庆之吃掉了他的主力部队。胜败是兵家常事，不能因为几场战役的失利，就否定尔朱荣的军事才能。
陈庆之率七千白袍骑兵进入北魏境内以来，几乎是打遍北魏无敌手，一时风光无限。但陈庆之有一个致命的弱点，这个弱点其实也是萧衍造成的。由于陈庆之只带了七千梁军北上，而一路上大小战役数十场，肯定会有不少的伤亡。
梁军在敌国孤军作战，无法有效补充兵源。萧衍做为军事家，他应该知道不及时给陈庆之补充兵源有什么样的后果，但这个菩萨皇帝一直按兵不动，坐视陈庆之自生自灭，让人无法理解。
打到现在，陈庆之已经有些后劲不足。更加致命的是，他手上的傀儡皇帝元颢开始有意要和陈庆之划清界限，元颢盘算着如何踢掉陈庆之，自己独享胜利的果实。陈庆之一方面要应付尔朱荣，另一方面还要防备元颢暗中放冷箭，形势非常被动。
鹬蚌相争，渔翁得利，元颢和陈庆之“内讧”不断，最直接的受益人，就是蹲在黄河北岸看风景的尔朱荣。碉堡从来都是从内部攻破的，形势对尔朱荣越来越有利。
尔朱荣的优势还有一点，就是有相当数量汉族士大夫对尔朱荣的支持，或者说，这些士大夫支持的是元子攸。尔朱荣被陈庆之堵在了黄河北岸，再加上没有船渡河，尔朱荣有些心灰意冷，他准备暂时避开陈庆之的锋芒，回到河东，以图后举。
黄门郎杨侃和高道穆批评了尔朱荣的畏难情绪，二人从争取人心的角度劝尔朱荣知难而上：“岛夷北犯，国家正处在生死存亡的关头，而大王却畏难不进，必然让天下人失望。大王欲做齐桓、晋文，匡扶王室，就不能有畏难情绪。否则人心一去，大王还靠谁扫荡天下？”
至于船只的问题，并不难解决，河北岸有的是木材，我们可以打造木筏渡河。而且元颢所部要防守几百里黄河沿岸，元颢的兵力有限，河道防线必然存在着漏洞，我们乘虚而入，必能获胜。尔朱荣大喜，立刻让堂弟尔朱世隆等人连夜打造大量木筏。
杨侃给尔朱荣出了一个绝妙的主意，就是把这些木筏放在河北岸，都保持随时渡河的姿态，让元颢无法确定北军将从哪个河段渡河，战略主动权就回到了尔朱荣的手上，元颢反而处处被动。
尔朱荣接受了杨侃的建议，随后命令部队在向导、伏漆将军杨檦的带领下，乘着夜色，从马渚渡口（今三门峡渑池硖口镇）划着木筏，悄无声息地渡过了风平浪静的黄河。
事态的发展也在杨侃和高道穆等人的预料之中，北军一过黄河，立刻对元颢的军事据点发动袭击。因为毫无准备，元颢的宝贝儿子元冠受成为尔朱荣的战利品。临时和元颢结盟的的安丰王元延明等人见元冠受栽在了尔朱荣的手上，知道元颢就要完蛋了，立刻带着妻儿老小窜到江南，找萧衍要斋饭吃去了。
洛阳城中的“大魏皇帝”元颢陛下听说南岸失守，来不及心疼儿子，带着几百个心腹骑兵，连夜逃出洛阳城，准备再逃回江东避难。元颢显然没有元延明的好运气，他逃到临颍县的时候，因为目标太大，被临颍县卒江丰发现，一刀砍死。
至于陈庆之，元颢集团的崩溃，让陈庆之已经没有任何留在中原的借口了。当然更重要的是，陈庆之这支骑兵部队的战斗力已经达到了极限，弦崩的太紧，迟早会断的。陈庆之知道他的传奇到了谢幕的时候了，陈庆之长叹数声，下令部队结阵南还。
尔朱荣听说陈庆之要跑，立刻率领最精锐的契胡骑兵，风一般的追击陈庆之。
但一场突出其来的洪水，冲破了尔朱荣的如意算盘，也冲破了陈庆之差一点就全军而还的奇迹。就在陈庆之准备渡河的时候，嵩高河水突然暴涨，这支近乎百战百胜的梁军部队没有倒在契胡人的马刀下，却被洪水冲散，死伤殆尽，陈庆之狼狈逃回建康，向萧衍请罪，萧衍知道过不在陈庆之，释之不问。
尔朱荣隔着滚滚洪流，看着远去的陈庆之，无语。
虽然尔朱荣没有生擒陈庆之，但能将收复失地，对尔朱荣来说已经是莫大的成功。尔朱荣的人望急骤提高，在北魏朝野，已经成为公认的第一人。至于元子攸，所有人都知道，元子攸只是尔朱荣的玩具，当尔朱荣对这个玩具不再感兴趣的时候，元子攸就会被尔朱荣丢掉垃圾堆里。
关于这一点，元子攸心里非常清楚。
对于尔朱荣屡立奇功，元子攸的内心是非常矛盾的。一方面他从大魏帝国的利益考虑，希望尔朱荣能打败这些劲敌；另一方面，他知道尔朱荣立的功越多，自己的地位就越低。
元子攸在想什么，尔朱荣心知肚明，再加上他杀害了元子攸的亲兄弟，元子攸不恨他，那就没有天理了。所以尔朱荣为了避免元子攸对他下黑手，他一直住在晋阳。
尔朱荣是不会给元子攸一点反抗机会的，尔朱荣在洛阳朝廷的要位中都安插了自己的心腹亲信，“荣身虽居外，恒遥制朝廷，广布亲戚，列为左右，伺察动静，大小必知。”元子攸的一举一动，都在尔朱荣的严密监控之下。
尔朱荣还是低估了元子攸的血性，这个青年皇帝绝对不是一个逆来顺受的窝囊废，他有自己的尊严。男人的一生有许多标签，其中一个最重要的标签，就是血性。男人失去了血性，存在的价值已经大打折扣。虽然有时候一味追求血性，会让人感觉到心智不成熟。
元子攸其实也曾经尝试学习勾践的隐忍，不过他似乎没有修炼到火候，面对尔朱荣的步步紧逼，血气方刚的元子攸终于忍不住了。尔朱荣越来越不尊重元子攸，甚至尔朱荣派到朝廷的狗腿子也敢当着皇帝的面吆三喝四，元子攸怒不可遏。
为了报复尔朱荣，元子攸将尔朱荣关于尔朱系人马出任河南诸州刺史的申请全部驳回，丝毫不给天柱大将军面子。尔朱荣的心腹元天穆没想到元子攸居然有勇气驳尔朱荣的面子，他“好心”劝皇帝：“陛下为了区区几个州刺史的任命得罪了天柱大将军，实在不值得。现在天柱控制全国军政，别说几个州了，就是他要得到上至朝廷，下及地方的所有官员任命，陛下能阻止得了吗？不如顺水推舟，送个人情。”
元子攸的回答很有血性：“朕知道天柱有大功于天下，朕的位子也是他给的。如果他想取代朕，他直说，朕这就让。但朕在位一天，就要有天子威仪，难道君臣有别的道理，天柱也不懂么？！”
元天穆默然。
很快，就有人把元子攸的原话告诉了尔朱荣，尔朱荣大怒，这个玩偶要造反么！尔朱荣指天划地的大骂元子攸：“他难道忘记了他的位子是谁给的？过河拆桥，实属小人之举！现在翅膀硬了就想单飞，须知我尚未死！”
尔朱荣无法理解元子攸怎么会对自己有这么大的仇恨，其实这并不难理解。尔朱荣无视元子攸最起码的人格尊严，而且他还杀了元子攸的亲兄弟，这笔血海深仇，元子攸深藏于心。
