一带的葛荣军队由于缺乏粮食，便派遣他的仆『射』任褒领兵向南侵犯，到了沁水县，朝廷任命元天穆为大都督东北道诸军事，率领宗正珍孙等将领讨伐葛荣。
孝庄帝下诏声称：“朕要亲自统领六军，扫除平定燕、代地区的匪患。”并任命大将军尔朱荣率领左军，元天穆率领前军，杨椿为右军，穆绍为后军。葛荣得知朝廷大军前来，便率领军队退守相州城北。
葛荣率军包围了邺城，军队号称有百万之众。游击部队已经过了汲郡，所到之处大肆残杀掠夺，尔朱荣上表请求讨伐葛荣。
秋季，尔朱荣将侄子肆州刺史尔朱天光召来，命他留守晋阳，嘱咐他说：“我本人不能到的地方，只有你在，才能使我放心。”
尔朱荣又派人用囚车将葛荣送往洛阳，这样一来，冀、定、沧、瀛、殷五州就全部平定了。此时，元天穆驻军于朝歌城南，穆绍、杨椿还没来得及发兵，而葛荣的军队已经被尔朱荣消灭了，于是元天穆等人都停止了发兵。
孝庄帝任命尔朱荣为大丞相，他的儿子尔朱文殊、尔朱文畅也都晋升爵位为王，同时，又任命杨椿为太保，元徽为司徒。不久，孝庄帝又任命尔朱荣的嫡长子尔朱菩提为骠骑大将军、开府仪同三司，将长乐等七郡各万户，连同先前已有的十万户，都作为尔朱荣的采邑，并加封尔朱荣为太师，以嘉奖他平定葛荣的功劳。
冬季，葛荣被押至洛阳，孝庄帝亲临阊阖门，葛荣被押来见过孝庄帝后，在都市斩首。