尔朱荣的先世一直居住于尔朱川（今山西北部）这个地方，因此以居住地为姓氏。尔朱氏乃是“契胡”中的一支，亦即前赵的石勒、石虎同出一源；再往上溯源，他们先祖乃是来自中亚的伊兰人。尔朱荣的历代先人都是部落酋长，到了北魏孝明帝时，这个位置落到尔朱荣头上。尔朱荣自幼聪慧机敏，遇事甚有决断，更稀奇是肤色白皙，容貌俊美。尔朱荣承袭了父爵之后，正赶上北魏兵乱四起，尔朱荣趁机召集兵勇、蓄养马匹，发展自己的势力，组织了一支坚强的契胡军队，借着为朝廷效力的机会，逐步建立自己的霸业。其崛起的过程和早期的曹操极为相似，双手沾满了起义军的鲜血，但主要还是在后来镇压六镇起义过程中不断壮大的。期间他广络人才，在镇压之后的降兵中，选拔人才，量力而用。像后来成为一方霸主的高欢、宇文泰、贺拨岳、侯景等人，都是从降兵中收罗起来的将领，后成为尔朱荣的得力将帅。此时的尔朱荣已经不满足于一个地域性的军阀，他在等待机会，要控制北魏的洛阳朝廷，进而成就帝王的霸业。
此时，北魏孝明帝元诩逐渐年长知事，深感胡太后所为势必将王朝带上毁灭之路，因而决心自己执掌国政。但胡太后却继续宠用私党，常借故诛杀元诩的近臣。元诩忍无可忍，于是发密诏命镇守晋阳的大将尔朱荣，率兵南下进兵洛阳，以胁迫胡太后交权。尔朱荣等的就是这样一个机会，他大喜过望，立即发兵。胡太后得知风声后首先采取措施，竟和姘头一起密谋毒死亲生儿子孝明帝。胡太后又对外宣称元诩的嫔妃生了—个皇子（其实是个女孩），想立个小皇帝，自己则继续垂帘听政。
兴头正盛的尔朱荣闻讯怒不可遏，发表慷慨激昂的宣言，立元子攸为帝，是为敬宗元子攸，勤兵拥众，直指京师杀来。胡太后的爪牙四散而逃，尔朱荣大军顺利入京。胡太后见了尔朱荣还想辩解，尔朱荣却根本不给她机会，直接派军士把胡太后和三岁的小皇帝扔入黄河淹死。可是，接着尔朱荣做了一件让后人唾骂的事。除掉胡太后和幼帝后，考虑到自己在朝廷根基尚浅，怕今后不好控制，想杀人立威。尔朱荣听从亲信费穆的建议，计划尽杀朝中百官。同日，尔朱荣以祭天为名，邀请朝中百官到河阴之陶渚（今河南省孟津县东），待百官聚集之后，尔朱荣捡个高台四处望，立马于上，大声叱责说：“天下丧乱，肃宗暴崩，都是你们不能辅弼造成得。而且朝臣贪虐，个个该杀！”言毕，纵兵将文武百官2000余人以铁骑包围，飞矢交加，屠戮殆尽。北魏诸王元雍、元钦、元略、元邵等人皆遇害，这就是历史上有名的“河阴之变”。这次屠杀，上至丞相高阳王元雍、司空元钦、义阳王元略，下至正居丧在家的黄门郎王遵业兄弟，包括元子攸的兄弟，不分良奸，全部刀劈斧砍，杀个精光。把迁到洛阳的汉化鲜卑贵族和出仕北魏政权中的汉族大族消灭殆尽。有了此事，历史上对尔朱荣的骂名滚滚。“河阴之变”另一个后果，是尔朱荣和北魏朝廷和皇室之间已经没有调和的可能，尔朱荣也注定要成为北魏的乱臣贼子。他没有第二条路可走，而且必须一直下去。尔朱荣当时不是没有考虑篡位，但是当时天下未定，属下意见不一，而且尔朱荣很迷信，派人铸他自己的金像。当时魏王朝凡做重大抉择时，常常铸金人以卜吉凶。一共铸了四次，金像全部都没有铸成。尔朱荣信任的一个巫师也劝他，说天时人事都不成熟。于是重新迎回元子攸还宫，叩头谢罪，率军返回晋阳。
当时，北魏在北方边境设立了六个镇，派了将士防守。公元523年，沃野镇（今内蒙古五原北）的匈奴人破六韩拔陵（破六韩是姓）首先带领兵士杀死镇将，发动起义。其他五个镇的兵士也纷纷响应。反对北魏的起义势力越来越大。由于北魏勾结北方的柔然族人共同镇压，六镇兵士的起义失贩了。
北魏政府为了防止六镇兵民的反抗，把起义失败的六镇兵士二十多万人都押送到冀州、定州、瀛州（治所都在今河北）。这些兵士哪里肯受魏朝的奴役，在冀州，又燃烧起起义的火焰。鲜卑族的葛荣率领起义军，进攻瀛州。北魏政府派章武王元融为大司马，广阳王元深（中元琛是两个人）为大都督，发动大军镇压。那些只知吃喝玩乐的贵族哪里会打仗。葛荣起义军到了博野镇（今河北省中部），就派出一支轻骑兵偷袭元融的大营。元融没有防备，被起义军杀了。元深听到元融被杀，退到定州，也被葛荣的骑兵俘虏了。葛荣把各路起义兵士都合在一起，号称百万，准备向洛阳进军，声势浩大，南下围攻邺城，打算一举推翻北魏朝廷，一统天下。不幸的是他遇到了尔朱荣。
尔朱荣听说邺城被围之后，立即亲自率精兵7000，直扑河北。葛荣横行河北之地为时已久，又听说尔朱荣这么一点人马，大喜于色，十分轻视。双方兵力上的悬殊差距却是事实，葛荣虽无百万雄兵，30万人马还是有的。尔朱荣打仗绝对是个高手中的高手。他先派兵埋伏于山谷间，准备出其不意地出击。又三人一组，派出几百组骑马四跃，扬尘鼓噪，让葛荣军人不知已方数目多少。双方近距离混战，考虑到刀不如棒好使，又发给兵士每人袖里藏棒一枚，以便近击。为了防止兵士贪功，割首及求赏，他又下令战后不以人脑袋为封赏的标准，只以大胜为准，此法意在驱散敌兵，追逐至远方，而不要围截起来，以免敌人聚集之后，发挥人数上的优势。随着尔朱荣身先士卒冲入敌阵，数千名精骑一齐左冲右突，来往挥击，竟将葛荣的30万大军一下子冲散。然后，尔朱荣回过身来，集中所有精兵杀向葛荣的中军，一战而擒之，于是葛荣全军崩溃。
而后，尔朱荣首先下令葛荣军士就地遣散，可以亲属相随，一概不问。于是俘虏们大喜，登即四散，数十万众一朝散尽。等到这些散兵游勇出走百里之外，尔朱荣才又派押领的官在各条路口等候，把降众分别集中起来，进行安置，原来的首领量才录用，编入自己军队服务，使新附降兵都感服他的处置。尔朱荣以迅雷不及掩耳之势取得了这场战役的胜利，竟使北魏的后续部队还没有发动就已经风平浪静了。
河阴之变之后，北魏北海王元颢都仓惶南奔，投降南朝梁国。于是萧衍派了陈庆之和他的七千白袍军为元颢攻打地盘。在陈庆之打出了传奇的战绩之后，黄河以南地区全部归附南梁。这时北魏最后的希望尔朱荣出场了。我们在上一章讲到，陈庆之与尔朱荣大战之际，正值嵩高河水暴涨，陈庆之的白袍军在追兵和大水的冲击下，死散殆尽。陈庆之削发装扮成和尚，只身一人步行逃回梁朝。
尔朱荣在两次在危难之时挽救了北魏朝廷之后，尔朱荣又相继斩杀了幽、平二州的韩楼，生擒了豳、泾的万俟丑奴，活抓王庆云，平定关西，基本统一了北方。就在此时，他和孝庄帝元子攸的矛盾也日益尖锐。
尔朱荣虽未称帝，但实权还操在他手里，他仍随心所欲地攫取政治、经济权利，元氏皇帝成了聋子的耳朵。一人得道，鸡犬升天。尔朱荣得势，其兄弟子侄先后有十几人取得高官显爵。长子尔朱菩提立为太原王世子，任职骠骑大将军、开府仪同三司；次子尔朱义罗封为梁郡王，侄儿尔朱兆受封颍川郡开国公，任职汾州刺史等。此外，他还安插一大批亲戚心腹担任朝廷和地方重要职务。
有了这样牢固的基础，尔朱荣遂坐镇晋阳，遥控朝廷。当时如果谁想做官，只要设法在晋阳打通尔朱荣的关节，无不遂愿。有一次，尔朱荣指定一个人选要朝廷任命为县令，吏部认为不合适，想更换一下，尔朱荣知道后大怒，派人赶走支部委派的县令，让他指定的人走马上任。尔朱荣威权如此之重，洛阳朝中上自孝庄帝，下至王公百官无不畏惧。他在晋阳，不断派人往来联络，每次尔朱荣的人到洛阳，即使是身份微贱的人，朝野之上也没有不害怕的。
孝明帝元子攸虽然是个傀儡，但他却每天勤于政事，朝夕不倦，多次亲自览阅案卷，看看有没有冤狱。实际上，朝政均由尔朱荣在晋阳控制。元子攸左右的大臣、内侍，全是尔朱荣安插的眼线，皇帝的一举一动这些人都会禀告给他。而且尔朱荣的女儿本是孝明帝的侧妃，但尔朱荣却强迫元子攸立她为后。尔朱皇后也不是善茬，经常和皇帝过不去，发脾气耍性子。她常常说：“我在天子面前放肆一些有什么关系？他本来就是我爹所立，我爹把帝位让给他已经很不错了！”
元子攸外有强臣逼迫，内有恶后威吓，经常怏怏不乐，随着境内的敌人被消灭，尔朱荣又申请入朝，准备进一步控制中央，为下一步篡位做准备，双方摊牌的时候终于到了。于是元子攸开始与一些皇族近臣密谋诛杀尔朱荣，这传到了尔朱荣那里。尔朱荣的亲信都劝他抢先下手，但尔朱荣自信得很，认为元子攸决计没有这种胆量。堂弟尔朱世隆怀疑庄帝举动有异，自己派人在自家门上写个匿名贴子：“天子与杨侃、高道穆密谋，要杀掉太原王！”然后他自己假装发现匿名信，揭下贴子呈送给尔朱荣。尔朱荣此时把任何人都不放在眼里，唰唰几下撕毁匿名贴，往地上狠狠吐了口唾沫：“世隆真是胆小鼠辈，谁敢生杀我的念头！”尔朱荣的妻子也劝他不要去洛阳，但尔朱荣不听。
尔朱荣入朝，当面问起外面传言，元子攸说：“外面的人都说您也要杀我，难道是真的？”这样的巧妙反问使尔朱荣无言以对，以后每次入朝觐见，左右从人不过数十，还都空手不带兵器。而帝党方面刺杀尔朱荣的行动却加紧进行。530年九月戊戌日，元子攸埋伏兵士在明光殿东序，然后遣使飞报尔朱荣。声称尔朱皇后刚刚生下太子，皇宫内文武百官络绎不绝地到府上道贺，祝贺尔朱荣荣升为外公。尔朱荣并不起疑，遂进宫入殿。见到元子攸，尔朱荣未等开口道喜，忽然见元子攸手下两个人手里提刀从殿东门跑进，他马上惊起，直奔御座想挟持元子攸抵抗。元子攸膝上早已横备一刀，见尔朱荣冲上，直刺入腹，一代英雄应声毙命。尔朱荣终于死在了他所看不起的元子攸的刀下。
尔朱荣虽然死了，北魏的乱世却并没有结束，反而更加混乱。尔朱荣手下的侯景、高欢、贺拔岳、宇文泰都非等闲之辈。尔朱荣虽然残暴，毕竟是北魏的定海神针，他在的时候，还没人敢乱动。在尔朱荣死后，北朝的这些乱世枭雄开始纷纷登场成为时代的主角。三国时，曹操“挟天子以令诸侯”，以丞相的身份成为当时天下说一不二的权臣。南北朝时期，又有一个人复制了曹操走的路子，此人便是高欢。