石虎沒有能夠像他所說的那樣再活十年，後趙太寧元年（公元349年），石虎在失望和痛苦中死去。臨死前四個月他倒是登上了皇帝的寶座（此前他一直自稱大趙天王），但他已無法再現石勒時期君臨天下的情景，後趙的江山已經被他和他的子孫們揮霍殆盡。
一隊由大力士組成的充軍者開始撼動這個龐大帝國的支柱。這些大力士稱為“高力”，本是前太子石宣選來作為自己衛隊的主要成員的，石宣被處死後，東宮的官員非斬首即流放，這一萬多人的衛隊成員就被謫戍涼州（這個涼州是後趙所設立的涼州，並非張氏佔領的那個）。
高力們的隊伍走到雍州，刺史張茂奉命送行，對他們十分輕慢，並搶了他們的馬，命他們步行推著小車，將糧食運往涼州。高力中的頭目梁犢藉著眾人怨聲鼎沸，自稱晉國的徵東大將軍（可見晉朝對當時人的影響還是相當深遠的），率領高力們調頭向東，進攻後趙軍隊。這些高力本來就是武夫出生，一個人可以抵得上十幾個普通士兵，雖然既沒盔甲，也沒兵器，卻就地搶奪了老百姓的大斧子，直接上陣廝殺，後趙的軍隊與之相遇居然不是對手。高力軍隊很快席捲長安、洛陽等地，從關中殺到關東，直逼後趙的國都鄴城。
正在病榻上掙扎的石虎面對突如其來的變故大驚失色，趕忙調集國內的軍事力量，命燕王石斌為大都督，以精騎兵一萬，統領氐人首領蒲洪和羌人首領姚弋仲率兵征討，這兩家的兒子後來分別建立了前秦與後秦，此時正處於迅猛上升期。高力的軍隊終究寡不敵眾，在滎陽與後趙精銳部隊的交戰中全軍覆沒。
強將在外，權臣在內，大亂將起的徵兆顯而易見。石虎還沒死，就有所謂的“權臣”蠢蠢欲動了。
太子石世是個未見過世面的小孩，其母劉氏卻工於心計，頗通權謀。這個劉氏就是原來前趙皇帝劉曜的女兒（真是報應不爽），前趙滅亡時，她被石虎手下的戰將張豺俘獲，後來獻給了石虎，而張豺也得以升遷。劉氏不忘舊情，石虎病危時在石虎身邊吹耳旁風，讓石虎封劉豺做鎮衛大將軍，與彭城王石遵、燕王石斌同為輔政大臣。
石遵擁兵在外，劉氏無力顧及，然而石斌就在後趙的舊都襄國，劉氏擔心他會於己不利，先假傳聖旨說石斌縱酒好獵、心中無君，將他罷了官職，軟禁在府第裡；然後讓張豺故技重施，再傳一道聖旨，將石斌殺死在府中。
最大的障礙已除，石虎又奄奄一息，劉氏就假借石虎名義任命張豺為太保，主管內外軍事。捱到第二天，石虎終於蹬腿死了，小皇帝登基，劉氏臨朝稱制，做了太后，與張豺掌握朝政，準備剷除異己。
張豺與太尉張舉商議除掉司空李農，張舉則把秘密私下裡告訴了李農，李農逃往廣宗（今河北威縣附近）一帶，糾合在當地聚集的流民與張豺對抗。劉太后派出張舉統帥鄴城中最後一支軍事力量——近衛軍去圍攻，都城周圍的空氣空前緊張。
這時得到石虎去世訊息的石遵從關中趕來奔喪，在李城（今河北邯鄲附近）與剛剛剿滅高力凱旋的姚弋仲、蒲洪和石閔等人相遇。這些人也知道了張豺在朝中掌權的訊息，共同勸說石遵乘著鄴城守備空虛，一舉攻下國都，奪回皇位。石遵心中早有此意，而得到這支軍隊的支援正是求之不得，他從李城起兵殺奔鄴城。
張豺嚇得手足無措，又急急招回張舉的軍隊，孰料城中的胡人都認為石遵前來奔喪，應當去迎接，不能給張豺守城。張豺無法阻止城內人的外逃，就連他一手提拔的鎮軍大將軍張離也開啟城門迎接石遵。（牆倒眾人推，何況張豺也算不上是堵厚實的牆，出了問題只有倒得更快。）
張豺完全是個無主見的人，這時還做出十分可笑的舉動，他聽從劉太后的意見，給石遵加了一大堆的官職頭銜，石遵不予理睬，驅兵到達鄴城外的安陽亭，張豺戰戰兢兢出迎，被石遵當場收捕。
第二天，石遵帶著重兵，耀武揚威地進入鄴城，例行公事地上殿痛哭完石虎的靈位之後，下令將張豺斬首，滅其三族。石遵以劉太后的名義廢掉石世，自立為帝。石世母子的結局當然也沒什麼好說的，他們都被石遵殺死。
石遵哪裡想到，他這個皇位根本無法坐穩，廢嗣自立之舉引起了駐守各地的諸王的強烈不滿。薊城的沛王石衝傳檄幽州、冀州等地，南下討伐石遵。石遵派出精兵十萬與之交戰，擊殺了石衝，但此戰又進一步成全了領兵的漢人石閔，使他聲威大振。
石閔對石遵不滿日久，石遵進軍鄴城時，曾對石閔許下諾言：“努力吧。事成之後我立你為太子。”但石遵登基後自食前言，立了石斌之子石衍。石閔自恃功高，表現出強烈不滿，他利用總攬內外兵權之利，把殿中將士都提拔為殿中員外將軍、關外侯。中書令孟準、左衛將軍王鸞勸石遵削奪石閔的兵權，並把他除掉。
當年十一月，石遵召集義陽王石鑑、東平王石苞、汝陰王石琨、淮南王石昭等人在鄭太后（這時太后已經換成了石遵的母親）宮中密謀誅滅石閔的計劃。鄭太后認為石閔在李城起兵過程中功勞很大，不能隨便殺掉，會議因此不了了之。
石鑑表面贊同殺掉石閔，出來後卻馬上派宦官將訊息通告給石閔。石閔搶先下手，劫持司空李農等人密謀廢帝，派出軍士蘇彥、周成活捉了正在宮中與宮女們玩彈棋的石遵。
石遵當場問周成：“是誰造反？”
周成回答：“義陽王石鑑應當做皇帝。”
石遵長嘆一聲：“我尚且如此，石鑑又能做上幾天？”
石遵及孟準、王鸞等人被殺，石鑑順理成章地做上了皇帝。
石鑑感謝石閔的擁戴之功，封他為武德王，司空李農則晉升為大司馬，兩人並錄尚書事。但石鑑內心卻忌憚石閔和李農，不久就指使東平王石苞、中書令李松等率軍夜攻石閔、李農。襲擊未能得手，石鑑非常恐慌，裝作不知情的樣子，殺了石苞、李松等人完事。
此後，中領軍石成、侍中石啟、前河東太守石暉等人也密謀誅殺石閔、李農，反被石閔所殺。龍驤將軍孫伏都、劉銖等人得到石鑑的支援，率領羯族士卒二千人暗中埋伏，也想襲殺石閔和李農，又告失敗。
石閔、李農在攻殺了孫伏都等人以後，已識破了石鑑的意圖，就幽禁石鑑，在城中下令說：“近日孫、劉謀反，黨羽均已被剿滅，良善之人無一參與。從今以後，與朝廷同心者留下，不同心者聽便，城門不再禁止出入。”
號令一出，方圓百里的漢人紛紛進入鄴城，城內的羯人、匈奴人則紛湧出城。石閔料知胡人不為己用，便頒佈“殺胡令”，漢人凡殺一個胡人的，就給升官加爵。他親自率領漢人誅滅匈奴人和羯人，無論貴賤、男女、老幼，即使只是高鼻多須長得像胡人的都得死。
這是中國歷史上一次慘絕人寰的“種族大滅絕”，胡人被殺竟達二十多萬！一夜之間，鄴城的周圍遍地是堆積成山的死屍，昔日繁華的後趙國都，幾乎變成了一座死亡之城。