東漢末年，戰火紛飛。因於黃巾之亂助推，搖搖欲墜的東漢，竟被一個名叫皇甫嵩的人力挽狂瀾於既倒。
皇甫嵩，出生年月不詳，字義真，安定郡朝那縣，即時下寧夏回族自治區朝那縣人。父親皇甫節，曾任雁門郡太守，久爲東漢邊將。叔叔皇甫規，亦是東漢名將。有一子，名皇甫堅壽。
皇甫嵩出身軍旅世家，幼小便習武好書，既擅張弓躍馬，又熟詩詞妙文。弱冠之年，被察舉孝廉、茂才，爲郎中，遷任霸陵、臨汾縣令，期間因父親去世離職。之後太尉陳蕃、大將軍竇武相繼聘其爲官，都未應召。及至漢靈帝以公車徵辟他爲侍郎，遷任北地太守。
公元184年，太平道教主張角傳檄四方，發動起義，史稱"黃巾之亂"。黃巾軍所到之處，焚燒官府，劫掠鄉豪。一時州郡失守，官吏逃竄。京師洛陽爲之震動。
漢靈帝劉宏在惶恐之中，一邊命令洛陽外圍的八個關隘，嚴加布防禦衛；一邊採納皇甫嵩和中常侍呂強的建議，解除黨禁，赦免天下黨人，允許地方政府招兵買馬。
期間，漢靈帝劉宏任命何進爲大將軍，起用盧植爲北中郎將、皇甫嵩爲左中郎將、朱儁爲右中郎將，三將各持節，分兵進擊黃巾軍。先期，皇甫嵩與朱儁共四萬餘將士，負責鎮壓盤踞在潁川的黃巾軍。不想朱儁部在與黃巾軍波才部作戰時落敗。
皇甫嵩領兵退守時下河南省的長葛縣，波才乘勝追殺過來，將城圍住。城中兵少，皇甫嵩的部將們惶恐不已。皇甫嵩囑大家不必驚慌，說到了夜間，可用計擊敗圍城敵軍。是夜，皇甫嵩採用火攻，打得黃巾軍慌亂後撤。也是天意，這時騎都尉曹操率部趕來助戰。此戰斬殺黃巾軍數萬人，皇甫嵩威名遠揚。漢靈帝封其爲都鄉侯。
此後，皇甫嵩、朱儁及盧植三部，越戰越順，收復不少失地。不過到了八月，盧植因受宦官誣衊，被朝廷召回，其部改由董卓指揮，但董卓剛一接手，即被黃巾軍打得大敗。
漢靈帝急忙下詔命皇甫嵩接管董卓殘部。恰在這時，張角病死，其弟張樑帶精銳守衛廣宗。皇甫嵩審時度勢，黑夜調兵，雞鳴時分攻城，黃巾軍倉促應戰，張樑戰死，手下陣亡三萬餘，淹死逾五萬。不久，皇甫嵩又在時下河北省晉縣西北地區，斬殺張角另一弟張寶及其部卒十餘萬人。朝廷升任皇甫嵩爲左車騎將軍，領冀州牧，晉封槐裡侯，食邑八千戶。
成爲冀州牧後，皇甫嵩奏請漢靈帝免除冀州一年田租，用來贍養饑民。百姓因此傳唱："天下大亂兮市爲墟，母不保子兮妻失夫，賴得皇甫兮復安居。"
皇甫嵩鎮壓黃巾，功勳卓著，威震天下，又因惠民而得民擁，有人就勸他："時下朝政日非，海內空虛，何不握機，自行稱制？"但被皇甫嵩拒絕。
皇甫嵩爲人認真，征討張角時，率軍途經鄴地，發現中常侍趙忠住宅超過規定，便上奏漢靈帝予以沒收。另外，中常侍張讓向他索要五千萬錢，皇甫嵩沒給。於是趙忠與張讓勾結，劾奏皇甫嵩討好民衆，懷圖不軌。漢靈帝聽信讒言，收回皇甫嵩的左車騎將軍印綬，削奪封戶六千。改封都鄉侯，食邑二千戶。
公元188年十一月，涼州叛軍首領王國包圍陳倉，即時下陝西省寶雞市。危急關頭，漢靈帝又想到了皇甫嵩，任命他爲左將軍，督領前將軍董卓，各率兩萬士兵拒敵。董卓提出迅速進赴陳倉，力救陳倉於危卵。但皇甫嵩認爲，陳倉城牆堅固，守軍悍勇，可讓王國忙碌一陣，消耗其鬥志，再行突襲。果然，在圍攻八十餘天不下陳倉後，王國只得撤退。皇甫嵩下令起兵追擊，但董卓以"窮寇勿追"之理反對。皇甫嵩堅持己見，結果大敗王國，斬敵萬餘人。兩次分析不及皇甫嵩的董卓，開始嫉妒皇甫嵩。不過他對付皇甫嵩的方式也是獨特，這就是將朝廷的犒賞，全部用來取悅士兵。由此也就有了"皇甫嵩會打仗，董卓會帶兵"一說。
公元189年，漢靈帝病重，任命董卓爲幷州牧，所部交由皇甫嵩統領。董卓不肯放棄軍權。皇甫嵩的侄兒皇甫酈認爲董卓抗命，力勸皇甫嵩興兵討伐。皇甫嵩堅持光明正大處理，上奏朝廷。董卓對皇甫嵩更加怨很。
蒞年，大將軍何進召外戚軍團進京剷除"十常侍"，豈料引狼入室。忤逆篡權掌控東漢朝廷的董卓，爲防有人算計於他，將原京兆尹蓋勳徵爲議郎。蓋勳便私下聯絡帶兵三萬、駐紮在扶風郡的皇甫嵩，唆使他討伐董卓。但同樣擔心皇甫嵩"背後開槍"的董卓，徵召皇甫嵩爲城門校尉。皇甫嵩是個實誠人，應召將行，手下有人勸他千萬別去。皇甫嵩不聽，堅持赴任，結果一到洛陽，董卓就將其下獄，擇日處斬。
皇甫嵩之子皇甫堅壽素與董卓交好，聞訊快馬加鞭從長安趕到洛陽，找到正在大宴賓朋的董卓，求他看在多年朋友的情份上，饒了其父，說罷叩頭流淚。董卓起了側隱，釋放皇甫嵩。
公元192年，司徒王允通過貂蟬唆使呂布殺了董卓。有人建議王允讓皇甫嵩統領董卓軍隊，並予安撫，但王允不聽，奏請漢獻帝劉協任命皇甫嵩爲徵西將軍，負責屠滅董卓宗族。不久，董卓舊部李傕、郭汜攻入長安，殺死王允等。皇甫嵩改任車騎將軍，八月，升任太尉。十二月，前職皆被免除。李傕、郭汜等被滅後，又被任光祿大夫、太常等職。
公元195年，皇甫嵩病逝。朝廷贈以驃騎將軍印綬，並任命他家裡一人爲郎官。
公元782年，唐德宗追封古代名將六十四人，併爲他們設廟享奠，內中就有"太尉槐裡侯皇甫嵩"。公元1123年，宋朝爲古代名將設廟，七十二位名將中亦包括皇甫嵩。出版於北宋的《十七史百將傳》及成書於明代的《廣名將傳》，皇甫嵩亦列其中。
有史學者稱皇甫嵩是"東漢柱石"、"救火隊長"。