張燕原名堵燕 。中平元年(184年)，黃巾起義爆發(fā)，褚燕聚集一幫少年為強盜，在山水間轉(zhuǎn)戰(zhàn)出擊，待回到真定時，部眾已經(jīng)達(dá)到一萬多人。中平二年(185年)，當(dāng)時博陵(今河北蠡縣)人張牛角也聚集起一伙人，自稱將軍，與褚燕合兵一處。褚燕推舉張牛角為首領(lǐng)，進(jìn)兵攻打癭陶(今河北寧晉縣)，張牛角被流箭射中，身受重傷，臨死之前，命令他的部下尊奉褚燕為首領(lǐng)。張牛角死后，眾人一起擁戴褚燕為首領(lǐng)，于是褚燕改姓張，喚作張燕。

張燕因身輕如燕，又驍勇善戰(zhàn)，所以軍中都稱他為“飛燕”。后來張燕的部隊不斷壯大，與常山、趙郡、中山、上黨、河內(nèi)等地叛匪互相聯(lián)絡(luò)，叛匪中的小頭領(lǐng)孫輕、王當(dāng)?shù)热?，都帶著部眾歸附到張燕麾下，張燕部眾發(fā)展到近百萬人，號稱“黑山軍”。黃河以北的各郡、縣都受到侵?jǐn)_，朝廷卻無力派兵圍剿。于是，張燕派使者到京城洛陽，上書朝廷請求歸降。漢靈帝于是任命張燕為平難中郎將，使他管理黃河以北山區(qū)的行政及治安事務(wù)，每年可以向朝廷推薦孝廉，并派遣計吏到洛陽去匯報。

初平元年(190年)，董卓遷都于長安，天下紛紛起兵討伐，張燕于是帶著他的部隊與各路諸侯結(jié)盟。初平二年(191年)，袁紹與公孫瓚爭奪冀州，張燕派部將杜長等人帶兵幫助公孫瓚，最終被袁紹擊敗，張燕的手下部眾稍稍散去了一些。初平四年(193年)，袁紹剿滅境內(nèi)黑山軍，后聯(lián)合呂布與張燕的主力在常山展開激戰(zhàn)。當(dāng)時張燕擁有精兵數(shù)萬人，戰(zhàn)馬數(shù)千匹。 雙方一連戰(zhàn)斗了十余天，張燕軍死傷雖多，袁紹軍也感到疲憊，于是雙方各自撤退。建安四年(199年)三月，當(dāng)時袁紹攻打公孫瓚，張燕與公孫續(xù)率兵十萬，分三路援救公孫瓚，張燕的援軍還未到，公孫瓚秘密派使者送信給公孫續(xù)，讓他率五千鐵騎到北方低洼地區(qū)埋伏，點火作為信號，公孫瓚打算自己出城夾擊袁紹圍城部隊。結(jié)果公孫瓚兵敗，公孫續(xù)被殺。

建安九年(204年)，曹操平定河北的袁氏集團(tuán)。四月，曹操留曹洪繼續(xù)攻打鄴城，自己親自統(tǒng)軍進(jìn)攻尹楷，擊敗尹楷后回師。張燕派使者來拜見曹操，請求派軍協(xié)助曹操進(jìn)攻袁氏兄弟，曹操委任他為平北將軍。建安十年(205年)四月，張燕率領(lǐng)其部眾十余萬人投降曹操。曹操封張燕為安國亭侯，食邑五百戶，命他率軍到鄴城駐守。