受召不應(yīng)

庾冰早年已受重視，曾受司徒府辟命但不應(yīng)，后被征為秘書郎。后因參與永嘉五年（311年）討伐江州刺史華軼的行動而封都鄉(xiāng)侯。后來司徒王導(dǎo)請庾冰為司徒左長史，后來出任吳國內(nèi)史。

平亂輔政

咸和二年（327年），歷陽內(nèi)史蘇峻拒絕朝廷征召并起兵進攻建康，引發(fā)蘇峻之亂。至次年蘇峻攻破建康，亦派兵進攻吳國。庾冰不敵，于是棄郡而逃奔會稽。當(dāng)時蘇峻正懸紅追緝庾冰，吳國鈴下卒則在浙江以船載庾冰，并以竹席覆蓋，帶他南下會稽。

王導(dǎo)不久秘密地宣太后詔諭通告三吳吏士，請他們起兵勤王。會稽內(nèi)史王舒于是以庾冰行奮威將軍，領(lǐng)一萬兵西渡錢塘江。而虞潭、新任吳國內(nèi)史蔡謨和前義興太守顧眾等都向應(yīng)，蔡謨更以庾冰本為吳國內(nèi)史而讓位。蘇峻知道三吳的東軍起兵后便派張健、管商等人抵抗。庾冰后來與張健相拒，因張健兵多，眾將都不敢進擊，庾冰則率兵眾擊敗張健，并乘勝西進，兵臨建康。當(dāng)時蘇峻已死，溫嶠等人所領(lǐng)的西軍正要進攻領(lǐng)導(dǎo)蘇峻余眾的蘇逸所占據(jù)的石頭城并救晉成帝，庾冰亦派司馬滕含一同進攻，并與諸軍成功擊破。

蘇峻之亂平定后，庾冰以高功勛而封新吳縣侯，但庾冰不受。后庾冰出任振威將軍、會稽內(nèi)史。咸康五年（339年），丞相王導(dǎo)逝世，庾冰入朝任中書監(jiān)、揚州刺史、都督揚豫兗三州軍事、征虜將軍、假節(jié)。當(dāng)時庾冰受到朝野寄予厚望，庾冰上任后亦不分日夜處理政事，而且提拔后進，敬重當(dāng)朝賢士，時人都他為賢相。及后庾冰又整理戶籍，查出萬多名本記錄的人，充實人口，增加軍資供應(yīng)。

策立長君

咸康八年（342年），晉成帝病重。當(dāng)時年僅十八歲的晉成帝已有司馬丕和司馬奕兩名皇子，但仍是嬰兒，庾冰自以為庾氏兄弟掌權(quán)已久，怕成帝之子繼位后會因與皇帝血緣變疏而被離間，失去權(quán)力。于是常常向成帝說東晉仍有強大外族政權(quán)，應(yīng)該立年長的君主，并建議由成帝弟瑯邪王司馬岳繼位。成帝最終答允。及后庾冰與中書令何充、武陵王司馬晞、會稽王司馬昱和尚書令諸葛恢被任命為顧命大臣輔政，庾冰進號左將軍。同年成帝逝世，司馬岳（晉康帝）繼位，庾冰進車騎將軍。庾冰以權(quán)力正盛而感到懼怕，于是多次請求出鎮(zhèn)。

至建元元年（343年），庾冰的弟弟安西將軍庾翼有北伐志向，更聯(lián)結(jié)前燕和前涼，意圖分別進攻后趙和成漢，并且請轉(zhuǎn)鎮(zhèn)襄陽，預(yù)備攻打后趙。庾冰于是以車騎將軍都督江荊寧益梁交廣七州豫州之四郡軍事、領(lǐng)江州刺史、假節(jié)鎮(zhèn)武昌，作為庾翼后援。

因病辭世

建元二年（344年），晉康帝駕崩。太子司馬聃繼位，即晉穆帝，并由母親褚蒜子以皇太后身份臨朝。禇太后同時征召庾冰入朝輔政，庾冰則因病而辭讓。同年十一月庚辰日（12月29日），庾冰逝世，享年四十九歲。冊贈侍中、司空，謚忠成。獲祠以太牢之禮。