溫羨是東漢護(hù)羌校尉溫序的后代，他的祖父溫恢為三國(guó)時(shí)期魏國(guó)揚(yáng)州刺史，父親溫恭為濟(jì)南太守。溫羨兄弟六人都聞名于世，號(hào)稱“六龍”。

溫羨年少時(shí)以聰明聞名，最初被齊王司馬攸征用為屬官，后升任尚書郎。晉惠帝繼位，任命溫羨為豫州刺史，后入朝擔(dān)任散騎常侍，多次升任至尚書。永寧元年（301年），齊王司馬冏擊敗稱帝的趙王司馬倫后掌權(quán)，因溫羨曾任父親司馬攸的屬官而特別親近他，改任他為吏部尚書。

原先張華被殺，司馬冏建議恢復(fù)他的官爵。有人提出異議，溫羨反駁道：“自天子以下，諫官各有過失，不能歸罪于一人。所以晏子說：‘為己死亡，不是他親近的人，誰能承擔(dān)？’里克殺庶子二人，陳乞立陽生，漢朝殺呂氏，都是多年后才能立事。沒有事主還活著，而能在數(shù)月之內(nèi)為所欲為的。式乾殿之會(huì)，獨(dú)有張華進(jìn)諫。宰相不和，不能順勢(shì)揚(yáng)善，指望張華指揮他們緊跟，不也是很難的嗎！況且現(xiàn)在皇后只是陷害太子，并沒參預(yù)內(nèi)難，于禮不通。而且皇后和皇帝同為一體，尊同皇帝，罪在陷害太子，不算謀反，按禮不應(yīng)討伐。現(xiàn)在把張華不能廢掉陷害太子的皇后，與趙盾不討伐殺害國(guó)君的賊等同，而貶低譴責(zé)他，是于理義不通?！睆埲A最終得以恢復(fù)爵位。

后來以從駕討伐成都王司馬穎有功，封大陵縣公，食邑一千八百戶。后出任冀州刺史，加任后將軍，范陽王司馬虓兵敗許昌，自己統(tǒng)管冀州，溫羨避開他。晉惠帝游幸長(zhǎng)安，任命溫羨為中書令，沒有就任。不久，晉惠帝回到洛陽，征召溫羨為中書監(jiān)，加散騎常侍，還沒任命，晉惠帝便去世了。晉懷帝即位后，升任他為左光祿大夫、開府，領(lǐng)司徒，人們議論他晉升太快。在任不久病死，追贈(zèng)司徒，謚號(hào)元。