呂大臨一生，先投張載，后投二程求學，無心仕途，最后以門蔭得太學博士，秘書省正字。

呂大臨和他的三個兄長呂大忠、呂大防、呂大鈞均出身于一個世代書香的官宦之家，兄弟四人人皆登及第，唯獨呂大臨氣質(zhì)剛強，尊橫渠先生教誨，“不留連科舉”，更無心仕途，一生追求學術(shù)研究。當時，關(guān)中地區(qū)涌現(xiàn)出以張載為首的博學鴻儒，被后人公認為“關(guān)學派”。呂氏兄弟也被公認為關(guān)學大家。呂大臨與他倆個兄長呂大忠、呂大鈞投入張載門下求學，潛心研究《六經(jīng)》尤深于三禮(即《儀禮》 、 《周禮》 、 《禮記》 )的精研與實踐。晚年開始對青銅器的收集與研究和文字注解。

元佑七年(1092)，范祖禹以其學行和人品出眾，向朝廷舉薦他為太學博士講官，但還沒來得及任用，他就去逝了，時年僅四十七歲。