FinGPT金融領(lǐng)域大型預(yù)訓(xùn)練語言模型

FinGPT 是金融領(lǐng)域大型預(yù)訓(xùn)練語言模型。它能理解和生成財(cái)經(jīng)新聞，分析社交媒體上的公眾情緒，解讀金融報(bào)告如年度報(bào)告、季度收益報(bào)告等，進(jìn)行市場(chǎng)預(yù)測(cè)，以及通過學(xué)習(xí)用戶的個(gè)人偏好，提供個(gè)性化的投資建議。

FinGPT 的訓(xùn)練數(shù)據(jù)來自多種在線來源，包括財(cái)經(jīng)新聞網(wǎng)站（如路透社、CNBC、雅虎財(cái)經(jīng)等）、社交媒體平臺(tái)、金融監(jiān)管機(jī)構(gòu)的網(wǎng)站（如美國的SEC）、股票交易所的官方網(wǎng)站（如紐交所、納斯達(dá)克、上交所等）、財(cái)經(jīng)博客和論壇以及學(xué)術(shù)數(shù)據(jù)集。

核心特性：

• 以數(shù)據(jù)為中心
• 采用 RLHF 和 Lora 的低秩技術(shù)，讓新數(shù)據(jù)的訓(xùn)練變得又快又便宜
• 支持內(nèi)嵌商業(yè)和開源 LLM，后者支持獨(dú)立部署
• 應(yīng)用層用 prompt engineer 做分析師和交易員

FinGPT 架構(gòu)如下所示：

與其他語言模型不同的是，F(xiàn)inGPT 使用開源的大型語言模型和金融數(shù)據(jù)進(jìn)行微調(diào)。其關(guān)鍵技術(shù)是通過人類反饋進(jìn)行強(qiáng)化學(xué)習(xí) (RLHF)，使模型能夠?qū)W習(xí)個(gè)人偏好，如風(fēng)險(xiǎn)厭惡水平、投資習(xí)慣等，從而提供個(gè)性化的機(jī)器人顧問服務(wù) FinGPT 具有快速微調(diào)的能力，能適應(yīng)新的數(shù)據(jù)，這使得它在金融領(lǐng)域具有很高的靈活性。