Floneum 是一款用于 AI 工作流程的圖形編輯器，專注于社區(qū)制作的插件、本地 AI 和安全性。

特性：

• 可視化界面：你無(wú)需任何編程知識(shí)即可使用Floneum?？梢暬瘓D形編輯器可以輕松地將社區(qū)制作的插件與本地人工智能模型相結(jié)合
• 即時(shí)運(yùn)行本地大型語(yǔ)言模型：Floneum 不需要任何外部依賴項(xiàng)，甚至不需要 GPU 即可運(yùn)行。它使用llm在本地運(yùn)行大型語(yǔ)言模型。因此，你可以使用你的數(shù)據(jù)運(yùn)行 Floneum，而無(wú)需擔(dān)心隱私問(wèn)題
• 插件：通過(guò)將大型語(yǔ)言模型與插件相結(jié)合，你可以提高其性能并使模型更好地適合您的特定用例。所有插件都在隔離的環(huán)境中運(yùn)行，因此你無(wú)需信任你加載的任何插件。插件只能以安全的方式與其環(huán)境交互
• 多語(yǔ)言插件：插件可以使用任何支持Web匯編的語(yǔ)言。除了可以用任何語(yǔ)言訪問(wèn)的 API 之外，F(xiàn)loneum 還具有一個(gè)帶有人體工學(xué)宏的 Rust 包裝器，可以輕松創(chuàng)建插件
• 受控文本生成：插件可以通過(guò)類似于 jsonformer 或guidance 的過(guò)程來(lái)控制大型語(yǔ)言模型的輸出。這允許插件強(qiáng)制模型輸出有效的 json 或它們定義的任何其他結(jié)構(gòu)。這在語(yǔ)言模型和類型化 API 之間進(jìn)行通信時(shí)非常有用