PyText基于 PyTorch 的 NLP 建?？蚣?/h1>

聯(lián)合創(chuàng)作 · 2023-09-26 04:53

PyText 是一個(gè)基于 PyTorch 構(gòu)建的深度學(xué)習(xí) NLP 建?？蚣?。PyText 通過(guò)為模型組件提供簡(jiǎn)單且可擴(kuò)展的接口和抽象，以及使用 PyTorch 的 Caffe2 執(zhí)行引擎導(dǎo)出模型進(jìn)行推理的功能，模糊了實(shí)驗(yàn)與大規(guī)模部署之間的界限。其預(yù)訓(xùn)練模型包括文本分類(lèi)、序列標(biāo)注等。

PyTorch 是一個(gè)統(tǒng)一的框架，縮短了從研究到生產(chǎn)的路徑，而基于 PyTorch 的 PyText 則著眼于滿(mǎn)足 NLP 建模的特定需求。

核心特性：

- 適用于各種 NLP/NLU 任務(wù)的生產(chǎn)就緒模型

• 文本分類(lèi)

  • Yoon Kim (2014): Convolutional Neural Networks for Sentence Classification

  • Lin et al. (2017): A Structured Self-attentive Sentence Embedding

• 序列標(biāo)注

  • Lample et al. (2016): Neural Architectures for Named Entity Recognition

• 聯(lián)合意圖時(shí)隙模型（Joint intent-slot model）

  • Zhang et al. (2016): A Joint Model of Intent Determination and Slot Filling for Spoken Language Understanding

• 上下文意圖-時(shí)隙模型（Contextual intent-slot models）

- 支持在 PyTorch 1.0 中基于新 C10d 后端構(gòu)建的分布式訓(xùn)練

- 可擴(kuò)展組件，可輕松創(chuàng)建新模型和任務(wù)

- 參考實(shí)現(xiàn)和預(yù)訓(xùn)練模型論文：Gupta et al. (2018): Semantic Parsing for Task Oriented Dialog using Hierarchical Representations

- 支持聯(lián)合訓(xùn)練

瀏覽 17

點(diǎn)贊

評(píng)論

收藏

分享

手機(jī)掃一掃分享

編輯 分享

舉報(bào)