基于BERT-BiGRU-CRF與多頭注意力機制
所屬分類：技術論文
上傳者：wwei
文檔大小：991 K
標簽： 地理知識圖譜 命名實體識別 BERT預訓練模型
所需積分：0分積分不夠怎么辦？
文檔介紹：地理知識圖譜作為一種科學領域的知識圖譜，從概念探討和初步實驗階段快速發(fā)展為地理信息科學領域的跨學科研究熱點。地理命名實體識別是地理知識圖譜構建的基礎，直接影響著地理知識圖譜的構建效率與質量。設計了一個地理知識圖譜應用管理系統(tǒng)，針對其中地理實體庫構建過程依賴人工制定規(guī)則以及信息提取不充分等問題，面向地理知識圖譜構建過程進行地理命名實體識別研究。首先，通過人工標注方法構建了一個地理知識語料庫；其次，通過BERT預訓練模型得到結合語境信息的動態(tài)字向量，利用雙向門控循環(huán)單元提取全局語義特征，并基于注意力機制獲得增強語義特征；最后，通過CRF解碼輸出概率最大的全局最優(yōu)標簽序列，實現地理命名實體的自動識別。實驗結果表明，相比傳統(tǒng)的BiLSTM-CRF、BERT-BiLSTM-CRF等模型，所提出的基于BERT-BiGRU-CRF與多頭注意力機制的模型在地理命名實體識別任務中表現更優(yōu)，能夠為地理知識圖譜構建提供有效支撐。
現在下載
VIP會員，AET專家下載不扣分；重復下載不扣分，本人上傳資源不扣分。