ChatMIE：關(guān)鍵領(lǐng)域多維信息抽取大模型
所屬分類：技術(shù)論文
上傳者：wwei
文檔大?。?span>1507 K
標(biāo)簽： 關(guān)鍵領(lǐng)域多維信息抽取 大語言模型 提示工程
所需積分：0分積分不夠怎么辦？
文檔介紹：在當(dāng)前信息爆炸的時代，一些關(guān)鍵領(lǐng)域信息的準(zhǔn)確處理顯得尤為重要。由于關(guān)鍵領(lǐng)域信息的敏感性，關(guān)鍵領(lǐng)域數(shù)據(jù)集的構(gòu)建相對困難，因此在沒有相關(guān)數(shù)據(jù)集的情況下，采用了多輪對話提示工程，以引導(dǎo)大語言模型更好地進(jìn)行關(guān)鍵領(lǐng)域信息多維分析；而如果有一定規(guī)模的數(shù)據(jù)集，則可以采用ptuning v2技術(shù)對大語言模型進(jìn)行微調(diào)。在限制顯存的情況下，這種凍結(jié)參數(shù)的微調(diào)使模型在關(guān)鍵領(lǐng)域信息多維分析的表現(xiàn)顯著提升。構(gòu)建了一個數(shù)據(jù)集專注于多維關(guān)鍵領(lǐng)域信息抽取任務(wù)，主要包含三個不同維度的核心下游任務(wù)：關(guān)鍵領(lǐng)域?qū)嶓w識別、關(guān)系抽取和情感傾向預(yù)測。并基于這個數(shù)據(jù)集，對ChatGLM36B進(jìn)行了多輪對話提示工程以及凍結(jié)參數(shù)的微調(diào)，得到了關(guān)鍵領(lǐng)域多維信息抽取大模型ChatMIE。實(shí)驗(yàn)結(jié)果驗(yàn)證了ChatMIE在關(guān)鍵領(lǐng)域?qū)嶓w識別、關(guān)系抽取和情感傾向預(yù)測三個任務(wù)上的性能。
現(xiàn)在下載
VIP會員，AET專家下載不扣分；重復(fù)下載不扣分，本人上傳資源不扣分。