大模型關(guān)聯(lián)度預(yù)測(cè)的形式化和語(yǔ)義解釋研究

摘要： 本文探討“大型語(yǔ)言模型是什么”的問(wèn)題。為此對(duì)大模型的評(píng)判標(biāo)準(zhǔn)展開(kāi)實(shí)驗(yàn)觀察，對(duì)大模型的基礎(chǔ)設(shè)施關(guān)聯(lián)度預(yù)測(cè)進(jìn)行直觀分析，構(gòu)建關(guān)聯(lián)度預(yù)測(cè)的一種形式化L_C，進(jìn)而研究關(guān)聯(lián)度預(yù)測(cè)的語(yǔ)義解釋。在此基礎(chǔ)上討論大模型的真實(shí)性挑戰(zhàn)、共識(shí)挑戰(zhàn)、內(nèi)容屬性挑戰(zhàn)和非封閉性挑戰(zhàn)。主要發(fā)現(xiàn)包括：語(yǔ)元關(guān)聯(lián)度是體現(xiàn)人類(lèi)語(yǔ)言習(xí)慣的可自動(dòng)提取的語(yǔ)言痕跡；關(guān)聯(lián)度預(yù)測(cè)具有語(yǔ)境相關(guān)的統(tǒng)計(jì)性質(zhì)；L_C具有弱共識(shí)性實(shí)質(zhì)語(yǔ)義；... （共7頁(yè)）