分享文章中關鍵詞的提取與拓展方法

來源：超達科技 發(fā)布時間：2021-12-13瀏覽：1380次

在自然語言處理領域，處理海量文本文件的關鍵是提取用戶關心的問題。無論是長文本還是短文本，我們都可以通過幾個關鍵詞來窺視整個文本的主題。同時，無論是基于文本的推薦還是基于文本的搜索，對文本關鍵字的依賴性也很大。關鍵詞提取的準確性直接關系到推薦系統(tǒng)或搜索系統(tǒng)的終效果。

因此，關鍵字提取是文本挖掘領域的一個重要組成部分。從文本中提取關鍵詞有三種方法：監(jiān)督、半監(jiān)督和無監(jiān)督。監(jiān)督關鍵字提取算法是將關鍵字提取算法構造為兩類問題來判斷文檔中的詞或短語是否為關鍵字。由于這是一個分類問題，因此有必要提供標記的訓練預測。訓練語料庫用于訓練關鍵詞提取模型。根據(jù)該模型，對需要提取關鍵字的文檔的關鍵字提取算法進行了半監(jiān)督。

構造關鍵詞提取模型只需要少量的訓練數(shù)據(jù)，然后利用模型對新文本進行檢查。關鍵字提取，手動篩選這些關鍵字，并將篩選后的關鍵字添加到培訓集以重新培訓模型。無監(jiān)督的方法不需要手動標記語料庫。一些方法被用來尋找文本中更重要的詞作為關鍵字并提取關鍵字。監(jiān)督文本關鍵字提取算法要求人工成本高，現(xiàn)有的文本關鍵字提取主要采用無監(jiān)督關鍵字提取，適用性強。

文本關鍵字提取的過程如下：無監(jiān)督文本關鍵字提取流程圖無監(jiān)督關鍵字提取算法可分為三類：基于統(tǒng)計特征的關鍵字提取、基于詞圖模型的關鍵字提取和基于主題模型的關鍵字提取。基于統(tǒng)計特征的文本關鍵字提取算法基于統(tǒng)計特征的關鍵字提取算法基于統(tǒng)計特征的關鍵字提取算法是利用文檔中的統(tǒng)計信息提取關鍵字。

一般情況下，文本經(jīng)過預處理得到候選詞集，然后通過特征值量化從候選詞集中獲得關鍵詞?；诮y(tǒng)計特征的關鍵詞提取方法的關鍵是采用何種特征值量化指標。

目前常用的方法有三種：1、基于詞權的特征量化主要包括部分語音、詞頻、反向文檔頻率、相對詞頻、詞長等。2、基于詞位的特征量化方法是基于不同位置的句子對文獻的重要性不同的假設。通常，文章的前N個詞、后N個詞、開頭、結尾、標題和引言都是有代表性的詞。這些詞可以把整個主題表達為關鍵詞。3、基于詞關聯(lián)信息的特征量詞的關聯(lián)信息是指詞與詞、詞與文獻的關聯(lián)程度，包括互信息、命中值、貢獻度、依賴度、tf-idf值等，這里有一些常用的特征值量化指標。部分語音分詞和語法分析的結果?，F(xiàn)有的關鍵詞大多是名詞或動名詞。

一般來說，名詞比言語的其他部分更能表達文章的主旨。然而，作為特征量化的指標，部分語音通常與其他指標結合使用。單詞頻率表示單詞在文本中出現(xiàn)的頻率。一般來說，我們認為一個詞在文本中出現(xiàn)的頻率越高，它就越有可能成為文章的核心詞。單詞頻率只是計算文本中出現(xiàn)的單詞數(shù)。然而，僅依靠詞頻獲得的關鍵詞具有很大的不確定性。對于長文本，此方法將產(chǎn)生大量噪聲。

一般來說，詞的位置對詞有很大的價值。例如，標題和摘要本身是作者總結的文章的主要思想，因此出現(xiàn)在這些地方的詞具有代表性，更容易成為關鍵詞。然而，由于每個作者都有不同的習慣、寫作方法和關鍵句子的位置，這也是一種非常廣泛的獲得關鍵詞的方法，通常不單獨使用?；バ畔⒑突バ畔⑹切畔⒄撝械囊粋€概念，是衡量變量相互依賴性的一個指標。相互信息不限于實值隨機變量。