隨著互聯網上各種UGC越來越多,各種原創性的長文本內容也不斷地涌現出來。例如,在人工智能領域的三大頂會之一的ICML,許多論文的長度都達到了二三十頁。因此,如何快速的從長文本中提取出有用的信息,成為困擾許多包括科研人員在內的互聯網網民的難題。
在 2023 年結束的人工智能領域頂會 AAAI 2023 上,來自中國浙江大學的研究團隊,發表了一篇題為 Document Summarization Based on Data Reconstruction 的論文。該篇論文提出了 DSDR 算法,描述了如何利用貪心算法進行文本摘要提取的方法。
所謂的文本自動摘要問題,本質上就是從原始的長文本中抽取一個文本的子集合,使得利用這個子集合的線性組合能盡可能的恢復出原始文本。我們按照如下方式定義文本自動摘要問題:
其中, f 是線性組合摘要句子之后的轉換函數。X 是摘要生成的句子,a 是線性組合的系數,而 v 是原始文本,也就是輸入數據。
首先,f 可以是線性組合,也就是:
因此,文本自動摘要問題轉換成為了下述問題:
上述損失函數公式,等價于下面的公式:
利用貪心算法,我們設計了如下損失函數:
整個算法的偽代碼流程如下所示:
在上面介紹的算法中,線性組合的系數 a 有可能是負數,為了保證 a 非負,我們重構了算法的損失函數:
經過重新設計之后,算法的偽代碼如下:
通過對比實驗,我們發現新設計的算法,取得了優異的實驗結果:
文本自動摘要,對于閱讀長篇幅的文本,比如博士畢業論文、咨詢報告、審計報告等內容,非常有幫助。對于趕時間的當代人來說,文本自動摘要無疑是隨身辦公的文書利器。希望通過本文,廣大的互聯網從業者能夠有所收獲。