logo logo
焦點觀點
::: 首頁 | 焦點觀點專欄 | AI生成的「幽靈」正在污染科學文獻

AI生成的「幽靈」正在污染科學文獻

2026-10-20
TAG AI 大型語言模型

根據一篇於6月發表的預印本論文,Vasquez和Chen是由Anthropic在舊金山開發的大型語言模型Claude所生成的「幽靈」。研究也發現,Google的大型語言模型Gemini會使用另一組反覆出現的虛構人物,名為Aris Thorne和Lena Petrova;而OpenAI的GPT則一再使用Elara Voss這個名字。

波蘭華沙三星人工智慧中心的電腦科學家也是預印本論文的共同作者Neo Christopher Chung和 Micha? Brzozowski表示,這類虛構專家遍布網路各處,身分涵蓋區塊鏈專家、太空人、董事會成員及Podcast 持人等。他們指出這類現象對科學文獻的完整性與可信度構成了特定的威脅。

他們的分析在Zenodo和ResearchGate等典藏平台中,發現數百篇虛假的科學稿件,這些稿件將Elena Vasquez、Marcus Chen及其他由人工智慧生成的「幽靈」列為作者。許多論文甚至有真實的數位物件識別碼(Digital Object Identifier, DOI),這意味著它們可能被彙整學術紀錄的資料庫和搜尋引擎收錄。有些「幽靈」甚至以「合作者」的身分出現在同一篇論文中,而這些論文的成員來自多個LLM模型。

紐西蘭達尼丁奧塔哥大學的計算語言學家Sidney Wong表示,儘管有跡象顯示,自這該研究發表以來,相關問題已有所改善,但研究結果仍揭露了一個令人害怕的現實:有多少不法人士正利用AI捏造虛假專家。

部分平台受到這些虛假專家的影響,比其他平台更為嚴重。例如,位於瑞士日內瓦附近歐洲粒子物理實驗室CERN營運的預印本平台 Zenodo,就深受其害。Brzozowski和Chung的分析發現,在3月和4月間,有兩本虛構的科學期刊將 1,655筆由「幽靈作者」署名的出版紀錄上傳至Zenodo。這些紀錄出現的時間,約在新版Claude Sonnet 4發布後七個月,而且每篇論文都被回溯標註為發表於 2020年至 2023年之間。

Brzozowski表示,無從得知這些紀錄為何被建立,也無法確定是誰所為。他說:「我們能確定的是,有人進行大規模的AI論文生成操作,連續60天每天大約產出25篇假論文。」

Chung和Brzozowski在論文中指出,他們的研究結果顯示,如今已有一套機制,讓使用者能夠大量製作看似真實、足以在某些平台上發表的假科學論文;而這些論文隨後可能被Google Scholar等學術資料庫收錄。

兩位作者尚未發現這些假論文對科學研究產生真正的影響。儘管研究發現,幽靈撰寫的論文會引用真實論文,但Chung和Brzozowski並未發現相反的情況,也就是尚未發現真實論文引用幽靈作者所撰寫的論文。

Brzozowski表示,要防止這類問題,關鍵在於保持警覺。他建議研究人員和期刊編輯,在引用出版品時,應先進行基本查核,例如將論文中的期刊資訊與 Crossref等其他典藏平台,或國際標準期刊號(ISSN)註冊系統交叉比對,以便迅速識別並排除假論文。

 

全文請見:https://www.nature.com/articles/d41586-026-02991-7#ref-CR1

上一則 | 回索引頁 |