谷歌學術現涉人工智能研究論文，刪之或更糟

涉嫌使用人工智能的科學論文正在谷歌學術中出現，谷歌學術是最受歡迎的學術搜索引擎之一。

本月在哈佛肯尼迪學院的《錯誤信息評論》上發表的一項研究表示：“學術期刊、檔案和知識庫中明顯使用生成式人工智能生成的可疑研究論文數量越來越多。”

該研究稱：“它們通常藉助廣泛可用的通用人工智能應用程序創建而成，極有可能是 ChatGPT，並且模仿科學寫作。”

ChatGPT 是OpenAI開發的一款聊天機器人，於 2022 年推出。這款聊天機器人迅速走紅，用戶開始起草從鍛鍊計劃到飲食計劃的各種內容。Meta和谷歌等其他公司現在也有了自己競爭的大型語言模型。

研究人員通過分析從谷歌學術抽取的顯示存在 GPT 使用跡象的科學論文樣本，收集了相關數據。

具體而言，這些科學論文包含了被視作 ChatGPT 或類似程序常見回覆的短語，如“我無法獲取實時數據”和“截至我上次知識更新”。

從這個樣本當中，研究人員確定了 139 篇在谷歌學術上被列爲常規結果的“可疑”論文。

“這些由 GPT 編造的論文，大多出現在未編入索引的期刊和工作論文裡，但也有一些情況包括在主流科學期刊和會議論文集中發表的研究，”該研究表示。

依據該研究，許多研究論文涉及健康、計算和環境等具有爭議性的話題，而這些話題“容易出現虛假信息”。

研究人員雖承認這些論文或許會被刪除，卻警告稱，如此操作可能會助長陰謀論。

“正如新冠疫情期間所謂反疫苗運動的興起以及對氣候變化的持續阻撓和否認所表明，撤回錯誤出版物往往會助長陰謀，增加這些運動的追隨者，而非阻止它們，”該研究稱。

谷歌和 OpenAI 的代表未對《商業內幕》的置評請求作出迴應。

該研究還指明瞭使用 GPT 來創作“虛假的科學論文”這一“日益常見”的決定所帶來的兩大主要風險。

“首先，大量虛構的‘研究’滲透進研究基礎設施的各個領域，有可能讓學術交流系統難以承受重負，並危害到科學記錄的完整性，”該研究稱。

第二個風險涉及“看似科學的內容實際上是通過人工智能工具以欺騙手段創建的，並且被優化以便能被公開可用的學術搜索引擎（尤其是谷歌學術）檢索到的可能性增大。”

“無論這種可能性有多小，這種可能性以及對其的認知都有可能破壞對科學知識信任的根基，並帶來嚴重的社會風險，”該研究稱。