就在AI競爭白熱化的關鍵時期，BBC的最新研究公布：AI在回答新聞或時事類問題時會產生扭曲事實、不準確或誤導性內容。
BBC在2月發布的研究報告中表示，全球多家知名AI引擎（包括OpenAI的ChatGPT、微軟的Copilot、谷歌的Gemini和Perplexity AI）生成的新聞摘要均存在上述問題，無一幸免。
BBC公開了實驗過程，研究人員要求這些AI工具以BBC的文章為來源回答100個問題。然后，讓專門研究相關主題領域的BBC記者對答案進行評分。
結論是，大約五分之一的答案在數字、日期或陳述方面引入了事實錯誤，幾乎一半的回答被判定為“存在某種形式的重大問題”。
這些錯誤包括，里?！ぬK納克仍然是首相，尼古拉·斯特金仍然是蘇格蘭的首席大臣，以及伊斯梅爾·哈尼耶在伊朗被暗殺數月后成為哈馬斯領導層的一員等等。
關于產生這些錯誤的原理，研究人員的觀點是：“AI難以區分觀點和事實”。所以在實驗階段，AI才會多次將意見或過時的檔案誤認為是最新事實。
最后，BBC通過采集到的所有樣本對比，得出結論，“微軟Copilot和谷歌Gemini比OpenAI的ChatGPT和Perplexity存在更嚴重的問題。”當然，Apple Intelligence早在1月就已經翻車，該項研究也是在Apple多次生成虛假新聞摘要之后進行，所以對比中并沒有它。
事后，這些發現促使BBC的新聞首席執行官黛博拉·特內斯警告說：“這些AI工具正在玩火，很有可能破壞公眾對事實的信任。”
必須承認，BBC的研究對AI在「人文領域」的發展有很大幫助，此前關于AI的研究都停留在“理工科”領域，現在終于開始審視AI生成的內容準確性了。
在BBC的研究結果公布之后，OpenAI的發言人第一時間表示，他們尊重所有網絡媒體內容，如果有需要，網站可以使用robots.txt來管理OAI-SearchBot，拒絕AI使用該頁面。robots.txt是網頁代碼中的一條指令，它可以要求AI不要在搜索結果中使用該頁面。
無論如何，這項研究結果都將產生巨大的漣漪，尤其在AI創作領域更為明顯。但是，有些局限性似乎很難改善，比如如何用代碼來區分觀點和事實，畢竟連人類都難以區分二者。
相關文章
精彩導讀
熱門資訊
關注我們
