根據(jù)報(bào)道，OpenAI已經(jīng)開(kāi)發(fā)出一款能夠識(shí)別ChatGPT生成文本的工具，能夠通過(guò)文本水印檢測(cè)文章是否使用AI撰寫(xiě)，有了它學(xué)生再也無(wú)法使用ChatGPT寫(xiě)作業(yè)了，但OpenAI同時(shí)表示技術(shù)存在不足，所以遲遲不發(fā)布。
自從ChatGPT誕生后，不少人使用它寫(xiě)作業(yè)、撰寫(xiě)文案，這讓學(xué)校老師們非常頭疼。而OpenAI開(kāi)發(fā)出文本水印——這是一個(gè)文字中創(chuàng)建的不可見(jiàn)水印，但能被工具檢測(cè)出來(lái)，這樣就能判斷文章是否AI撰寫(xiě)。不過(guò)這一功能只能檢查文本是否ChatGPT撰寫(xiě)，對(duì)其它家大模型無(wú)效，而且面對(duì)翻譯、改寫(xiě)以及插入特殊字符修改后，檢查準(zhǔn)確性會(huì)有所下降，所以O(shè)penAI沒(méi)有這一技術(shù)投入使用。
其實(shí)OpenAI公司一直在加強(qiáng)對(duì)AI生成內(nèi)容的監(jiān)管，在今年初它在生成器DALL-E3生成圖像中的元數(shù)據(jù)添加了水印，水印由不可見(jiàn)的元數(shù)據(jù)以及可見(jiàn)CR符號(hào)組成，幫助人們識(shí)別圖像是否使用AI生成。
自從文生文、文生圖技術(shù)成熟后，AI防偽就成為了一大難題，為此Adobe、Microsoft等公司聯(lián)合C2PA技術(shù)，用于識(shí)別照片是否真實(shí)拍照的，越來(lái)越多社交媒體會(huì)在識(shí)別到照片是AI生成時(shí)加上標(biāo)注。但是道高一尺魔高一丈，正如OpenAI所說(shuō)只要在文本上小小調(diào)整一下，就很難識(shí)別出是否AI生成，要阻止學(xué)生AI寫(xiě)作業(yè)依然非常有難度。而在圖片方面，C2PA技術(shù)普及速度慢，而且OpenAI也說(shuō)即使在圖片中加了水印，也容易抹去，恐怕日后互聯(lián)網(wǎng)上內(nèi)容越來(lái)越難分辨真?zhèn)巍?/p>
相關(guān)文章
精彩導(dǎo)讀
熱門(mén)資訊
關(guān)注我們
