開發(fā)出聊天機(jī)器人ChatGPT的OpenAI正在打造一種工具,可檢測(cè)由AI生成的影像或照片,而且具有很高的精確度。
OpenAI技術(shù)長穆拉蒂17日表示,OpenAI的工具在判斷一張照片是否是利用AI生成可達(dá)到“99%的可靠”。她說,這項(xiàng)工具在計(jì)劃公開發(fā)布前正在進(jìn)行內(nèi)部測(cè)試,沒有具體時(shí)間表。
穆拉蒂是與OpenAI執(zhí)行長奧特曼參加華爾街日?qǐng)?bào)在加州拉古納海灘舉辦的Tech Live研討會(huì)時(shí)提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。
目前已經(jīng)存在幾種宣稱可檢測(cè)由AI生成影像或內(nèi)容的工具,但結(jié)果可能不精確。舉例來說,OpenAI在1月時(shí)推出一種類似的工具,號(hào)稱可以判斷哪些文字段落是由AI生成,然而在7月就已下架,原因是“不可靠”。
OpenAI表示,正努力改善這款軟件,并致力于開發(fā)能判斷由AI生成的音檔或圖檔的方式。
關(guān)于這類檢測(cè)AI生成內(nèi)容的工具需求正在增加,因?yàn)锳I工具可被用來對(duì)全球事件進(jìn)行操作或制造假新聞。Adobe的Firefly影像生成工具則因應(yīng)了另一方面的挑戰(zhàn),承諾不創(chuàng)造侵害創(chuàng)作者知識(shí)產(chǎn)權(quán)的內(nèi)容。