IT之家 8 月 30 日消息,為了應(yīng)對(duì)日益增長(zhǎng)的 AI 生成圖像的問(wèn)題,谷歌 DeepMind 團(tuán)隊(duì)今日推出了一款名為 SynthID 的工具,可以在 AI 生成的圖像中嵌入人眼不可見(jiàn)的水印,但可以用專門的人工智能檢測(cè)工具檢測(cè)出來(lái),以便于區(qū)分真實(shí)和虛假的內(nèi)容。該工具已經(jīng)在谷歌云平臺(tái)上向部分客戶開(kāi)放。
SynthID 的原理是在圖像的像素中嵌入一個(gè)水印,但不會(huì)影響圖像本身的質(zhì)量和體驗(yàn)。該水印可以抵抗裁剪、縮放等常見(jiàn)的圖片編輯操作,只有專門的 AI 檢測(cè)工具才能識(shí)別出來(lái)。谷歌 DeepMind 的 CEO Demis Hassabis 表示,這種水印隨著 AI 模型的改進(jìn),會(huì)變得更加隱蔽和強(qiáng)大。
Hassabis 說(shuō),SynthID 是為了解決深度偽造(deepfake)等潛在危險(xiǎn)的問(wèn)題而開(kāi)發(fā)的。他認(rèn)為,在 2024 年美國(guó)和英國(guó)即將舉行大選的背景下,建立 AI 圖像識(shí)別系統(tǒng)是非常重要的。他還表示,SynthID 的基本思想也可以應(yīng)用于視頻和文本等其他媒體。
目前,SynthID 只能在谷歌云平臺(tái)上使用,主要針對(duì)使用 Vertex AI 平臺(tái)和 Imagen 圖像生成器的客戶。Hassabis 希望通過(guò)真實(shí)場(chǎng)景的測(cè)試,讓 SynthID 變得更好。然后,谷歌將把它用于更多地方,與更多合作伙伴分享,并提高公眾的意識(shí)和教育。
IT之家注意到,除了谷歌之外,還有許多其他公司也在致力于建立 AI 保護(hù)和安全系統(tǒng)。例如,Meta、OpenAI 等公司正在使用一種名為 C2PA 的協(xié)議,利用加密元數(shù)據(jù)來(lái)標(biāo)記 AI 生成的內(nèi)容。Hassabis 說(shuō),SynthID 可能會(huì)成為一個(gè)互聯(lián)網(wǎng)范圍內(nèi)的標(biāo)準(zhǔn)之一。但他也強(qiáng)調(diào),這只是一個(gè)初步嘗試,并不是解決深度偽造問(wèn)題的萬(wàn)能藥。他說(shuō),“在我們證明了技術(shù)基礎(chǔ)部分有效之前,考慮擴(kuò)展和社會(huì)討論還為時(shí)過(guò)早?!?/p>
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。