IT之家 8 月 22 日消息，谷歌上周發(fā)布了 Pixel 9 系列智能手機(jī)，其中包含一系列以人工智能為核心的新功能。所有 Pixel 9 手機(jī)均支持 Gemini 人工智能，谷歌還加入了基于人工智能的圖像生成和編輯工具。然而，評(píng)測(cè)人員測(cè)試了這些新功能后發(fā)現(xiàn)，人工智能圖像生成很可能會(huì)成為谷歌的公關(guān)噩夢(mèng)。
據(jù)IT之家了解，谷歌為 Pixel 手機(jī)推出了一個(gè)名為 Pixel Studio 的人工智能圖像生成應(yīng)用，其能夠通過文本提示創(chuàng)建貼紙和圖像，功能與蘋果計(jì)劃推出的 Image Playground 非常相似。目前，評(píng)測(cè)人員能夠使用 Pixel Studio 創(chuàng)建出各種令人不安的圖像，例如納粹版本的海綿寶寶和拿著 AK47 的艾摩。
來自 Digital Trends 的評(píng)測(cè)人員毫不費(fèi)力地讓 Pixel Studio 制作了卡通人物從事可疑活動(dòng)的圖像，槍支、毒品和酒精都能夠生成，甚至像校園槍擊這樣的冒犯性場(chǎng)景。Pixel Studio 不會(huì)主動(dòng)生成此類圖像，而是需要用戶輸入相應(yīng)的描述。然而這正是人們最有可能做的事情，而不是生成可愛貓咪和小兔子的圖像。
谷歌表示他們已經(jīng)采取了“安全檢查措施”來防止 Pixel Studio 被“惡意使用”，并且確實(shí)起到了一定作用。例如，Pixel Studio 目前無法生成人物圖像，并且谷歌正在根據(jù)評(píng)測(cè)反饋調(diào)整人工智能模型。經(jīng)過與谷歌的溝通后，Digital Trends 也無法再用 Pixel Studio 生成吸食可卡因或穿著德國(guó)士兵服裝的卡通人物圖像。
比 Pixel Studio 更令人擔(dān)憂的是谷歌的“重構(gòu)”（Reimagine）工具，其可以向用戶已經(jīng)拍攝的照片中添加對(duì)象。來自 The Verge 的評(píng)測(cè)人員用它向圖像添加了尸體、炸彈、毒品和災(zāi)難場(chǎng)景，并且這些添加物看起來非常逼真，讓人難以分辨圖片是否經(jīng)過編輯。谷歌在匹配光線和透視方面做得非常出色，社交媒體上也看不到任何水印或標(biāo)記。雖然谷歌確實(shí)添加了元數(shù)據(jù)標(biāo)簽，但通過截圖很容易將其去除。
The Verge 指出，以前也可以向圖像添加尸體或創(chuàng)建持槍的艾摩圖片，但這需要一定的 Photoshop 技能和時(shí)間。使用 Pixel 手機(jī)，只需幾秒鐘的思考，任何人都可以創(chuàng)建這樣的圖像，這讓人擔(dān)憂。
在給 The Verge 和 Digital Trends 的聲明中，谷歌表示他們?cè)O(shè)計(jì)生成式人工智能工具時(shí)，是“為了尊重用戶提示的意圖”，這可能會(huì)導(dǎo)致用戶要求生成“令人反感”的內(nèi)容。但谷歌聲稱其“服務(wù)條款”中規(guī)定了不允許生成的內(nèi)容，并且他們將不斷完善相關(guān)保障措施。
谷歌 Pixel 9 系列產(chǎn)品發(fā)布會(huì)專題
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。