IT之家 4 月 1 日消息，上個月 ChatGPT 的 4o 模型迎來了新的原生圖像生成器，該生成器在圖像內(nèi)生成文本方面表現(xiàn)出色。然而，這一技術(shù)進步卻引發(fā)了新的問題。人們已經(jīng)開始利用它來生成假餐廳收據(jù)，這可能為欺詐者又添了一把利器。
社交媒體用戶、風險投資家德迪?達斯在 X 平臺上發(fā)布了一張他聲稱是用 4o 生成的舊金山一家真實牛排餐廳的假收據(jù)照片。隨后，其他人也成功復制出了類似的結(jié)果，甚至有人添加了食物或飲料污漬，讓收據(jù)看起來更加逼真。IT之家注意到，最逼真的例子之一來自法國，一名領(lǐng)英用戶發(fā)布了一張當?shù)夭惋嬤B鎖店的皺巴巴的 AI 生成收據(jù)。
TechCrunch 也對 4o 進行了測試，并成功生成了一張舊金山蘋果蜂餐廳的假收據(jù)。不過，他們的嘗試存在一些明顯的破綻，比如總金額使用了逗號而不是句號，而且數(shù)字加起來也不對，但欺詐者很容易通過照片編輯軟件或更精確的提示詞來快速修改。
顯而易見，如此輕松地生成假收據(jù)為欺詐行為帶來了巨大的機會。很容易想象，這種技術(shù)可能會被不法分子用來為完全虛構(gòu)的費用“報銷”。
OpenAI 發(fā)言人泰亞?克里斯琴森稱，他們所有的圖像都包含表明是由 ChatGPT 生成的元數(shù)據(jù)。克里斯琴森還表示，當用戶違反使用政策時，OpenAI 會采取行動，并且他們一直在從實際使用和反饋中學習。
當被問及 ChatGPT 為何允許人們生成假收據(jù)，以及這是否符合 OpenAI 禁止欺詐的使用政策時，克里斯琴森回應(yīng)稱，OpenAI 的“目標是盡可能給予用戶最大的創(chuàng)作自由”，并且假 AI 收據(jù)也可以用于非欺詐場景，比如“教導人們金融知識”，以及創(chuàng)作原創(chuàng)藝術(shù)作品和產(chǎn)品廣告。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。