IT之家 3 月 27 日消息，去年，抖音發(fā)布《關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》，明確平臺不鼓勵利用 AI 生成虛擬人物進(jìn)行低質(zhì)創(chuàng)作，將嚴(yán)格處罰違規(guī)使用 AI 生成虛擬人物發(fā)布違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。
抖音安全中心今日發(fā)布公告，近期平臺發(fā)現(xiàn)，站內(nèi)仍有不當(dāng)使用 AI 技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號，平臺進(jìn)行了嚴(yán)厲處置。
其中典型行為包括：
1、生成境外虛假人設(shè)，消費(fèi)愛國心理、博取關(guān)注。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。
2、生成俊男美女虛假形象，騙取互動，交友導(dǎo)流。直接稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達(dá)虛假情感的內(nèi)容，將用戶導(dǎo)流至私人聊天工具，甚至進(jìn)行詐騙。
3、生成精英人士虛假人設(shè)，發(fā)布心靈雞湯、財商、偽國學(xué)、厚黑學(xué)、偽成功學(xué)等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣課、入群等方式獲利。
針對違規(guī)使用 AI 生成虛擬人物的行為，平臺會對違規(guī)視頻下架，對違規(guī)賬號進(jìn)行取消其投稿和營利權(quán)限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術(shù)識別能力等手段，進(jìn)行長期系統(tǒng)的識別發(fā)現(xiàn)和處置。同時，平臺已掌握部分黑產(chǎn)團(tuán)伙不當(dāng)使用 AI 生成虛擬人物用于犯罪的線索，將報警打擊。
抖音官方表示，人工智能技術(shù)的快速發(fā)展，豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術(shù)濫用的挑戰(zhàn)。平臺重申，創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時，須遵循相關(guān)規(guī)范。IT之家整理如下：
1、發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場景。
2、發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無論內(nèi)容是如何生成的。
3、虛擬人需在平臺進(jìn)行注冊，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。
4、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，平臺將嚴(yán)格處罰。
5、禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)發(fā)現(xiàn)，平臺將嚴(yán)格處罰。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。