IT之家 12 月 23 日消息，近年來(lái)，人工智能（AI）技術(shù)的快速發(fā)展為社會(huì)帶來(lái)了諸多便利，但也伴隨著安全隱患。據(jù)IT之家了解，其中深度偽造技術(shù)就帶來(lái)了不小的隱患，其生成高度逼真但并非真實(shí)的視頻或圖像的能力，已經(jīng)引發(fā)了一系列社會(huì)問(wèn)題。
據(jù)央視新聞報(bào)道，今年以來(lái)，利用 AI 深度偽造假冒名人的案例層出不窮。例如，不久前就有不法分子通過(guò) AI 技術(shù)偽造張文宏醫(yī)生的面部和聲音，用于直播帶貨，賣(mài)出 1200 多件蛋白棒產(chǎn)品。
此外，名人劉德華和企業(yè)家雷軍也成為 AI 偽造的目標(biāo)。劉德華的聲音被惡意用于增加短視頻流量，其電影公司也多次發(fā)布聲明以警示公眾。
專(zhuān)家指出，目前的 AI 技術(shù)可以通過(guò)深度學(xué)習(xí)輕松克隆他人面部和聲音，甚至只需一張照片和一段語(yǔ)音樣本即可完成。然而，這種技術(shù)并非毫無(wú)破綻。例如，偽造視頻通常無(wú)法實(shí)時(shí)直播，同時(shí)在臉部輪廓和背景融合度等細(xì)節(jié)上存在缺陷。觀眾通過(guò)仔細(xì)觀察可發(fā)現(xiàn)破綻，尤其是在口型和語(yǔ)音匹配度方面。
專(zhuān)家表示，未經(jīng)授權(quán)使用他人形象或聲音屬于侵權(quán)行為，根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》，發(fā)布者可能面臨包括損害賠償和刑事責(zé)任在內(nèi)的處罰。同時(shí)，消費(fèi)者如因 AI 假冒名人帶貨受騙，可依據(jù)消費(fèi)者權(quán)益保護(hù)法要求“退一賠三”。
專(zhuān)家還呼吁短視頻平臺(tái)承擔(dān)主體責(zé)任，及時(shí)下架違規(guī)內(nèi)容，并對(duì)發(fā)布者采取信用管理和處罰措施。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。