(網(wǎng)經(jīng)社訊)近期，涉及多家汽車品牌的不雅視頻及圖片在網(wǎng)絡(luò)傳播，后被證實(shí)為利用人工智能（AI）技術(shù)生成的虛假內(nèi)容。小鵬汽車于2025年11月報(bào)警，警方查明相關(guān)“車展不雅視頻”系李某為炫耀技術(shù)利用AI合成，其已被行政拘留。此外，理想汽車、保時(shí)捷等品牌也曾遭遇類似攻擊，如偽造“車內(nèi)攝像頭泄露隱私”謠言或合成銷售人員的虛假不雅視頻。據(jù)蔚來汽車法務(wù)部透露，2025年上半年此類關(guān)聯(lián)攻擊對(duì)其品牌形象造成的損失評(píng)估超過28億元，并導(dǎo)致銷售額下降。
除企業(yè)外，個(gè)人受害案例也頻繁出現(xiàn)。有網(wǎng)紅指控自己的照片被惡意合成并出售，香港大學(xué)一名法律系學(xué)生亦被發(fā)現(xiàn)存有大量利用同學(xué)、老師照片生成的AI不雅圖像，此事曾引起香港特別行政區(qū)行政長(zhǎng)官李家超的關(guān)注。
據(jù)網(wǎng)經(jīng)社數(shù)字生活臺(tái)（DL.100EC.CN）了解，利用AI技術(shù)制作并傳播色情內(nèi)容已形成產(chǎn)業(yè)鏈。技術(shù)門檻降低使得制作成本極低，而通過境外網(wǎng)站、加密通訊工具進(jìn)行的分發(fā)則增加了監(jiān)管難度。該產(chǎn)業(yè)甚至滲透至交友軟件、互動(dòng)小說等應(yīng)用，通過AI聊天機(jī)器人進(jìn)行曖昧互動(dòng)牟利，部分軟件缺乏年齡限制機(jī)制，對(duì)未成年人造成危害。
在市場(chǎng)需求推動(dòng)下，AI驅(qū)動(dòng)的成人內(nèi)容市場(chǎng)規(guī)模持續(xù)增長(zhǎng)。與此同時(shí)，部分海外科技公司被指涉及相關(guān)內(nèi)容的訓(xùn)練或應(yīng)用。例如，Meta公司曾被兩家成人電影公司起訴，指控其擅自下載影片用于AI模型訓(xùn)練；其聊天機(jī)器人功能也曾被指允許用戶進(jìn)行涉及性暗示的角色扮演。馬斯克旗下xAI發(fā)布的Grok也因推出可進(jìn)行露骨對(duì)話的“AI伴侶”功能引發(fā)討論。
為應(yīng)對(duì)此類問題，國家網(wǎng)信辦已于2025年12月宣布將從嚴(yán)整治利用網(wǎng)絡(luò)傳播不實(shí)信息、詆毀企業(yè)等違法違規(guī)行為。報(bào)道認(rèn)為，防范AI技術(shù)濫用需從技術(shù)、法律與社會(huì)層面協(xié)同治理。
