(網(wǎng)經(jīng)社訊)導讀：你刷到的明星直播帶貨，可能從肖像到聲音全是AI偽造的。11月5日，抖音電商安全與信任中心交出了一份打擊AI仿冒名人帶貨的階段性成績單——短短一個月，處置違規(guī)帶貨賬號1.1萬個，違規(guī)商品超過6700個。這些數(shù)字背后，是一條基于AI技術的黑灰產(chǎn)鏈條，正在悄然侵蝕直播電商的信任根基。（詳見#網(wǎng)經(jīng)社 專題：http://www.99poke.cn/zt/dcawzs/）
出品｜網(wǎng)經(jīng)社
作者｜可樂
審稿｜云馬
配圖｜網(wǎng)經(jīng)社圖庫
一、AI盜播泛濫
“我該怎么證明我是我？”演員溫崢嶸在抖音直播間無奈地發(fā)問。今年4月，她深夜拍戲回家后，居然在手機上看到“自己”正在熱情洋溢地直播帶貨。當她進入直播間質(zhì)問對方時，換來的卻是被拉黑的結(jié)局。這樣的荒唐事，正每天在各大直播平臺上演。
11月6日，針對近期“演員溫崢嶸被AI盜播帶貨”事件，抖音集團副總裁李亮發(fā)文回應稱，經(jīng)核查，“三個直播間同時開播”案例并非發(fā)生在抖音平臺。但他同時指出，平臺確實存在利用AI技術仿冒名人進行帶貨的違規(guī)內(nèi)容。
李亮表示，這類AI侵權仿冒行為嚴重損害各方信譽，平臺已開展專項治理，嚴禁使用AI技術仿冒他人身份進行營銷。據(jù)悉，抖音電商安全中心9月2日已發(fā)布公告，強調(diào)將嚴厲打擊AI內(nèi)容濫用行為，對違規(guī)視頻和賬號采取下架、清退等措施。
目前平臺發(fā)現(xiàn)的主要違規(guī)形式包括：利用AI生成虛假商品展示、冒充專家名人進行帶貨、編造虛構(gòu)測評誤導消費者等。抖音方面承諾將持續(xù)加大技術投入，維護創(chuàng)作者、商家和消費者的合法權益。
抖音電商近期公布的典型案例顯示，溫崢嶸、董宇輝、李玫瑾、羅永浩等名人都成了被仿冒的重災區(qū)。中國商業(yè)聯(lián)合會直播電商工作委員會副會長、網(wǎng)經(jīng)社電子商務研究中心主任曹磊指出，10月31日，“硅基智能”提交上市申請，越來越多的“硅基勞動力”將面世，除直播帶貨外，也將應用到各行各業(yè)。AI數(shù)字人播已是直播市場新型主播發(fā)展的重要方向之一，但數(shù)字人對替代真人主播非黃金時段起到了輔助作用，但還不能完全替代真人主播。至于這種仿冒的AI盜播，是嚴重影響直播帶貨營商環(huán)境的。
網(wǎng)經(jīng)社電子商務研究中心特約研究員、上海漢盛律師事務所高級合伙人李旻從法律角度分析到，AI盜播的商家未經(jīng)過溫崢嶸的同意，使用溫崢嶸的形象直播、帶貨，違反了《中華人民共和國民法典》（以下簡稱《民法典》）第一千零一十九條，侵犯了溫崢嶸的肖像權。如果盜播帶貨時，還明確以溫崢嶸的名義進行，則違反《民法典》第一千零一十四條和《中華人民共和國反不正當競爭法》第七條，侵犯了溫崢嶸的姓名權，且存在不正當競爭行為。此外，如果帶貨商品出現(xiàn)質(zhì)量問題或虛假宣傳等引發(fā)消費者投訴，由于直接使用了溫崢嶸的形象、姓名等，消費者可能誤將責任歸咎于溫崢嶸，這將違反《民法典》第一千零二十四條，侵犯了溫崢嶸的名譽權。
AI盜播的這種誤導消費者的行為還涉嫌違反《中華人民共和國廣告法》第四條。如商家存在欺詐行為，且違反了《中華人民共和國消費者權益保護法》第五十五條，消費者可以要求三倍賠償。上述行為情節(jié)嚴重的，可能還會觸犯《中華人民共和國刑法》的虛假廣告罪、詐騙罪等，最高可能判處無期徒刑。李旻補充到。
二、電商平臺該出手
面對肆虐的AI盜播，平臺終于出手整頓。11月5日，抖音電商發(fā)布名人仿冒治理專項階段性進展。自10月啟動以來，平臺已處置1.1萬個違規(guī)帶貨賬號、6700多個違規(guī)商品，重點整治未經(jīng)授權的商家和達人利用AI或特效仿冒名人進行帶貨營銷。
曹磊表示，關于電商平臺是否應該在AI盜播中承擔責任，要依據(jù)兩大原則。一是“避風港原則”，這是平臺的“安全盾牌”，指平臺在接到侵權通知后，只要及時刪除侵權內(nèi)容，即可不承擔責任。這源于網(wǎng)絡信息海量，平臺難以事前全面審查。
二是“紅旗原則”，這是懸在平臺頭上的“達摩克利斯之劍”。它指當侵權行為非常明顯，像一面紅旗一樣公然飄揚時，法律就推定平臺應該知道這些侵權行為。此時，平臺不能假裝看不見，必須主動采取行動。
李旻稱，依照《民法典》第一千一百九十五條，電商平臺存在“通知——刪除”義務，在收到有關直播間的侵權通知后，電商平臺應當及時采取措施，阻止侵權行為。如果未能夠及時關停直播間防止損害擴大，對于損害的擴大部分，電商平臺也要承擔連帶責任。同時平臺對出現(xiàn)了名人等的直播，應當進行巡查以盡到合理注意義務，否則可能因違反《民法典》第一千一百九十七條而承擔連帶責任。而盜播直播間作為直接侵權人，應當根據(jù)《民法典》等法律規(guī)定，停止侵權行為，消除對溫崢嶸的不利影響，賠禮道歉并主動澄清以有效地恢復其名譽。
三、AI治理需多方合力
整個AI治理行業(yè)內(nèi)，監(jiān)管側(cè)與平臺側(cè)的治理舉措，與黑灰產(chǎn)案例長期博弈。
網(wǎng)經(jīng)社電子商務研究中心特約研究員、上海正策律師事務所律師董毅智指出，多方協(xié)同治理是應對AI盜播帶貨的關鍵。首先，監(jiān)管部門需完善規(guī)則與加強執(zhí)法。進一步細化直播帶貨規(guī)則，明確AI盜播行為的法律定性和處罰標準，為監(jiān)管和執(zhí)法提供清晰依據(jù)。建立網(wǎng)信、市場監(jiān)管、版權等多部門的協(xié)同治理機制，針對盜播產(chǎn)業(yè)鏈開展專項打擊行動。鼓勵或要求平臺采用數(shù)字水印、區(qū)塊鏈等技術進行內(nèi)容存證與溯源，提高侵權行為的追蹤和定責效率。
其次，電商平臺需強化技術防控與流程優(yōu)化。投入研發(fā)AI實時監(jiān)測系統(tǒng)，提升對換臉、鏡像翻轉(zhuǎn)等規(guī)避技術的識別能力。建立“正版內(nèi)容庫”，通過數(shù)字水印等技術進行版權保護。嚴格執(zhí)行賬號實名制，建立盜播黑名單和“一號盜播，全平臺禁播”等聯(lián)動懲戒機制。優(yōu)化侵權投訴渠道，簡化舉證流程，加快處理速度。加強內(nèi)容標識：嚴格落實《人工智能生成合成內(nèi)容標識辦法》，確保所有AI生成內(nèi)容均有顯著標識。
最后是公眾人物與消費者需要提升意識與積極維權。公眾人物應提高個人信息保護意識，謹慎在公開平臺分享過多高清面部影像和原始聲音樣本。發(fā)現(xiàn)侵權后，及時通過錄屏、區(qū)塊鏈存證等方式固定證據(jù)，并依據(jù)平臺投訴、行政舉報、民事訴訟等途徑維權。消費者在觀看直播時，注意甄別。主播是否與觀眾實時互動是判斷真?zhèn)蔚闹匾罁?jù)，AI盜播通常無法有效互動。對畫質(zhì)模糊、口型對不上、商品價格異常低廉的直播間保持警惕。一旦因AI盜播帶貨購買到劣質(zhì)商品，可依據(jù)《消費者權益保護法》向商家主張“退一賠三”。
（網(wǎng)經(jīng)社電子商務研究中心特約研究員、上海正策律師事務所律師董毅智）
無獨有偶，李旻表示，從監(jiān)管部門的角度來說，針對如今發(fā)展愈發(fā)迅速的AI技術，應當推動相關立法，明確各方主體的權利和義務。雖然現(xiàn)在《人工智能生成合成內(nèi)容標識辦法》已經(jīng)對AI生成內(nèi)容作出了要求，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，但是在現(xiàn)實執(zhí)行上還存在著技術手段等方面的諸多不完善。在執(zhí)法上，監(jiān)管部門應當加大執(zhí)法力度，以重點打擊這種違法現(xiàn)象。
電商平臺作為提供者，也應當盡到相應的監(jiān)管義務，作為最直接、第一線的監(jiān)管者，應當做到事前全面審查、事中有效監(jiān)督以及事后及時彌補。平臺應當事前通過對名人信息進行核驗，事中使用技術手段監(jiān)管，事后有效地配合當事人解決問題、化解糾紛。AI技術的發(fā)展，也為現(xiàn)有法律帶來了不小的沖擊，需要平臺作為行業(yè)領頭人配合政府監(jiān)管部門一同守護好人民的合法權益不受損害。李旻補充到。
（網(wǎng)經(jīng)社電子商務研究中心特約研究員、上海漢盛律師事務所高級合伙人李旻）
曹磊闡述，除抖音平臺外，快手、視頻號、京東直播、小紅書直播等也有涉及AI直播，需加強監(jiān)測盜播現(xiàn)象。除了電商平臺之外，MCN機構(gòu)也應該加強監(jiān)管，目前，謙尋已推出AI數(shù)字人直播業(yè)務，可以實現(xiàn)24小時不間斷直播；愿景未來則自主研發(fā)了"達人畫像系統(tǒng)"用于智能選品，并提供"AI短視頻創(chuàng)作"工具一鍵生成帶貨視頻。
當AI盜播能夠以30元的成本在二手平臺購買，當仿冒賬號如野草般燒不盡吹又生，我們不得不承認：單靠平臺封號或名人自救，遠遠無法遏制這場技術濫用的洪流。
【小貼士】
網(wǎng)經(jīng)社深耕數(shù)字經(jīng)濟行業(yè)18年，長期關注直播電商，旗下直播電商臺（DR.100EC.CN）重點報道、研究與服務的有：1.平臺類：淘寶直播、多多直播、京東直播、抖音電商、快手電商、蘇寧直播、蘑菇街直播、唯品會直播、小紅書直播、嗶哩嗶哩、視頻號；2.MCN類：謙尋文化、美腕、辛有志嚴選、遙望、交個朋友、無憂傳媒、東方甄選、與輝同行、如涵、泰洋川禾、蜂群文化、大禹網(wǎng)絡、青藤文化、宸帆、嘻柚互娛、構(gòu)美、快美、古麥嘉禾、二咖傳媒、熱度電商、集淘、洋蔥視頻、侵塵文化、乾派文化、仙梓文化、緹蘇、彥祖文化、君盟、白兔控股、愿景未來、優(yōu)蜜、全尚文化、銳趣文化、三只羊網(wǎng)絡、奇東傳媒、麥芽傳媒、奇光傳媒；3.服務商類：有贊、微盟、魔筷科技、蚊子會、小鵝通、商派、大商創(chuàng)、紅唄、米絡星傳媒、眾燦互動、?銀河眾星、巨鯨幫幫、云犀直播、影行天下、索象、微贊直播、微吼直播、有播、優(yōu)大人、蟬媽媽、飛瓜數(shù)據(jù)；4.電商主播類：李佳琦、蛋蛋、辛巴、羅永浩、董宇輝、時大漂亮、廣東夫婦、瘋狂小楊哥、太原老葛、蜜蜂驚喜社、香菇來了、瑜大公子、賈乃亮、董先生、陳潔kiki、烈兒寶貝、劉媛媛、高芋芋、多余和毛毛姐、小小101、麥小登、老吳很帥、陳三廢姐弟、國岳、彩虹夫婦、黃宥明、駱王宇、郝劭文、李宣卓、董潔；5.生活服務電商類：美團 攜程。
網(wǎng)經(jīng)社直播電商臺（LIVE.100EC.CN）是一站式直播電商門戶，旗下運營：行業(yè)資訊、行業(yè)研究、行業(yè)數(shù)據(jù)等系列頻道，提供包括：媒體、報告榜單、融資、會議、營銷、培訓、供應鏈融資等服務，是數(shù)字零售從業(yè)者、媒體、投資者的首選平臺。
