(網(wǎng)經(jīng)社訊)導(dǎo)讀：你刷到的明星直播帶貨，可能從肖像到聲音全是AI偽造的。11月5日，抖音電商安全與信任中心交出了一份打擊AI仿冒名人帶貨的階段性成績單——短短一個(gè)月，處置違規(guī)帶貨賬號(hào)1.1萬個(gè)，違規(guī)商品超過6700個(gè)。這些數(shù)字背后，是一條基于AI技術(shù)的黑灰產(chǎn)鏈條，正在悄然侵蝕直播電商的信任根基。（詳見#網(wǎng)經(jīng)社 專題：http://www.99poke.cn/zt/dcawzs/）
出品｜網(wǎng)經(jīng)社
作者｜可樂
審稿｜云馬
配圖｜網(wǎng)經(jīng)社圖庫
一、AI盜播泛濫
“我該怎么證明我是我？”演員溫崢嶸在抖音直播間無奈地發(fā)問。今年4月，她深夜拍戲回家后，居然在手機(jī)上看到“自己”正在熱情洋溢地直播帶貨。當(dāng)她進(jìn)入直播間質(zhì)問對(duì)方時(shí)，換來的卻是被拉黑的結(jié)局。這樣的荒唐事，正每天在各大直播平臺(tái)上演。
11月6日，針對(duì)近期“演員溫崢嶸被AI盜播帶貨”事件，抖音集團(tuán)副總裁李亮發(fā)文回應(yīng)稱，經(jīng)核查，“三個(gè)直播間同時(shí)開播”案例并非發(fā)生在抖音平臺(tái)。但他同時(shí)指出，平臺(tái)確實(shí)存在利用AI技術(shù)仿冒名人進(jìn)行帶貨的違規(guī)內(nèi)容。
李亮表示，這類AI侵權(quán)仿冒行為嚴(yán)重?fù)p害各方信譽(yù)，平臺(tái)已開展專項(xiàng)治理，嚴(yán)禁使用AI技術(shù)仿冒他人身份進(jìn)行營銷。據(jù)悉，抖音電商安全中心9月2日已發(fā)布公告，強(qiáng)調(diào)將嚴(yán)厲打擊AI內(nèi)容濫用行為，對(duì)違規(guī)視頻和賬號(hào)采取下架、清退等措施。
目前平臺(tái)發(fā)現(xiàn)的主要違規(guī)形式包括：利用AI生成虛假商品展示、冒充專家名人進(jìn)行帶貨、編造虛構(gòu)測評(píng)誤導(dǎo)消費(fèi)者等。抖音方面承諾將持續(xù)加大技術(shù)投入，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。
抖音電商近期公布的典型案例顯示，溫崢嶸、董宇輝、李玫瑾、羅永浩等名人都成了被仿冒的重災(zāi)區(qū)。中國商業(yè)聯(lián)合會(huì)直播電商工作委員會(huì)副會(huì)長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊指出，10月31日，“硅基智能”提交上市申請(qǐng)，越來越多的“硅基勞動(dòng)力”將面世，除直播帶貨外，也將應(yīng)用到各行各業(yè)。AI數(shù)字人播已是直播市場新型主播發(fā)展的重要方向之一，但數(shù)字人對(duì)替代真人主播非黃金時(shí)段起到了輔助作用，但還不能完全替代真人主播。至于這種仿冒的AI盜播，是嚴(yán)重影響直播帶貨營商環(huán)境的。
網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海漢盛律師事務(wù)所高級(jí)合伙人李旻從法律角度分析到，AI盜播的商家未經(jīng)過溫崢嶸的同意，使用溫崢嶸的形象直播、帶貨，違反了《中華人民共和國民法典》（以下簡稱《民法典》）第一千零一十九條，侵犯了溫崢嶸的肖像權(quán)。如果盜播帶貨時(shí)，還明確以溫崢嶸的名義進(jìn)行，則違反《民法典》第一千零一十四條和《中華人民共和國反不正當(dāng)競爭法》第七條，侵犯了溫崢嶸的姓名權(quán)，且存在不正當(dāng)競爭行為。此外，如果帶貨商品出現(xiàn)質(zhì)量問題或虛假宣傳等引發(fā)消費(fèi)者投訴，由于直接使用了溫崢嶸的形象、姓名等，消費(fèi)者可能誤將責(zé)任歸咎于溫崢嶸，這將違反《民法典》第一千零二十四條，侵犯了溫崢嶸的名譽(yù)權(quán)。
AI盜播的這種誤導(dǎo)消費(fèi)者的行為還涉嫌違反《中華人民共和國廣告法》第四條。如商家存在欺詐行為，且違反了《中華人民共和國消費(fèi)者權(quán)益保護(hù)法》第五十五條，消費(fèi)者可以要求三倍賠償。上述行為情節(jié)嚴(yán)重的，可能還會(huì)觸犯《中華人民共和國刑法》的虛假廣告罪、詐騙罪等，最高可能判處無期徒刑。李旻補(bǔ)充到。
二、電商平臺(tái)該出手
面對(duì)肆虐的AI盜播，平臺(tái)終于出手整頓。11月5日，抖音電商發(fā)布名人仿冒治理專項(xiàng)階段性進(jìn)展。自10月啟動(dòng)以來，平臺(tái)已處置1.1萬個(gè)違規(guī)帶貨賬號(hào)、6700多個(gè)違規(guī)商品，重點(diǎn)整治未經(jīng)授權(quán)的商家和達(dá)人利用AI或特效仿冒名人進(jìn)行帶貨營銷。
曹磊表示，關(guān)于電商平臺(tái)是否應(yīng)該在AI盜播中承擔(dān)責(zé)任，要依據(jù)兩大原則。一是“避風(fēng)港原則”，這是平臺(tái)的“安全盾牌”，指平臺(tái)在接到侵權(quán)通知后，只要及時(shí)刪除侵權(quán)內(nèi)容，即可不承擔(dān)責(zé)任。這源于網(wǎng)絡(luò)信息海量，平臺(tái)難以事前全面審查。
二是“紅旗原則”，這是懸在平臺(tái)頭上的“達(dá)摩克利斯之劍”。它指當(dāng)侵權(quán)行為非常明顯，像一面紅旗一樣公然飄揚(yáng)時(shí)，法律就推定平臺(tái)應(yīng)該知道這些侵權(quán)行為。此時(shí)，平臺(tái)不能假裝看不見，必須主動(dòng)采取行動(dòng)。
李旻稱，依照《民法典》第一千一百九十五條，電商平臺(tái)存在“通知——?jiǎng)h除”義務(wù)，在收到有關(guān)直播間的侵權(quán)通知后，電商平臺(tái)應(yīng)當(dāng)及時(shí)采取措施，阻止侵權(quán)行為。如果未能夠及時(shí)關(guān)停直播間防止損害擴(kuò)大，對(duì)于損害的擴(kuò)大部分，電商平臺(tái)也要承擔(dān)連帶責(zé)任。同時(shí)平臺(tái)對(duì)出現(xiàn)了名人等的直播，應(yīng)當(dāng)進(jìn)行巡查以盡到合理注意義務(wù)，否則可能因違反《民法典》第一千一百九十七條而承擔(dān)連帶責(zé)任。而盜播直播間作為直接侵權(quán)人，應(yīng)當(dāng)根據(jù)《民法典》等法律規(guī)定，停止侵權(quán)行為，消除對(duì)溫崢嶸的不利影響，賠禮道歉并主動(dòng)澄清以有效地恢復(fù)其名譽(yù)。
三、AI治理需多方合力
整個(gè)AI治理行業(yè)內(nèi)，監(jiān)管側(cè)與平臺(tái)側(cè)的治理舉措，與黑灰產(chǎn)案例長期博弈。
網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海正策律師事務(wù)所律師董毅智指出，多方協(xié)同治理是應(yīng)對(duì)AI盜播帶貨的關(guān)鍵。首先，監(jiān)管部門需完善規(guī)則與加強(qiáng)執(zhí)法。進(jìn)一步細(xì)化直播帶貨規(guī)則，明確AI盜播行為的法律定性和處罰標(biāo)準(zhǔn)，為監(jiān)管和執(zhí)法提供清晰依據(jù)。建立網(wǎng)信、市場監(jiān)管、版權(quán)等多部門的協(xié)同治理機(jī)制，針對(duì)盜播產(chǎn)業(yè)鏈開展專項(xiàng)打擊行動(dòng)。鼓勵(lì)或要求平臺(tái)采用數(shù)字水印、區(qū)塊鏈等技術(shù)進(jìn)行內(nèi)容存證與溯源，提高侵權(quán)行為的追蹤和定責(zé)效率。
其次，電商平臺(tái)需強(qiáng)化技術(shù)防控與流程優(yōu)化。投入研發(fā)AI實(shí)時(shí)監(jiān)測系統(tǒng)，提升對(duì)換臉、鏡像翻轉(zhuǎn)等規(guī)避技術(shù)的識(shí)別能力。建立“正版內(nèi)容庫”，通過數(shù)字水印等技術(shù)進(jìn)行版權(quán)保護(hù)。嚴(yán)格執(zhí)行賬號(hào)實(shí)名制，建立盜播黑名單和“一號(hào)盜播，全平臺(tái)禁播”等聯(lián)動(dòng)懲戒機(jī)制。優(yōu)化侵權(quán)投訴渠道，簡化舉證流程，加快處理速度。加強(qiáng)內(nèi)容標(biāo)識(shí)：嚴(yán)格落實(shí)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，確保所有AI生成內(nèi)容均有顯著標(biāo)識(shí)。
最后是公眾人物與消費(fèi)者需要提升意識(shí)與積極維權(quán)。公眾人物應(yīng)提高個(gè)人信息保護(hù)意識(shí)，謹(jǐn)慎在公開平臺(tái)分享過多高清面部影像和原始聲音樣本。發(fā)現(xiàn)侵權(quán)后，及時(shí)通過錄屏、區(qū)塊鏈存證等方式固定證據(jù)，并依據(jù)平臺(tái)投訴、行政舉報(bào)、民事訴訟等途徑維權(quán)。消費(fèi)者在觀看直播時(shí)，注意甄別。主播是否與觀眾實(shí)時(shí)互動(dòng)是判斷真?zhèn)蔚闹匾罁?jù)，AI盜播通常無法有效互動(dòng)。對(duì)畫質(zhì)模糊、口型對(duì)不上、商品價(jià)格異常低廉的直播間保持警惕。一旦因AI盜播帶貨購買到劣質(zhì)商品，可依據(jù)《消費(fèi)者權(quán)益保護(hù)法》向商家主張“退一賠三”。
（網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海正策律師事務(wù)所律師董毅智）
無獨(dú)有偶，李旻表示，從監(jiān)管部門的角度來說，針對(duì)如今發(fā)展愈發(fā)迅速的AI技術(shù)，應(yīng)當(dāng)推動(dòng)相關(guān)立法，明確各方主體的權(quán)利和義務(wù)。雖然現(xiàn)在《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已經(jīng)對(duì)AI生成內(nèi)容作出了要求，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，但是在現(xiàn)實(shí)執(zhí)行上還存在著技術(shù)手段等方面的諸多不完善。在執(zhí)法上，監(jiān)管部門應(yīng)當(dāng)加大執(zhí)法力度，以重點(diǎn)打擊這種違法現(xiàn)象。
電商平臺(tái)作為提供者，也應(yīng)當(dāng)盡到相應(yīng)的監(jiān)管義務(wù)，作為最直接、第一線的監(jiān)管者，應(yīng)當(dāng)做到事前全面審查、事中有效監(jiān)督以及事后及時(shí)彌補(bǔ)。平臺(tái)應(yīng)當(dāng)事前通過對(duì)名人信息進(jìn)行核驗(yàn)，事中使用技術(shù)手段監(jiān)管，事后有效地配合當(dāng)事人解決問題、化解糾紛。AI技術(shù)的發(fā)展，也為現(xiàn)有法律帶來了不小的沖擊，需要平臺(tái)作為行業(yè)領(lǐng)頭人配合政府監(jiān)管部門一同守護(hù)好人民的合法權(quán)益不受損害。李旻補(bǔ)充到。
（網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海漢盛律師事務(wù)所高級(jí)合伙人李旻）
曹磊闡述，除抖音平臺(tái)外，快手、視頻號(hào)、京東直播、小紅書直播等也有涉及AI直播，需加強(qiáng)監(jiān)測盜播現(xiàn)象。除了電商平臺(tái)之外，MCN機(jī)構(gòu)也應(yīng)該加強(qiáng)監(jiān)管，目前，謙尋已推出AI數(shù)字人直播業(yè)務(wù)，可以實(shí)現(xiàn)24小時(shí)不間斷直播；愿景未來則自主研發(fā)了"達(dá)人畫像系統(tǒng)"用于智能選品，并提供"AI短視頻創(chuàng)作"工具一鍵生成帶貨視頻。
當(dāng)AI盜播能夠以30元的成本在二手平臺(tái)購買，當(dāng)仿冒賬號(hào)如野草般燒不盡吹又生，我們不得不承認(rèn)：單靠平臺(tái)封號(hào)或名人自救，遠(yuǎn)遠(yuǎn)無法遏制這場技術(shù)濫用的洪流。
【小貼士】
網(wǎng)經(jīng)社深耕數(shù)字經(jīng)濟(jì)行業(yè)18年，長期關(guān)注直播電商，旗下直播電商臺(tái)（DR.100EC.CN）重點(diǎn)報(bào)道、研究與服務(wù)的有：1.平臺(tái)類：淘寶直播、多多直播、京東直播、抖音電商、快手電商、蘇寧直播、蘑菇街直播、唯品會(huì)直播、小紅書直播、嗶哩嗶哩、視頻號(hào)；2.MCN類：謙尋文化、美腕、辛有志嚴(yán)選、遙望、交個(gè)朋友、無憂傳媒、東方甄選、與輝同行、如涵、泰洋川禾、蜂群文化、大禹網(wǎng)絡(luò)、青藤文化、宸帆、嘻柚互娛、構(gòu)美、快美、古麥嘉禾、二咖傳媒、熱度電商、集淘、洋蔥視頻、侵塵文化、乾派文化、仙梓文化、緹蘇、彥祖文化、君盟、白兔控股、愿景未來、優(yōu)蜜、全尚文化、銳趣文化、三只羊網(wǎng)絡(luò)、奇東傳媒、麥芽傳媒、奇光傳媒；3.服務(wù)商類：有贊、微盟、魔筷科技、蚊子會(huì)、小鵝通、商派、大商創(chuàng)、紅唄、米絡(luò)星傳媒、眾燦互動(dòng)、?銀河眾星、巨鯨幫幫、云犀直播、影行天下、索象、微贊直播、微吼直播、有播、優(yōu)大人、蟬媽媽、飛瓜數(shù)據(jù)；4.電商主播類：李佳琦、蛋蛋、辛巴、羅永浩、董宇輝、時(shí)大漂亮、廣東夫婦、瘋狂小楊哥、太原老葛、蜜蜂驚喜社、香菇來了、瑜大公子、賈乃亮、董先生、陳潔kiki、烈兒寶貝、劉媛媛、高芋芋、多余和毛毛姐、小小101、麥小登、老吳很帥、陳三廢姐弟、國岳、彩虹夫婦、黃宥明、駱王宇、郝劭文、李宣卓、董潔；5.生活服務(wù)電商類：美團(tuán) 攜程。
網(wǎng)經(jīng)社直播電商臺(tái)（LIVE.100EC.CN）是一站式直播電商門戶，旗下運(yùn)營：行業(yè)資訊、行業(yè)研究、行業(yè)數(shù)據(jù)等系列頻道，提供包括：媒體、報(bào)告榜單、融資、會(huì)議、營銷、培訓(xùn)、供應(yīng)鏈融資等服務(wù)，是數(shù)字零售從業(yè)者、媒體、投資者的首選平臺(tái)。
