(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺突發(fā)大規(guī)模內(nèi)容安全事件，多個直播間短時間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時，引發(fā)廣泛關(guān)注（詳見網(wǎng)經(jīng)社專題：http://www.99poke.cn/zt/kszhhcgj/ ）。
快手事件并非孤例，而是直播行業(yè)面臨的共性問題的一個極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺都曾陷入類似爭議。
據(jù)網(wǎng)經(jīng)社（www.99poke.cn）不完全統(tǒng)計，近幾年來涉黃的平臺還包括美柚、寶寶樹、東郊到家、蜻蜓FM、餓了么、美術(shù)寶、新氧醫(yī)美、閑魚、小猿搜題、百度作業(yè)、百度地圖、花椒直播、貼吧、嘿秀、斗魚、大眾點評、新浪、貓撲開心網(wǎng)、百度搜圖、盛大、搜狐、土豆、泡泡網(wǎng)、360、時光網(wǎng)、籬笆網(wǎng)、谷歌等。
對此，知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤接受數(shù)字經(jīng)濟新媒體&智庫——#網(wǎng)經(jīng)社 獨家專訪。
郭濤稱，快手在應(yīng)急響應(yīng)方面暴露出了核心問題：一是預(yù)警機制存在盲區(qū)，對“業(yè)務(wù)合法掩護下的批量違規(guī)”缺乏精準(zhǔn)識別能力，AI模型未及時捕捉短時間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，依賴用戶舉報導(dǎo)致預(yù)警滯后；
二是應(yīng)急流程銜接低效，未建立針對規(guī)?；舻娜蹟鄼C制，人工審核與賬號封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，出現(xiàn)“封禁不及新增”的被動局面；
三是資源調(diào)度缺乏彈性，面對黑灰產(chǎn)的飽和式攻擊，后臺系統(tǒng)未觸發(fā)自動擴容或限流預(yù)案，審核人力與技術(shù)資源無法快速響應(yīng)峰值需求；
四是預(yù)案針對性不足，現(xiàn)有應(yīng)急方案更適配單點違規(guī)，對多賬號協(xié)同、接口漏洞利用等新型攻擊缺乏預(yù)設(shè)處置流程，導(dǎo)致決策與執(zhí)行耗時過長。
郭濤還表示，平臺技術(shù)層面需構(gòu)建“事前防御-事中攔截-事后溯源”全鏈條體系，升級AI審核模型并專項訓(xùn)練批量違規(guī)、接口漏洞攻擊等場景識別能力，同時強化直播推流接口的權(quán)限校驗與異常監(jiān)測，封堵業(yè)務(wù)邏輯漏洞。機制層面應(yīng)建立跨部門應(yīng)急專班，明確違規(guī)閾值觸發(fā)后的自動熔斷流程，如暫停高風(fēng)險賬號段開播、限制異常推流行為，實現(xiàn)“秒級響應(yīng)、分鐘級處置”。協(xié)同層面聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)數(shù)據(jù)庫，共享違規(guī)賬號、設(shè)備指紋等特征信息，推動跨平臺聯(lián)防聯(lián)控。合規(guī)層面細化內(nèi)容分級標(biāo)準(zhǔn)與審核權(quán)責(zé)，定期開展攻防演練，模擬新型攻擊場景優(yōu)化防御策略，擺脫過度依賴人工復(fù)核的效率短板。
從行業(yè)層面看，此次事件折射出短視頻平臺“安全防護”與“規(guī)模擴張”的失衡，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”模式需向“智能預(yù)判+主動防御”升級，單純依賴事后處置已難應(yīng)對新型風(fēng)險；從用戶權(quán)益角度，違規(guī)內(nèi)容持續(xù)1小時傳播，暴露平臺對用戶體驗與信息安全的重視不足，需完善舉報反饋機制與用戶告知流程，降低不良內(nèi)容帶來的負面影響；從監(jiān)管趨勢而言，監(jiān)管部門對平臺主體責(zé)任的要求持續(xù)收緊，此類事件可能推動行業(yè)建立更嚴(yán)格的安全評估與應(yīng)急響應(yīng)標(biāo)準(zhǔn)；此外，平臺需平衡防御強度與用戶體驗，避免過度限流影響正常直播，通過技術(shù)優(yōu)化實現(xiàn)“精準(zhǔn)防控”與“生態(tài)友好”的雙贏。
專家介紹：郭濤，天使投資人、知名互聯(lián)網(wǎng)專家，在互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等領(lǐng)域擁有豐富的從業(yè)經(jīng)歷和商業(yè)咨詢經(jīng)驗，現(xiàn)擔(dān)任數(shù)十家政府、協(xié)會和智庫專家顧問，主持人工智能技術(shù)對就業(yè)市場的影響、人工智能技術(shù)在證券投資中的應(yīng)用、利用人工智能技術(shù)抗擊新冠肺炎疫情等研究課題與項目，提出“郭濤機器人發(fā)展七階段定律”，曾為近百家企業(yè)或政府有關(guān)部門提供“人工智能+”咨詢或整體解決方案，參與投資或孵化十余家科技類公司。
【小貼士】
國內(nèi)知名網(wǎng)絡(luò)消費糾紛調(diào)解平臺“電訴寶”（315.100EC.CN）運行10余年來，與全國近千家網(wǎng)絡(luò)消費平臺建立對接，影響1億+網(wǎng)絡(luò)消費用戶，新系統(tǒng)實現(xiàn)一鍵投訴、24h在線、自助維權(quán)、同步直達、實時處理、進度查詢、評價體系、法律求助、大數(shù)據(jù)分析等諸多功能。
目前，平臺“綠色通道”服務(wù)向廣大網(wǎng)絡(luò)消費平臺開放，平臺可自主申請入駐，實時受理、反饋和查詢用戶滿意度評價。為了更好地營造公開、透明、健康的網(wǎng)絡(luò)消費投訴環(huán)境，“電訴寶”公開版已正式上線，新增用戶投訴實時受理動態(tài)、月度平臺投訴量TOP10、熱點投訴地區(qū)、投訴榜（依據(jù)投訴量排行）等模塊，讓投訴過程透明化，一手掌握信息動態(tài)。
