(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺(tái)突發(fā)大規(guī)模內(nèi)容安全事件，多個(gè)直播間短時(shí)間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時(shí)，引發(fā)廣泛關(guān)注（詳見網(wǎng)經(jīng)社專題：http://www.99poke.cn/zt/kszhhcgj/ ）。
快手事件并非孤例，而是直播行業(yè)面臨的共性問題的一個(gè)極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺(tái)都曾陷入類似爭議。據(jù)網(wǎng)經(jīng)社不完全統(tǒng)計(jì)，近幾年來涉黃的平臺(tái)還包括美柚、寶寶樹、東郊到家、蜻蜓FM、餓了么、美術(shù)寶、新氧醫(yī)美、閑魚、小猿搜題、百度作業(yè)、百度地圖、花椒直播、貼吧、嘿秀、斗魚、大眾點(diǎn)評(píng)、新浪、貓撲開心網(wǎng)、百度搜圖、盛大、搜狐、土豆、移動(dòng)、泡泡網(wǎng)、360、時(shí)光網(wǎng)、籬笆網(wǎng)、谷歌等。
對(duì)此，知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤接受數(shù)字經(jīng)濟(jì)新媒體&智庫——#網(wǎng)經(jīng)社 獨(dú)家專訪。
郭濤稱，快手在應(yīng)急響應(yīng)方面暴露出了核心問題：一是預(yù)警機(jī)制存在盲區(qū)，對(duì)“業(yè)務(wù)合法掩護(hù)下的批量違規(guī)”缺乏精準(zhǔn)識(shí)別能力，AI模型未及時(shí)捕捉短時(shí)間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，依賴用戶舉報(bào)導(dǎo)致預(yù)警滯后；
二是應(yīng)急流程銜接低效，未建立針對(duì)規(guī)?；舻娜蹟鄼C(jī)制，人工審核與賬號(hào)封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，出現(xiàn)“封禁不及新增”的被動(dòng)局面；
三是資源調(diào)度缺乏彈性，面對(duì)黑灰產(chǎn)的飽和式攻擊，后臺(tái)系統(tǒng)未觸發(fā)自動(dòng)擴(kuò)容或限流預(yù)案，審核人力與技術(shù)資源無法快速響應(yīng)峰值需求；四是預(yù)案針對(duì)性不足，現(xiàn)有應(yīng)急方案更適配單點(diǎn)違規(guī)，對(duì)多賬號(hào)協(xié)同、接口漏洞利用等新型攻擊缺乏預(yù)設(shè)處置流程，導(dǎo)致決策與執(zhí)行耗時(shí)過長。
郭濤還表示，平臺(tái)技術(shù)層面需構(gòu)建“事前防御-事中攔截-事后溯源”全鏈條體系，升級(jí)AI審核模型并專項(xiàng)訓(xùn)練批量違規(guī)、接口漏洞攻擊等場景識(shí)別能力，同時(shí)強(qiáng)化直播推流接口的權(quán)限校驗(yàn)與異常監(jiān)測，封堵業(yè)務(wù)邏輯漏洞。機(jī)制層面應(yīng)建立跨部門應(yīng)急專班，明確違規(guī)閾值觸發(fā)后的自動(dòng)熔斷流程，如暫停高風(fēng)險(xiǎn)賬號(hào)段開播、限制異常推流行為，實(shí)現(xiàn)“秒級(jí)響應(yīng)、分鐘級(jí)處置”。協(xié)同層面聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)數(shù)據(jù)庫，共享違規(guī)賬號(hào)、設(shè)備指紋等特征信息，推動(dòng)跨平臺(tái)聯(lián)防聯(lián)控。合規(guī)層面細(xì)化內(nèi)容分級(jí)標(biāo)準(zhǔn)與審核權(quán)責(zé)，定期開展攻防演練，模擬新型攻擊場景優(yōu)化防御策略，擺脫過度依賴人工復(fù)核的效率短板。
從行業(yè)層面看，此次事件折射出短視頻平臺(tái)“安全防護(hù)”與“規(guī)模擴(kuò)張”的失衡，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”模式需向“智能預(yù)判+主動(dòng)防御”升級(jí)，單純依賴事后處置已難應(yīng)對(duì)新型風(fēng)險(xiǎn)；從用戶權(quán)益角度，違規(guī)內(nèi)容持續(xù)1小時(shí)傳播，暴露平臺(tái)對(duì)用戶體驗(yàn)與信息安全的重視不足，需完善舉報(bào)反饋機(jī)制與用戶告知流程，降低不良內(nèi)容帶來的負(fù)面影響；從監(jiān)管趨勢(shì)而言，監(jiān)管部門對(duì)平臺(tái)主體責(zé)任的要求持續(xù)收緊，此類事件可能推動(dòng)行業(yè)建立更嚴(yán)格的安全評(píng)估與應(yīng)急響應(yīng)標(biāo)準(zhǔn)；此外，平臺(tái)需平衡防御強(qiáng)度與用戶體驗(yàn)，避免過度限流影響正常直播，通過技術(shù)優(yōu)化實(shí)現(xiàn)“精準(zhǔn)防控”與“生態(tài)友好”的雙贏。
專家介紹：郭濤，天使投資人、知名互聯(lián)網(wǎng)專家，在互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等領(lǐng)域擁有豐富的從業(yè)經(jīng)歷和商業(yè)咨詢經(jīng)驗(yàn)，現(xiàn)擔(dān)任數(shù)十家政府、協(xié)會(huì)和智庫專家顧問，主持人工智能技術(shù)對(duì)就業(yè)市場的影響、人工智能技術(shù)在證券投資中的應(yīng)用、利用人工智能技術(shù)抗擊新冠肺炎疫情等研究課題與項(xiàng)目，提出“郭濤機(jī)器人發(fā)展七階段定律”，曾為近百家企業(yè)或政府有關(guān)部門提供“人工智能+”咨詢或整體解決方案，參與投資或孵化十余家科技類公司。
【小貼士】
國內(nèi)知名網(wǎng)絡(luò)消費(fèi)糾紛調(diào)解平臺(tái)“電訴寶”（315.100EC.CN）運(yùn)行10余年來，與全國近千家網(wǎng)絡(luò)消費(fèi)平臺(tái)建立對(duì)接，影響1億+網(wǎng)絡(luò)消費(fèi)用戶，新系統(tǒng)實(shí)現(xiàn)一鍵投訴、24h在線、自助維權(quán)、同步直達(dá)、實(shí)時(shí)處理、進(jìn)度查詢、評(píng)價(jià)體系、法律求助、大數(shù)據(jù)分析等諸多功能。
目前，平臺(tái)“綠色通道”服務(wù)向廣大網(wǎng)絡(luò)消費(fèi)平臺(tái)開放，平臺(tái)可自主申請(qǐng)入駐，實(shí)時(shí)受理、反饋和查詢用戶滿意度評(píng)價(jià)。為了更好地營造公開、透明、健康的網(wǎng)絡(luò)消費(fèi)投訴環(huán)境，“電訴寶”公開版已正式上線，新增用戶投訴實(shí)時(shí)受理動(dòng)態(tài)、月度平臺(tái)投訴量TOP10、熱點(diǎn)投訴地區(qū)、投訴榜（依據(jù)投訴量排行）等模塊，讓投訴過程透明化，一手掌握信息動(dòng)態(tài)。
