(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺突發(fā)大規(guī)模內(nèi)容安全事件，多個直播間短時間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時，引發(fā)廣泛關(guān)注（詳見網(wǎng)經(jīng)社專題：http://www.99poke.cn/zt/kszhhcgj/ ）。對此，網(wǎng)經(jīng)社電子商務(wù)研究中心發(fā)布電商快評供記者朋友參考。
【觀點一：快手響應(yīng)“超時” 安全機制暴露“多重缺陷”】
中國商業(yè)聯(lián)合會直播電商委副會長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊表示，公開報道顯示，從快手直播間出現(xiàn)大量露骨色情內(nèi)容到響應(yīng)超過一小時，暴露出快手在安全機制上的多重缺陷。首先，平臺的實時監(jiān)測系統(tǒng)未能及時捕捉到異常內(nèi)容大規(guī)模涌現(xiàn)的信號；其次，內(nèi)容審核體系在面對規(guī)?；魰r顯得不堪一擊；第三，決策鏈條冗長，緊急情況下缺乏快速響應(yīng)機制；最后，針對大規(guī)模協(xié)同攻擊缺乏有效預(yù)案，反映出危機管理能力不足。
此外，知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤認(rèn)為，快手在應(yīng)急響應(yīng)方面暴露的核心問題：
一是預(yù)警機制存在盲區(qū)，對“業(yè)務(wù)合法掩護下的批量違規(guī)”缺乏精準(zhǔn)識別能力，AI模型未及時捕捉短時間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，依賴用戶舉報導(dǎo)致預(yù)警滯后；
二是應(yīng)急流程銜接低效，未建立針對規(guī)?；舻娜蹟鄼C制，人工審核與賬號封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，出現(xiàn)“封禁不及新增”的被動局面；
三是資源調(diào)度缺乏彈性，面對黑灰產(chǎn)的飽和式攻擊，后臺系統(tǒng)未觸發(fā)自動擴容或限流預(yù)案，審核人力與技術(shù)資源無法快速響應(yīng)峰值需求；
四是預(yù)案針對性不足，現(xiàn)有應(yīng)急方案更適配單點違規(guī)，對多賬號協(xié)同、接口漏洞利用等新型攻擊缺乏預(yù)設(shè)處置流程，導(dǎo)致決策與執(zhí)行耗時過長。
郭濤進而表示，從行業(yè)層面看，此次事件折射出短視頻平臺“安全防護”與“規(guī)模擴張”的失衡，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”模式需向“智能預(yù)判+主動防御”升級，單純依賴事后處置已難應(yīng)對新型風(fēng)險；從用戶權(quán)益角度，違規(guī)內(nèi)容持續(xù)1小時傳播，暴露平臺對用戶體驗與信息安全的重視不足，需完善舉報反饋機制與用戶告知流程，降低不良內(nèi)容帶來的負(fù)面影響；從監(jiān)管趨勢而言，監(jiān)管部門對平臺主體責(zé)任的要求持續(xù)收緊，此類事件可能推動行業(yè)建立更嚴(yán)格的安全評估與應(yīng)急響應(yīng)標(biāo)準(zhǔn)；此外，平臺需平衡防御強度與用戶體驗，避免過度限流影響正常直播，通過技術(shù)優(yōu)化實現(xiàn)“精準(zhǔn)防控”與“生態(tài)友好”的雙贏。
國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域?qū)＜?、杭州漠坦尼科技有限公司副總?jīng)理、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員徐均波表示，快手此次事件凸顯了互聯(lián)網(wǎng)平臺在黑灰產(chǎn)對抗中的系統(tǒng)性風(fēng)險。法律責(zé)任認(rèn)定核心在于平臺是否盡到“合理注意義務(wù)”，1小時響應(yīng)延遲可能成為認(rèn)定過失的關(guān)鍵。
【觀點二：未履行安全保護義務(wù) 最高處100萬罰款】
北京市京師(深圳)律師事務(wù)所律師王曉彤認(rèn)為，即便本次事件系黑灰產(chǎn)組織實施的惡意攻擊行為，平臺亦不當(dāng)然免責(zé)。根據(jù)《網(wǎng)絡(luò)安全法》《民法典》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》等法律法規(guī)，平臺對其運營空間內(nèi)的信息內(nèi)容依法負(fù)有內(nèi)容管理主體責(zé)任和安全保障義務(wù)。
王曉彤律師進而表示，從責(zé)任限制規(guī)則看，我國法律雖未直接使用“避風(fēng)港原則”這一表述，但其制度內(nèi)涵已明確體現(xiàn)在《民法典》第1195條、第1197條之中。依據(jù)該兩條規(guī)定，網(wǎng)絡(luò)服務(wù)提供者僅在不存在“知道或應(yīng)當(dāng)知道”情形，且在發(fā)現(xiàn)或被通知后已及時采取必要措施的前提下，方可不就損害后果承擔(dān)相應(yīng)責(zé)任。反之，如存在應(yīng)知未知、知而不處置或處置明顯遲延的情形，則不適用責(zé)任豁免規(guī)則。
王曉彤律師認(rèn)為，《網(wǎng)絡(luò)安全法》第47條明確要求，網(wǎng)絡(luò)運營者發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌模瑧?yīng)當(dāng)立即停止傳輸、采取處置措施、防止信息擴散，并保存記錄、向主管部門報告。因此，是否承擔(dān)法律責(zé)任，關(guān)鍵并不在于違法內(nèi)容是否源于“外部攻擊”，而在于平臺是否已依法建立并有效運行與其業(yè)務(wù)規(guī)模相匹配的內(nèi)容治理和應(yīng)急處置機制。
徐均波補充到，網(wǎng)絡(luò)運營者需履行安全保護義務(wù)，包括內(nèi)容審核、應(yīng)急處置、用戶實名制等。若因安全漏洞導(dǎo)致違規(guī)內(nèi)容傳播，可能被認(rèn)定為“未履行網(wǎng)絡(luò)安全保護義務(wù)”。根據(jù)情節(jié)輕重，罰款金額可達(dá)最高100萬元（對平臺）或年營業(yè)額5%以下（對直接責(zé)任人）。
徐均波進而表示，若平臺存在明知黑灰產(chǎn)風(fēng)險卻未采取必要措施，導(dǎo)致恐怖主義、兒童色情等違法內(nèi)容傳播，可能涉嫌“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”（《刑法》第286條之一）。直接責(zé)任人員（如安全負(fù)責(zé)人）可能面臨最高三年有期徒刑。
【觀點三：構(gòu)建全鏈條體系 從"事后處置"轉(zhuǎn)為"事前預(yù)防"】
針對平臺抵御黑灰產(chǎn)攻擊，郭濤給出以下建議：
第一，技術(shù)層面，需構(gòu)建“事前防御-事中攔截-事后溯源”全鏈條體系，升級AI審核模型并專項訓(xùn)練批量違規(guī)、接口漏洞攻擊等場景識別能力，同時強化直播推流接口的權(quán)限校驗與異常監(jiān)測，封堵業(yè)務(wù)邏輯漏洞。
第二，機制層面，應(yīng)建立跨部門應(yīng)急專班，明確違規(guī)閾值觸發(fā)后的自動熔斷流程，如暫停高風(fēng)險賬號段開播、限制異常推流行為，實現(xiàn)“秒級響應(yīng)、分鐘級處置”。
第三，協(xié)同層面，聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)數(shù)據(jù)庫，共享違規(guī)賬號、設(shè)備指紋等特征信息，推動跨平臺聯(lián)防聯(lián)控。第四，合規(guī)層面細(xì)化內(nèi)容分級標(biāo)準(zhǔn)與審核權(quán)責(zé)，定期開展攻防演練，模擬新型攻擊場景優(yōu)化防御策略，擺脫過度依賴人工復(fù)核的效率短板。
平臺抵御黑灰產(chǎn)的法律與治理方面，王曉彤律師給出以下建議：
第一，平臺應(yīng)嚴(yán)格落實《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第6條、第8條、第21條的要求，切實履行信息內(nèi)容管理主體責(zé)任，完善內(nèi)容審核、賬號管理和應(yīng)急處置制度。
第二，依據(jù)《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》第11條、第20條，建立針對涉黃涉暴內(nèi)容的秒級下線、自動封禁和功能熔斷機制。
第三，按照《網(wǎng)絡(luò)安全法》第47條要求，加強證據(jù)留存和內(nèi)部處置記錄管理，為接受監(jiān)管檢查和主張已履責(zé)提供依據(jù)。
第四，結(jié)合《未成年人保護法》第74條、第80條，強化對涉黃內(nèi)容的特別防控措施，避免平臺注意義務(wù)標(biāo)準(zhǔn)被進一步抬高。
第五，在行政責(zé)任層面，可結(jié)合《行政處罰法》第32條、第33條，通過及時整改、主動消除危害后果，爭取從輕、減輕或不予處罰的裁量空間。
王曉彤總結(jié)道，總體而言，避風(fēng)港原則并非平臺的免責(zé)“安全墊”，而是對其是否依法、及時、有效履行法定義務(wù)的綜合評價結(jié)果。本次事件對抖音、淘寶、京東、小紅書等直播與內(nèi)容平臺均具有明確而現(xiàn)實的合規(guī)警示意義。
徐均波認(rèn)為，平臺抵御黑灰產(chǎn)可從技術(shù)防御升級、應(yīng)急響應(yīng)優(yōu)化、合規(guī)與生態(tài)治理、組織與問責(zé)等方面入手。
曹磊指出，互聯(lián)網(wǎng)平臺必須認(rèn)識到，內(nèi)容安全是生存之本，安全投入不應(yīng)被視為成本而是必要投資，只有將防御策略從"事后處置"轉(zhuǎn)變?yōu)?quot;事前預(yù)防"，才能真正構(gòu)建清朗網(wǎng)絡(luò)空間。
