(網(wǎng)經(jīng)社訊)人工智能（AI）成為越來越多企業(yè)的戰(zhàn)略方向，有效風險管理不應是抑制人工智能創(chuàng)新的因素，而是公司成功運用AI技術的基礎，本篇報告旨在讓相關受眾理解AI時代的監(jiān)管環(huán)境和AI相關風險管理方式。通過關注這些領域，我們希望幫助企業(yè)在制定AI風險管理框架時，提供更加高效的解決方案和監(jiān)控機制。
AI的應用存在潛在風險。
AI技術與傳統(tǒng)技術的一個重要的區(qū)別是，后者通常在那些預先設定清楚的規(guī)則框架完成任務；AI應用則可以自行分析海量歷史數(shù)據(jù)來制定決策。因此當企業(yè)大規(guī)模采用AI技術時會遇到以下幾方面挑戰(zhàn)：（1）數(shù)據(jù)–AI系統(tǒng)對數(shù)據(jù)量和數(shù)據(jù)質(zhì)量十分依賴，AI應用中遇到最棘手的困難就是缺少大量高質(zhì)量數(shù)據(jù)；（2）透明性–AI算法在訓練過程中有許多決策制定的隱藏層，這將增加可審計性和可溯源性的難度；（3）接受度– AI被認為會加劇企業(yè)的現(xiàn)有風險，改變風險出現(xiàn)的方式，甚至會為公司帶來新的風險。
AI風險管理框架是在現(xiàn)有企業(yè)風險管理體系中嵌入AI相關風險管控。
德勤AI風險管理框架提供了一種識別并管控AI相關風險的機制。AI的應用和一般的創(chuàng)新過程一樣，都要求企業(yè)要經(jīng)歷一次不斷學習的過程。但事實上，企業(yè)并不需要一套全新的流程來應對AI，只需要在與公司整體風險偏好保持一致的情況下，改進現(xiàn)有流程和風險管控措施，例如在對算法模型、技術、合規(guī)等領域風險評估時把AI因素納入評估，填補一些必要的管理空白。
全球監(jiān)管部門對于AI應用風險的監(jiān)管日趨嚴格。
監(jiān)管機構越來越關注受監(jiān)管企業(yè)因使用AI而可能帶來的潛在風險和意外后果。其中，網(wǎng)絡安全問題（如個人隱私泄露）、數(shù)據(jù)濫用問題（即大數(shù)據(jù)“殺熟”）等可能影響準確性、公平性或合規(guī)性的問題都成為監(jiān)管者關注的重點。
本報告全面、系統(tǒng)地介紹了AI時代的風險管理。AI已經(jīng)成為眾多企業(yè)戰(zhàn)略的核心組成部分，在未來將發(fā)揮巨大競爭優(yōu)勢。但風險與機遇并行，企業(yè)需要考慮AI技術的潛在風險和意外后果，以及如何在支持良性創(chuàng)新、市場誠信和財務穩(wěn)定之間找到一個平衡點。
（來源：德勤咨詢 編選：網(wǎng)經(jīng)社）
