應對人工智能技術(shù)在實際應用中引發(fā)的風險，除了積極推動人工智能技術(shù)可信能力 的提升，不斷減少技術(shù)本身的脆弱性，還應該構(gòu)建更為積極的技術(shù)應用規(guī)范/規(guī)避 現(xiàn)階段人工智能技術(shù)"缺陷”帶來的問題。

人工智能產(chǎn)品研發(fā)中規(guī)劃設(shè)計、研發(fā)部署、運營使用環(huán)節(jié)的風險挑戰(zhàn)識別十分重要, 對于構(gòu)建可信研發(fā)的實踐范式具有重要意義。

在規(guī)劃設(shè)計階段，難以在初始階段形成完備的風險分析，與此同時，確保相關(guān)理念貫徹執(zhí)行存在挑戰(zhàn)，在設(shè)計理念、規(guī)范傳達給個層級實施人員過程中，存在非正確 傳達、誤解等風險，尤其機器學習場景中固有的不可預測性，傳達實施偏差會進一 步加劇。

在研發(fā)部署階段，一方面，數(shù)據(jù)層面可能會遇到數(shù)據(jù)缺失、重復、不一致、來源不 明等問題；另一方面，模型技術(shù)層面存在著技術(shù)選型不恰當，模型尚未完備訓練即 開始上線服務，以及模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)。

在運營使用階段，一方面，在人類和人工智能交互時可能出現(xiàn)誤用、過度依賴等問 題；另一方面，人工智能相關(guān)技術(shù)存在著被惡意使用的風險。