從北京市消費者協會獲悉，為應對AI合成技術濫用風險，規范電商直播行業秩序，北京消協聯合京東、美團、拼多多、唯品會、抖音、快手、小紅書、微信直播等8家電商平臺簽訂全國首份《促進AI技術規范應用承諾書》，建立企業自律規范，劃定AI技術應用“合規紅線”。
近年來，AI數字人直播、虛擬場景帶貨等新技術應用普及，在提升消費體驗同時，部分商家的違規操作也引發消費者擔憂。北京消協歷時3個月專項調查，鎖定當前AI合成技術應用中存在的突出問題：
消費者知情權保障不足，“真假難辨”困擾普遍存在。據3162份有效回收問卷調查數據顯示，近九成的受訪者呼吁“AI生成內容需顯著標識”，超七成接受虛擬背景但強調需有顯著提示；超六成認為AI數字人“缺乏真情實感”，近三成擔憂其“可能誤導消費決策”。
合成技術濫用滋生消費風險，“虛假營銷”問題凸顯。針對電商平臺的AI數字人、AI場景直播帶貨行為，北京消協對10個AI數字人直播帶貨樣本開展體驗調查發現：5個樣本在直播界面標注“AI生成”“擬真場景”等提示信息，5個樣本未對體驗人員的問題進行及時回應或互動；6個樣本存在未提示私下交易風險等問題。
此外，平臺審核機制也存在短板，風險防控能力有待提升。調研發現，當前部分電商平臺尚未建立健全AI內容審核專項制度，對商家使用AI數字人、虛擬場景等技術缺乏有效管理規則和精準識別技術。
針對上述問題，承諾書以“標識透明、審核嚴格、責任可溯”為核心，提出堅守法律底線，明確合規邊界；強化標識要求，保障知情權利等具體舉措。要求商家和內容創作者在利用AI技術生成合成數字人主播、虛擬場景時，在顯著位置清晰標注“AI生成”或“擬真場景”等提示內容；鼓勵使用平臺提供的統一AI內容標識功能主動聲明，嚴禁利用AI合成換臉技術仿冒名人明星帶貨。
同時，將技術監測與人工復核結合，阻斷違規傳播。在內容審核與傳播環節對直播內容、直播場景進行監測，一旦發現沒有標識的疑似AI數字人或AI虛擬場景問題，將及時采取適當方式在發布內容周邊添加顯著的提示標識。經平臺研判，確系存在違規行為的，將進一步采取屏蔽鏈接等措施。
8家平臺也承諾，堅決抵制惡意刪除、篡改、偽造或隱匿AI內容標識的行為，對違規賬號及內容依法依規嚴肅處理，維護AI制度的嚴肅性。
來源：工人日報 楊召奎
掃一掃分享本頁
