為規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期4個月的“清朗·整治AI應(yīng)用亂象”專項行動。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，本次專項行動分兩個階段開展。第一階段為“清朗·AI應(yīng)用服務(wù)典型違規(guī)問題”專項治理行動，重點整治未按規(guī)定履行大模型備案登記義務(wù)、安全審核能力不足、大模型訓(xùn)練語料安全、AI數(shù)據(jù)投毒、生成合成內(nèi)容標(biāo)識落實不到位等問題，強(qiáng)化AI技術(shù)源頭治理。第二階段為“清朗·整治AI信息內(nèi)容亂象”專項行動，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權(quán)益、從事網(wǎng)絡(luò)水軍活動等問題，堅決清理違法不良信息，依法處置處罰違規(guī)賬號、MCN機(jī)構(gòu)和網(wǎng)站平臺。

第一階段重點整治7類突出問題：

一是未按規(guī)定履行大模型備案登記義務(wù)。未按照《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，向網(wǎng)信部門履行備案登記程序，存在“應(yīng)備未備”情形。

二是AI平臺安全和審核過濾能力不足。模型底層安全能力缺失，在設(shè)計訓(xùn)練及部署應(yīng)用階段，價值導(dǎo)向存在偏差、糾偏能力不足。缺乏安全圍欄機(jī)制、審核過濾能力不足，生成違法不良信息，或在生成內(nèi)容中包含違法不良信息的云盤及網(wǎng)站鏈接。

三是大模型訓(xùn)練語料安全問題。訓(xùn)練語料審核把關(guān)不嚴(yán)，模型訓(xùn)練數(shù)據(jù)存在違法不良信息。訓(xùn)練數(shù)據(jù)來源合規(guī)性存在問題，模型訓(xùn)練過程中使用未經(jīng)授權(quán)的文字、圖片、音視頻等數(shù)據(jù)。訓(xùn)練數(shù)據(jù)覆蓋面不足、高質(zhì)量語料缺乏。

四是AI數(shù)據(jù)投毒問題。通過篡改訓(xùn)練語料、偽造權(quán)威數(shù)據(jù)、使用GEO（生成式搜索引擎優(yōu)化）技術(shù)惡意營銷等方式實施AI數(shù)據(jù)投毒。炒作、教授AI數(shù)據(jù)投毒方法，或在電商平臺兜售教程及工具。在模型生成回答過程中，對引用信源缺乏交叉驗證和風(fēng)險提示機(jī)制，未標(biāo)注引用信息鏈接。

五是生成合成內(nèi)容標(biāo)識落實不到位。未落實《人工智能生成合成內(nèi)容標(biāo)識辦法》及配套強(qiáng)制性標(biāo)準(zhǔn)要求。未對生成合成內(nèi)容添加標(biāo)識或標(biāo)識大小、位置、透明度等不規(guī)范。未落實跨平臺隱式標(biāo)識互識互認(rèn)義務(wù)、未按要求在生成合成內(nèi)容周邊添加顯著提示標(biāo)識或?qū)ι珊铣蓛?nèi)容識別能力不足。存在教授去除AI標(biāo)識的教程信息、提供違規(guī)“去標(biāo)識”工具服務(wù)。

六是濫用AI技術(shù)開展違法違規(guī)活動。借助AI技術(shù)實施滲透入侵、惡意樣本注入、破壞計算機(jī)系統(tǒng)等網(wǎng)絡(luò)攻擊行為。未經(jīng)他人授權(quán)，利用AI技術(shù)提供“換臉擬聲”服務(wù)。盜用他人形象，通過數(shù)字虛擬人技術(shù)進(jìn)行直播、影像創(chuàng)作，或提供金融咨詢、醫(yī)療問答等專業(yè)服務(wù)。利用智能體技術(shù)竊取用戶數(shù)據(jù)或賬戶密鑰，侵犯他人隱私或合法權(quán)益。

七是開源模型安全管理不到位。開源社區(qū)缺乏身份認(rèn)證和安全管理機(jī)制，對社區(qū)上傳的數(shù)據(jù)集、模型代碼等內(nèi)容未建立有效審核和應(yīng)急處置機(jī)制，未及時清理存在嚴(yán)重風(fēng)險隱患的數(shù)據(jù)集或開源模型。

第二階段重點整治7類突出問題：

一是利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”。歪曲解構(gòu)優(yōu)秀傳統(tǒng)文化、歷史人物或歷史典故，濫用AI技術(shù)“魔改”古典名著或經(jīng)典影視作品，植入低俗暴力內(nèi)容，惡搞古典名著精神內(nèi)涵、顛覆重要人物人設(shè)。批量生成發(fā)布邏輯混亂、價值空洞，或帶有錯誤價值觀、扭曲文化認(rèn)知等不良傾向的“數(shù)字泔水”類內(nèi)容。

二是制作發(fā)布虛假不實信息。生成合成涉時事政治、公共政策、社會民生、國際關(guān)系、突發(fā)事件等領(lǐng)域謠言信息，或惡意蹭炒突發(fā)案事件，虛構(gòu)原因、細(xì)節(jié)、進(jìn)展等。假冒黨政軍機(jī)關(guān)、中央和地方新聞媒體，發(fā)布虛假公告或假新聞。生成傳播醫(yī)療、司法、金融、教育等專業(yè)領(lǐng)域未經(jīng)科學(xué)驗證或明顯違背科學(xué)常識的信息。

三是假冒仿冒他人。利用AI“換臉”“換聲”假冒仿冒公眾人物發(fā)布不實言論，欺騙網(wǎng)民，甚至營銷牟利，或生成合成含有攻擊、抹黑、貶損他人的信息。未經(jīng)授權(quán)生成合成與公眾人物的合影、親密照等圖片、視頻。不當(dāng)使用AI“復(fù)活逝者”，濫用逝者信息。

四是制作發(fā)布暴力低俗等不良信息。制作發(fā)布含有虐待、毆打、殘害等內(nèi)容的暴力血腥場景，或荒誕、恐怖形象的詭異獵奇畫面。生成合成凸顯女性特定身體部位，衣著暴露、搔首弄姿等低俗擦邊圖片、視頻，或帶有性暗示、性挑逗內(nèi)容的小說、筆記。

五是侵害未成年人權(quán)益。生成合成傷害、惡搞未成年人形象的內(nèi)容，實施網(wǎng)絡(luò)欺凌。生成合成未成年人懷孕、打架等與其年齡特點不符、宣揚(yáng)不良價值觀的違規(guī)內(nèi)容。以未成年人喜愛的動畫人物或玩偶形象為原型，生成合成兒童“虐向”“邪典”等視頻，或無底線“二創(chuàng)”版權(quán)動畫，誤導(dǎo)未成年人認(rèn)知。

六是利用AI“托管”從事網(wǎng)絡(luò)水軍活動。通過AI“托管”技術(shù)運(yùn)營賬號，模擬真人批量注冊、運(yùn)營社交賬號，批量生成發(fā)布低質(zhì)同質(zhì)文案。非法交易買賣賬號。使用AI群控軟件、社交機(jī)器人刷量控評，生成虛假流量數(shù)據(jù)，制造虛假輿論熱點。

七是AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。制作和傳播仿冒、套殼AI網(wǎng)站和應(yīng)用程序。提供色情陪聊、“一鍵脫衣”、AI算命等AI違規(guī)功能服務(wù)，或生成合成違法不良信息內(nèi)容。為違法違規(guī)AI應(yīng)用程序等服務(wù)或課程進(jìn)行營銷炒作、推廣引流等。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識專項行動對于推動AI應(yīng)用規(guī)范有序發(fā)展、維護(hù)網(wǎng)民合法權(quán)益的重要意義，切實履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺對照整治重點，深入自查自糾，全面排查問題漏洞，完善長效治理機(jī)制，有效提升技術(shù)防治能力，確保專項行動取得實效。

來源：新華社微信公眾號綜合“網(wǎng)信中國”微信公眾號

轉(zhuǎn)發(fā)周知！