cciia.org.cn 2025-3-14 18:39:40 中(zhong)國網信網
近日，國(guo)家互聯(lian)網信息辦(ban)公室、工業和信息化部、公安部、國(guo)家廣播電(dian)視總局(ju)聯(lian)合(he)發布《人工智能(neng)生(sheng)成合(he)成內(nei)容標識(shi)辦(ban)法(fa)(fa)》（以下簡稱《標識(shi)辦(ban)法(fa)(fa)》），自2025年9月1日起施行。日前，國(guo)家互聯(lian)網信息辦(ban)公室有(you)關(guan)負責人就(jiu)《標識(shi)辦(ban)法(fa)(fa)》有(you)關(guan)問題(ti)回(hui)答了記者提問。
一(yi)、問：請(qing)介(jie)紹一(yi)下《標識辦法(fa)》的(de)出臺背景(jing)？
答(da)：近年來，人(ren)工(gong)(gong)(gong)智能技(ji)術(shu)快(kuai)速發(fa)展(zhan)(zhan)，為生(sheng)(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)文字、圖片、音頻、視頻等信(xin)(xin)息提供了(le)便利工(gong)(gong)(gong)具(ju)，海量(liang)信(xin)(xin)息得以(yi)快(kuai)速生(sheng)(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)并(bing)在(zai)網絡平臺傳播，在(zai)促進(jin)(jin)經濟社(she)會(hui)發(fa)展(zhan)(zhan)的(de)同時，也產生(sheng)(sheng)了(le)生(sheng)(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)技(ji)術(shu)濫用、虛假信(xin)(xin)息傳播擴(kuo)散加劇等問題，引發(fa)社(she)會(hui)各界的(de)關(guan)注(zhu)關(guan)切。經深入(ru)開展(zhan)(zhan)調研、廣泛征求(qiu)意見、多(duo)輪技(ji)術(shu)論證試點，國家互聯網信(xin)(xin)息辦公室聯合工(gong)(gong)(gong)業和信(xin)(xin)息化部、公安部、國家廣播電視總局制定(ding)了(le)《標識(shi)辦法》，進(jin)(jin)一(yi)步(bu)規范(fan)人(ren)工(gong)(gong)(gong)智能生(sheng)(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)內容標識(shi)活動。
《標(biao)(biao)識(shi)辦法》聚(ju)焦(jiao)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)“生(sheng)成合(he)成內容標(biao)(biao)識(shi)”關(guan)鍵(jian)點，通過標(biao)(biao)識(shi)提(ti)醒用戶辨別虛(xu)假信(xin)息，明確相關(guan)服務(wu)主體的(de)標(biao)(biao)識(shi)責任義務(wu)，規范內容制作、傳播各(ge)環節(jie)標(biao)(biao)識(shi)行為，以合(he)理(li)成本提(ti)高安全(quan)性(xing)，促進(jin)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)在文本對話、內容制作、輔助設計等各(ge)應用場景加快(kuai)落地，同時減輕人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)生(sheng)成合(he)成技(ji)術濫用危害，防范利用人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)技(ji)術制作傳播虛(xu)假信(xin)息等風險行為，推動人(ren)(ren)工(gong)(gong)智(zhi)(zhi)能(neng)健康有序(xu)發展。
二、問(wen)：請問(wen)制定《標識辦法》的總體思路(lu)是什么？
答(da)：一是(shi)細(xi)化(hua)(hua)已(yi)有規(gui)定(ding)(ding)。《互(hu)聯網(wang)信息服務算法(fa)(fa)推薦管(guan)(guan)理(li)規(gui)定(ding)(ding)》、《互(hu)聯網(wang)信息服務深(shen)度合成(cheng)管(guan)(guan)理(li)規(gui)定(ding)(ding)》、《生成(cheng)式(shi)人(ren)工智能(neng)(neng)服務管(guan)(guan)理(li)暫行辦(ban)法(fa)(fa)》中提(ti)出了標(biao)識(shi)有關要(yao)求，《標(biao)識(shi)辦(ban)法(fa)(fa)》作為(wei)規(gui)范性(xing)文(wen)件(jian)(jian)，進一步細(xi)化(hua)(hua)標(biao)識(shi)的(de)(de)具體實施規(gui)范。二(er)是(shi)解決關鍵問(wen)題。《標(biao)識(shi)辦(ban)法(fa)(fa)》重點(dian)解決“哪些是(shi)生成(cheng)的(de)(de)”“誰生成(cheng)的(de)(de)”“從哪里生成(cheng)的(de)(de)”等問(wen)題，推動(dong)由(you)生成(cheng)到傳播各環節的(de)(de)全流(liu)程安(an)全管(guan)(guan)理(li)，力(li)爭打造(zao)可(ke)(ke)信賴(lai)的(de)(de)人(ren)工智能(neng)(neng)技(ji)術(shu)。三是(shi)統(tong)籌發展(zhan)和安(an)全。考慮人(ren)工智能(neng)(neng)技(ji)術(shu)發展(zhan)需要(yao)，針對在文(wen)本內容中添(tian)加隱式(shi)標(biao)識(shi)，在多(duo)媒體文(wen)件(jian)(jian)中添(tian)加數(shu)字水印(yin)，仍是(shi)技(ji)術(shu)難點(dian)或可(ke)(ke)能(neng)(neng)增(zeng)加企業(ye)成(cheng)本，不(bu)作強制要(yao)求。為(wei)降低平(ping)臺企業(ye)標(biao)識(shi)成(cheng)本，提(ti)升落地(di)(di)實施的(de)(de)可(ke)(ke)操作、可(ke)(ke)執(zhi)行性(xing)，創新提(ti)出文(wen)本符號(hao)標(biao)識(shi)、音(yin)頻節奏(zou)標(biao)識(shi)、文(wen)件(jian)(jian)元數(shu)據標(biao)識(shi)等低成(cheng)本實施的(de)(de)可(ke)(ke)行方法(fa)(fa)。四是(shi)管(guan)(guan)理(li)要(yao)求與(yu)技(ji)術(shu)標(biao)準一體化(hua)(hua)考慮。為(wei)推動(dong)《標(biao)識(shi)辦(ban)法(fa)(fa)》落地(di)(di)實施，強制性(xing)國家標(biao)準《網(wang)絡安(an)全技(ji)術(shu) 人(ren)工智能(neng)(neng)生成(cheng)合成(cheng)內容標(biao)識(shi)方法(fa)(fa)》同步發布，更好地(di)(di)指(zhi)導相關主體規(gui)范開展(zhan)標(biao)識(shi)活動(dong)。
三、問：《標識(shi)辦法》適用范圍是什么？
答：《標(biao)識辦法(fa)》規(gui)定(ding)，符合(he)《互(hu)聯網(wang)(wang)信息(xi)服務(wu)算(suan)法(fa)推(tui)薦管(guan)理(li)規(gui)定(ding)》、《互(hu)聯網(wang)(wang)信息(xi)服務(wu)深度合(he)成(cheng)(cheng)管(guan)理(li)規(gui)定(ding)》、《生成(cheng)(cheng)式人(ren)工(gong)智能(neng)服務(wu)管(guan)理(li)暫行辦法(fa)》規(gui)定(ding)情形的(de)網(wang)(wang)絡信息(xi)服務(wu)提供者開展人(ren)工(gong)智能(neng)生成(cheng)(cheng)合(he)成(cheng)(cheng)內容(rong)標(biao)識活動，適用本(ben)辦法(fa)。
同時，《互聯網(wang)信息服務深度合成(cheng)(cheng)管理規定(ding)(ding)》第(di)二條(tiao)明(ming)確(que)“法(fa)律(lv)、行政法(fa)規另有(you)規定(ding)(ding)的(de)(de)，依照其(qi)規定(ding)(ding)”，《生成(cheng)(cheng)式人工智能(neng)服務管理暫行辦法(fa)》第(di)二條(tiao)第(di)二款明(ming)確(que)“國(guo)家對利用生成(cheng)(cheng)式人工智能(neng)服務從(cong)事新聞出版、影視制作、文藝(yi)創作等活動(dong)另有(you)規定(ding)(ding)的(de)(de)，從(cong)其(qi)規定(ding)(ding)”。《標識辦法(fa)》同樣遵照上(shang)述適(shi)用條(tiao)款，開展特定(ding)(ding)活動(dong)對內容標識另有(you)規定(ding)(ding)的(de)(de)，從(cong)其(qi)規定(ding)(ding)。
四、問：請說明一下《標識(shi)辦法》與強制性國(guo)家標準《網絡安全(quan)技術 人工智能生(sheng)成合成內容標識(shi)方法》的關系？
答：《標識(shi)辦法》主(zhu)要(yao)(yao)從立法層(ceng)面提出(chu)管理要(yao)(yao)求，明確生成合成內(nei)容制作傳播各主(zhu)體(ti)的責任義務(wu)，為(wei)促進人(ren)工智能(neng)技術(shu)創新發展，對具體(ti)實(shi)施(shi)(shi)(shi)操作不做要(yao)(yao)求。《網絡安(an)全技術(shu) 人(ren)工智能(neng)生成合成內(nei)容標識(shi)方法》以強(qiang)制性國家標準(zhun)形(xing)式(shi)制定實(shi)施(shi)(shi)(shi)，主(zhu)要(yao)(yao)提出(chu)強(qiang)制執行部分的標識(shi)具體(ti)實(shi)施(shi)(shi)(shi)方式(shi)和操作方法，兩者同步(bu)(bu)推出(chu)，于2025年9月1日同步(bu)(bu)實(shi)施(shi)(shi)(shi)，以更(geng)好地指導相關主(zhu)體(ti)規范開展標識(shi)活(huo)動。
五、問：強(qiang)制(zhi)性(xing)國家標(biao)準《網絡安全(quan)技(ji)術 人(ren)工智能生成合成內容標(biao)識方法》的主要內容？
答：標(biao)準支撐《標(biao)識(shi)辦法(fa)(fa)》，對人(ren)工智能(neng)生成(cheng)合(he)成(cheng)內(nei)(nei)(nei)容(rong)服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)與網絡(luo)信息傳播服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)提(ti)(ti)出(chu)了(le)內(nei)(nei)(nei)容(rong)標(biao)識(shi)方法(fa)(fa)的(de)具(ju)體(ti)要求。一是(shi)(shi)明確人(ren)工智能(neng)生成(cheng)合(he)成(cheng)內(nei)(nei)(nei)容(rong)服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)對文(wen)本(ben)、圖片、音頻(pin)、視頻(pin)、虛擬場景(jing)等(deng)內(nei)(nei)(nei)容(rong)，添加文(wen)字(zi)、角(jiao)標(biao)、語(yu)音、節奏等(deng)顯式標(biao)識(shi)的(de)方法(fa)(fa)，在內(nei)(nei)(nei)容(rong)生成(cheng)合(he)成(cheng)環節提(ti)(ti)出(chu)了(le)顯著提(ti)(ti)示公(gong)眾、防(fang)范混(hun)淆誤認的(de)方案(an)。二是(shi)(shi)明確服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)在文(wen)件中添加元數據(ju)(ju)隱式標(biao)識(shi)的(de)方法(fa)(fa)，為(wei)內(nei)(nei)(nei)容(rong)傳播服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)有效識(shi)別(bie)生成(cheng)合(he)成(cheng)內(nei)(nei)(nei)容(rong)提(ti)(ti)供(gong)(gong)便(bian)捷方案(an)，也(ye)為(wei)內(nei)(nei)(nei)容(rong)傳播服(fu)務(wu)(wu)(wu)(wu)提(ti)(ti)供(gong)(gong)者(zhe)(zhe)(zhe)履行(xing)向公(gong)眾提(ti)(ti)醒提(ti)(ti)示主體(ti)責(ze)任提(ti)(ti)供(gong)(gong)了(le)依據(ju)(ju)。三是(shi)(shi)在元數據(ju)(ju)隱式標(biao)識(shi)設置了(le)預留字(zi)段，可用于記錄標(biao)識(shi)完整性、內(nei)(nei)(nei)容(rong)一致性等(deng)安(an)全防(fang)護(hu)信息，為(wei)促進標(biao)識(shi)技術創(chuang)新發展和保護(hu)標(biao)識(shi)安(an)全性預留了(le)空間。
六、問：《標識辦(ban)法》明確了服務提供者哪些(xie)具體要求？
答：《標識(shi)(shi)(shi)辦法》明(ming)確(que)(que)服務提供者(zhe)應當(dang)(dang)對文本(ben)、音頻、圖片(pian)、視頻、虛擬場景等(deng)生成(cheng)合成(cheng)內容(rong)(rong)(rong)添加顯(xian)式(shi)標識(shi)(shi)(shi)，在(zai)提供生成(cheng)合成(cheng)內容(rong)(rong)(rong)下載、復制、導出等(deng)功能時，應當(dang)(dang)確(que)(que)保文件中含(han)有滿足要求的顯(xian)式(shi)標識(shi)(shi)(shi)；應當(dang)(dang)在(zai)生成(cheng)合成(cheng)內容(rong)(rong)(rong)的文件元數據中添加隱(yin)式(shi)標識(shi)(shi)(shi)，隱(yin)式(shi)標識(shi)(shi)(shi)包含(han)生成(cheng)合成(cheng)內容(rong)(rong)(rong)屬性信(xin)息、服務提供者(zhe)名稱或者(zhe)編(bian)碼、內容(rong)(rong)(rong)編(bian)號等(deng)制作要素信(xin)息；應當(dang)(dang)在(zai)用戶服務協(xie)議中明(ming)確(que)(que)說明(ming)生成(cheng)合成(cheng)內容(rong)(rong)(rong)標識(shi)(shi)(shi)的方法、樣式(shi)等(deng)規(gui)范內容(rong)(rong)(rong)，并提示(shi)用戶仔(zi)細閱讀并理解相關的標識(shi)(shi)(shi)管理要求。
七、問：《標識辦法》明(ming)確互聯網應用程(cheng)序分發平臺應當(dang)采(cai)取哪些(xie)措(cuo)施規范人工(gong)智能生成合成服務(wu)？
答(da)：《標(biao)識(shi)(shi)辦法》第七條明(ming)確，互聯網(wang)應用(yong)程序分發平臺在應用(yong)程序上(shang)架或者上(shang)線(xian)審(shen)核(he)時(shi)，應當要求互聯網(wang)應用(yong)程序服(fu)(fu)務(wu)提供(gong)者說明(ming)是否提供(gong)人(ren)工智能(neng)生(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)服(fu)(fu)務(wu)，并核(he)驗其生(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)內容(rong)標(biao)識(shi)(shi)相(xiang)關材(cai)料(liao)。
八、問：如何合(he)(he)規(gui)獲得沒有添(tian)加顯式(shi)標(biao)識的生成(cheng)合(he)(he)成(cheng)內容？
答(da)：前期，國家互聯網信息辦(ban)公室出臺的《互聯網信息服務(wu)深度合(he)成管(guan)理規(gui)定》第十七條(tiao)(tiao)針(zhen)對(dui)“可能導致公眾(zhong)混淆或者誤認的”深度合(he)成服務(wu)情形提出顯著標(biao)(biao)識(shi)(shi)要求。在此基礎上，《標(biao)(biao)識(shi)(shi)辦(ban)法》第四條(tiao)(tiao)進(jin)一步(bu)明確了針(zhen)對(dui)文本、音頻(pin)、圖片(pian)、視頻(pin)、虛擬擬真等具體場景的顯式標(biao)(biao)識(shi)(shi)要求，確保生成合(he)成內容(rong)在面向公眾(zhong)時具有滿足要求的顯式標(biao)(biao)識(shi)(shi)。
此外，充分考慮(lv)生(sheng)成合成內(nei)容在(zai)實際場(chang)景(jing)中(zhong)的落地(di)應用(yong)(yong)(yong)，積極回應社會關(guan)切和產業需要(yao)，《標(biao)識(shi)辦法》第九條提(ti)出，在(zai)用(yong)(yong)(yong)戶(hu)(hu)主動要(yao)求(qiu)提(ti)供未添(tian)加顯式(shi)標(biao)識(shi)內(nei)容時(shi)，網(wang)站平臺在(zai)不違反相關(guan)法律法規要(yao)求(qiu)前提(ti)下，可通過在(zai)用(yong)(yong)(yong)戶(hu)(hu)協議中(zhong)明確責(ze)任義(yi)務并依法留存相關(guan)日(ri)志信息后(hou)(hou)，面向(xiang)用(yong)(yong)(yong)戶(hu)(hu)予(yu)以提(ti)供。同時(shi)，用(yong)(yong)(yong)戶(hu)(hu)在(zai)后(hou)(hou)續使用(yong)(yong)(yong)過程中(zhong)，需遵守《標(biao)識(shi)辦法》第十條等相關(guan)要(yao)求(qiu)，主動聲(sheng)明生(sheng)成合成情況并添(tian)加顯式(shi)標(biao)識(shi)后(hou)(hou)，方可面向(xiang)公眾發(fa)布和傳播。
九、問：《標(biao)識辦(ban)法(fa)》對規范開展標(biao)識行為明確了哪(na)些具體要求？
答：《標(biao)識(shi)辦(ban)法》第十條明確任何(he)組織和個人不(bu)得(de)惡意刪除(chu)、篡改、偽造、隱匿本辦(ban)法規定的(de)生成合成內(nei)容標(biao)識(shi)，不(bu)得(de)為他人實(shi)施(shi)上(shang)述惡意行(xing)為提供工具或者服務，不(bu)得(de)通(tong)過不(bu)正當標(biao)識(shi)手段(duan)損害他人合法權(quan)益。
十、問：關(guan)于《標(biao)(biao)識辦法》和配套強制性國家標(biao)(biao)準(zhun)的(de)正式施行時(shi)間的(de)考慮(lv)？
答：堅持循序漸進的(de)(de)治(zhi)理(li)原則，考慮(lv)到企(qi)業需要時(shi)間充分理(li)解相關規(gui)定和(he)標準(zhun)規(gui)范(fan)，針對性(xing)地開展能力(li)建(jian)設(she)和(he)功能研發，基于標識(shi)技術實施的(de)(de)復雜(za)程度(du)、試(shi)點試(shi)行的(de)(de)實踐(jian)經(jing)驗，設(she)定《標識(shi)辦法》和(he)配套強制性(xing)國家(jia)標準(zhun)6個月左右的(de)(de)施行過渡期。
日期：2025-3-14 18:39:40 | 關閉 |
Copyright © 1999-2021 法律圖書館
.
.
