新華(hua)社記(ji)者王思北

  近日，國家(jia)互聯網信息辦(ban)公室、工業和信息化部(bu)、公安部(bu)、國家(jia)廣(guang)播電視總局聯合發布《人工智(zhi)能生成合成內(nei)容標識(shi)(shi)辦(ban)法(fa)》。辦(ban)法(fa)聚焦人工智(zhi)能“生成合成內(nei)容標識(shi)(shi)”關鍵點，通過標識(shi)(shi)提醒(xing)用戶辨(bian)別虛假(jia)信息，明確相關服(fu)務主體(ti)的標識(shi)(shi)責任義務，規范內(nei)容制作、傳播各環節標識(shi)(shi)行(xing)為，將于2025年9月(yue)1日起施行(xing)。

  專(zhuan)家認(ren)為(wei)，辦法是我國(guo)(guo)推進人工(gong)智能(neng)領(ling)域(yu)安(an)(an)全(quan)治理、促進產業規范健康發展、引導技術向(xiang)善的(de)重要舉措，標志著我國(guo)(guo)在生(sheng)成(cheng)式(shi)人工(gong)智能(neng)領(ling)域(yu)邁出了構建安(an)(an)全(quan)可(ke)信生(sheng)態(tai)的(de)關鍵一步。

  近年來，生(sheng)成式人工(gong)智能(neng)、深(shen)度合(he)成等新(xin)技術快速發展，為生(sheng)成合(he)成文本、圖片、音頻(pin)、視頻(pin)等信息提供了(le)便利工(gong)具。

   “然而，人(ren)(ren)(ren)工(gong)智(zhi)能(neng)生(sheng)成(cheng)(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)(cheng)內(nei)(nei)容(rong)日益逼(bi)真，也催生(sheng)虛假消息(xi)(xi)傳(chuan)播(bo)、身份信(xin)(xin)息(xi)(xi)冒充、惡意(yi)內(nei)(nei)容(rong)生(sheng)成(cheng)(cheng)(cheng)(cheng)等(deng)新型安(an)全風險(xian)，并削弱著公眾對網(wang)絡(luo)傳(chuan)播(bo)內(nei)(nei)容(rong)的信(xin)(xin)任根基(ji)。”中國(guo)工(gong)程院院士、浙江大學(xue)教(jiao)授陳純認為，面(mian)對人(ren)(ren)(ren)工(gong)智(zhi)能(neng)安(an)全治理這一世界(jie)性難題，四部門適時出臺《人(ren)(ren)(ren)工(gong)智(zhi)能(neng)生(sheng)成(cheng)(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)(cheng)內(nei)(nei)容(rong)標(biao)識辦法(fa)》，配套強制性國(guo)家標(biao)準《網(wang)絡(luo)安(an)全技術 人(ren)(ren)(ren)工(gong)智(zhi)能(neng)生(sheng)成(cheng)(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)(cheng)內(nei)(nei)容(rong)標(biao)識方法(fa)》也同時發布，成(cheng)(cheng)(cheng)(cheng)為保障(zhang)人(ren)(ren)(ren)工(gong)智(zhi)能(neng)時代網(wang)絡(luo)生(sheng)態安(an)全有序(xu)的關鍵手(shou)段。

  國家(jia)網信辦有關(guan)負(fu)責人表示，辦法重點(dian)解決“哪(na)(na)些(xie)是生(sheng)成的”“誰生(sheng)成的”“從哪(na)(na)里生(sheng)成的”等問題，推(tui)動由生(sheng)成到傳播(bo)各(ge)環節的全(quan)流程安全(quan)管理，力(li)爭打造可信賴的人工智能技術。

  ——針對(dui)服務提(ti)供者，辦法明確(que)應當(dang)對(dui)文本、音頻、圖片、視頻、虛擬場景等生(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)內(nei)(nei)容(rong)添(tian)加顯式標(biao)識(shi)，在提(ti)供生(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)內(nei)(nei)容(rong)下載、復(fu)制、導(dao)出等功能(neng)時，應當(dang)確(que)保文件中(zhong)含有滿(man)足要求的顯式標(biao)識(shi)；應當(dang)在生(sheng)成(cheng)(cheng)(cheng)合成(cheng)(cheng)(cheng)內(nei)(nei)容(rong)的文件元(yuan)數(shu)據中(zhong)添(tian)加隱式標(biao)識(shi)。

  ——針對互(hu)聯網(wang)(wang)應(ying)用(yong)程序分(fen)發平臺，辦法提(ti)出在(zai)應(ying)用(yong)程序上架或者上線審核時(shi)，應(ying)當要求互(hu)聯網(wang)(wang)應(ying)用(yong)程序服務(wu)提(ti)供者說明是否提(ti)供人(ren)工智能(neng)生成(cheng)(cheng)合成(cheng)(cheng)服務(wu)，并核驗其生成(cheng)(cheng)合成(cheng)(cheng)內(nei)容標識相關(guan)材料。

  ——針對用(yong)戶，辦(ban)法要(yao)求使用(yong)網絡信息內容(rong)傳播服務(wu)發布(bu)生成(cheng)合成(cheng)內容(rong)的，應當主動(dong)聲明并使用(yong)服務(wu)提(ti)(ti)供者提(ti)(ti)供的標識功能(neng)進行標識。

  此外，任何組織和(he)個(ge)人(ren)不得惡意刪(shan)除、篡改(gai)、偽造、隱(yin)匿辦法(fa)規定的生成合成內容標(biao)識，不得為(wei)他人(ren)實(shi)施上(shang)述惡意行為(wei)提供工具(ju)或者服務，不得通過(guo)不正當標(biao)識手段(duan)損害他人(ren)合法(fa)權(quan)益(yi)。

  “此前(qian)出臺的(de)(de)《互聯網信(xin)息服務(wu)算法(fa)(fa)推薦管理規(gui)(gui)定》《互聯網信(xin)息服務(wu)深(shen)度(du)合(he)成(cheng)(cheng)(cheng)管理規(gui)(gui)定》《生成(cheng)(cheng)(cheng)式(shi)人工智(zhi)能(neng)服務(wu)管理暫行(xing)辦(ban)法(fa)(fa)》提出了標識有關要求，辦(ban)法(fa)(fa)進(jin)一步細化了標識的(de)(de)具(ju)體實(shi)施規(gui)(gui)范。”北京航(hang)空(kong)航(hang)天大學(xue)法(fa)(fa)學(xue)院副教授趙(zhao)精武認為(wei)，辦(ban)法(fa)(fa)明(ming)確了生成(cheng)(cheng)(cheng)合(he)成(cheng)(cheng)(cheng)內容(rong)(rong)制(zhi)作傳播(bo)各(ge)主體的(de)(de)責任義務(wu)，用(yong)(yong)戶能(neng)夠清(qing)晰識別人工智(zhi)能(neng)生成(cheng)(cheng)(cheng)的(de)(de)內容(rong)(rong)，減輕人工智(zhi)能(neng)生成(cheng)(cheng)(cheng)合(he)成(cheng)(cheng)(cheng)技(ji)術(shu)濫(lan)用(yong)(yong)危害，防范利用(yong)(yong)生成(cheng)(cheng)(cheng)合(he)成(cheng)(cheng)(cheng)內容(rong)(rong)傳播(bo)虛假信(xin)息、實(shi)施電信(xin)詐騙(pian)等(deng)風險行(xing)為(wei)。

  一方面，清晰的(de)(de)內(nei)容(rong)標(biao)識(shi)有助于提升信息透明度(du)，增強用戶的(de)(de)知(zhi)情(qing)權(quan)和(he)選擇(ze)權(quan)，培養公眾對人工智(zhi)能(neng)技(ji)術(shu)的(de)(de)理性認(ren)知(zhi)。另(ling)一方面，對于服務提供者及傳播平臺(tai)而言，內(nei)容(rong)標(biao)識(shi)制度(du)既是(shi)責(ze)任(ren)更(geng)是(shi)機(ji)遇(yu)，在鼓(gu)勵企(qi)業(ye)追求技(ji)術(shu)能(neng)力提升的(de)(de)同時，也將提升對產品社(she)會影(ying)響的(de)(de)關注度(du)，推動整個行(xing)業(ye)向更(geng)加規范、健康的(de)(de)方向發展。

  良法善治，重在實(shi)施。專家(jia)認為，辦法的落地需要各方協同配(pei)合(he)，推動標(biao)識工(gong)作行穩致(zhi)遠。

  公(gong)安部第三研究(jiu)所(suo)副所(suo)長金波說，伴隨標識管(guan)理(li)與(yu)(yu)算(suan)法備案、安全評估(gu)等機(ji)制逐步實現有機(ji)銜接，生成合(he)成內容標識合(he)規或將成為相關部門(men)開(kai)展(zhan)人工智能監督檢(jian)查、專(zhuan)項行動(dong)的(de)重點關注領域。在此進程中，如(ru)何平衡好發展(zhan)與(yu)(yu)安全、創新與(yu)(yu)責任，提升執法的(de)專(zhuan)業(ye)化(hua)、精(jing)細化(hua)、智慧化(hua)水平，從而培育出安全、開(kai)放(fang)、公(gong)平的(de)人工智能產業(ye)生態(tai)環(huan)境，還需要深入(ru)探究(jiu)。

  “此外(wai)，‘人的因(yin)素’應融(rong)入人工(gong)(gong)智(zhi)能(neng)(neng)標識管理的全過(guo)程。”金波(bo)說，要著重提升公(gong)眾(zhong)對(dui)信息內容真實性、來源可追溯性的評估能(neng)(neng)力，積極(ji)培育(yu)公(gong)眾(zhong)的人工(gong)(gong)智(zhi)能(neng)(neng)素養(yang)，確(que)保人工(gong)(gong)智(zhi)能(neng)(neng)技(ji)術(shu)成果普(pu)惠共享。