2022年以來，國內(nèi)外生成式人工智能大模型快速迭代發(fā)展，改變了傳統(tǒng)的內(nèi)容生產(chǎn)與信息傳播范式。與此同時，生成式人工智能帶來的深度偽造、虛假信息等潛在風險進入國際社會規(guī)制視野，各國紛紛采取措施應對。
《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）進一步明確了人工智能生成合成內(nèi)容全生命周期履行標識義務的具體要求與主體責任，完善了我國生成式人工智能的治理框架。
一、人工智能生成內(nèi)容標識的制度價值成為國際共識
第一，人工智能生成內(nèi)容標識制度具備獨特制度價值。首先，標識能夠有效區(qū)分出人工智能生成合成的信息，防范虛假信息的傳播利用；其次，標識能夠幫助用戶快速了解生成式人工智能產(chǎn)品或服務的相關(guān)屬性或參數(shù)信息；最后，標識能夠協(xié)助監(jiān)管部門對生成式人工智能產(chǎn)品或服務實施評估、追溯等監(jiān)管，推進人工智能生成合成內(nèi)容合法合規(guī)發(fā)展。
第二，標識制度的獨特制度價值已經(jīng)成為國際共識。日前，世界各國以及國際組織紛紛采取措施推進生成式人工智能標識制度的建立。2024年3月，聯(lián)合國發(fā)布《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》，鼓勵開發(fā)和部署有效、可獲取、適應性強、具有國際互操作性的內(nèi)容認證和來源識別機制。2024年4月，美國國家標準與技術(shù)研究院發(fā)布的《降低合成內(nèi)容帶來的風險》列出了檢測、驗證和標記合成內(nèi)容的方法，包括數(shù)字水印和元數(shù)據(jù)記錄。2024年5月，新加坡政府發(fā)布《生成式人工智能治理模型框架》，提出數(shù)字水印和加密溯源兩種標識技術(shù)方案。2024年8月1日，歐盟《人工智能法》正式生效，規(guī)定了生成合成音頻、圖像、視頻或文本內(nèi)容的有限風險AI系統(tǒng)應履行透明度與明確標識義務。2025年3月，英國《人工智能（監(jiān)管）法案》通過一讀，其中規(guī)定任何提供涉及人工智能的產(chǎn)品或服務的人，必須向客戶提供“清晰明確的健康警告、標簽”。
綜合來看，不論是國際組織，還是有關(guān)國家，肯定人工智能生成內(nèi)容標識的制度價值并已提出相應規(guī)范，價值層面均倡導真實性以遏制虛假信息、深度偽造，技術(shù)層面基本均采用水印、內(nèi)容標簽等標識技術(shù)進行規(guī)制。
二、生成式人工智能改變內(nèi)容生產(chǎn)與信息傳播范式
第一，生成式人工智能革新生產(chǎn)方式。不同于傳統(tǒng)的專業(yè)生成內(nèi)容、用戶生成內(nèi)容形式，基于遞歸式生成模型，生成式人工智能可以通過與大量用戶的對話和反饋，快速積累和更新內(nèi)容；基于生成式對抗網(wǎng)絡，生成式人工智能能夠生成逼真的圖像、音頻和視頻等內(nèi)容。
第二，生成式人工智能賦能行業(yè)發(fā)展。2025年《政府工作報告》在部署今年工作任務中強調(diào)，持續(xù)推進“人工智能+”行動，將數(shù)字技術(shù)與制造優(yōu)勢、市場優(yōu)勢更好結(jié)合起來，支持大模型廣泛應用。生成式人工智能業(yè)已為各行各業(yè)注入新質(zhì)生產(chǎn)力。
在科研領域，生成式人工智能可快速查閱并總結(jié)參考文獻，擬定研究思路，進行統(tǒng)計分析，甚至生成學術(shù)論文。一項收集1600名科研人員調(diào)查問卷的研究結(jié)果顯示，使用AI輔助論文寫作比例達25%。在制造領域，2024年10月，世界經(jīng)濟論壇“燈塔工廠”評選結(jié)果顯示，生成式人工智能的應用使工廠的勞動生產(chǎn)率平均提高了50%。在視聽領域，網(wǎng)絡音頻平臺通過與汽車廠商共建車聯(lián)網(wǎng)、與家電企業(yè)合作打造智能物聯(lián)家居等方式，加速推進網(wǎng)絡音視頻服務在車載娛樂系統(tǒng)、智能家居、穿戴設備等終端的整合應用。
第三，生成式人工智能存在潛在風險。生成式人工智能給各行各業(yè)帶來技術(shù)革新的同時，也帶來了深度偽造、虛假信息的潛在風險。2024年1月，香港一家跨國公司經(jīng)歷了“變臉”詐騙，詐騙者通過公開渠道獲取的媒體資料，利用深度偽造技術(shù)合成了該公司高管的形象和聲音，并制作出多人參與視頻會議的虛假視頻，詐騙金額高達2億港幣。在某美國乘客起訴美國某航空公司的案件中，代理律師引用了人工智能生成的六個案例，然而法官發(fā)現(xiàn)六個案例的判決結(jié)果、引用出處均為虛構(gòu)。不僅在事實信息上出現(xiàn)錯誤，甚至對知識類信息進行虛構(gòu)。
第四，生成式人工智能的風險亟待防范規(guī)制。任何技術(shù)革新都是雙刃劍，在發(fā)揚生成式人工智能的正向功能的同時，正視其潛在風險并進行相應的規(guī)制與防范，是AI治理的國際共識。國家網(wǎng)信辦等部門于2022年發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，是世界范圍內(nèi)首次明確提出生成式人工智能標識義務的部門規(guī)章，要求深度合成服務提供者對深度合成服務履行標識義務。國家網(wǎng)信辦等部門聯(lián)合發(fā)布的《生成式人工智能服務管理暫行辦法》沿用了該條規(guī)定。
三、《標識辦法》進一步細化推進人工智能生成內(nèi)容管理
《標識辦法》對人工智能生成內(nèi)容的標識方法提出要求，通過顯式標識明確“哪些內(nèi)容是生成的”，隱式標識明確“是誰生成的”和“由誰傳播的”，明確了人工智能生成合成內(nèi)容的全生命周期中網(wǎng)絡信息服務提供者（以下簡稱“服務提供者”）等不同主體的合規(guī)責任，從而降低人工智能安全風險，促進行業(yè)健康發(fā)展，是對標識制度的進一步細化與規(guī)范。
第一，在人工智能生成合成內(nèi)容的生產(chǎn)環(huán)節(jié)，服務提供者應對生成合成內(nèi)容添加標識。服務提供者應對文本、圖片、音頻、視頻、虛擬場景等典型應用場景的生成合成內(nèi)容添加顯式標識，并在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，以明確內(nèi)容屬性、服務提供者信息等內(nèi)容。
第二，在人工智能生成合成內(nèi)容的傳播環(huán)節(jié)，不同主體應對標識的合規(guī)性進行確認。服務提供者在提供生成合成內(nèi)容下載、復制、導出等方式時，應當確保文件中含有滿足要求的顯式標識。網(wǎng)絡信息內(nèi)容傳播平臺應當核驗文件元數(shù)據(jù)中是否含有隱式標識，并采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識，明確提醒用戶�；ヂ�(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或上線審核時，應核驗生成合成內(nèi)容標識相關(guān)材料。
第三，在人工智能生成合成內(nèi)容的使用環(huán)節(jié)，用戶同樣應履行標識義務。服務提供者應當在用戶服務協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關(guān)的標識管理要求。用戶向網(wǎng)絡信息內(nèi)容傳播平臺上傳生成合成內(nèi)容時，應當主動聲明并使用平臺提供的標識功能進行標識。
目前的人工智能生成合成內(nèi)容標識制度主要關(guān)注于“是否機器生成”的形式判斷，隨著標識技術(shù)的進步與發(fā)展，未來標識制度能夠發(fā)揮更為豐富的功能，從形式判斷逐漸轉(zhuǎn)向“是否足夠可靠”的質(zhì)量判斷，進一步促進行業(yè)健康發(fā)展。（作者：張凌寒，聯(lián)合國高級別人工智能咨詢機構(gòu)中方專家、中國政法大學數(shù)據(jù)法治研究院教授）
