2025年9月1日起，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《 標(biāo)識 辦法》）正式生效，標(biāo)志著我國內(nèi)容標(biāo)識制度進(jìn)入正式落地實(shí)施階段。在我國深入實(shí)施“人工智能+”行動背景下，探索推進(jìn)內(nèi)容標(biāo)識制度實(shí)踐，對于提升我國人工智能安全能力水平，加快形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局，保障人工智能健康發(fā)展具有重要意義。
一、智能經(jīng)濟(jì)加速，安全護(hù)航更顯重要緊迫
近日，國務(wù)院《關(guān)于深入實(shí)施“人工智能+”行動的意見》明確提出“ 推動人工智能與經(jīng)濟(jì)社會各行業(yè)各領(lǐng)域廣泛深度融合 ”，將“人工智能+”升級為國家戰(zhàn)略行動，全面激發(fā)產(chǎn)業(yè)變革新動能、培育智能經(jīng)濟(jì)新范式。在此背景下，傳統(tǒng)信息內(nèi)容風(fēng)險可能體現(xiàn)出新特性、新形式、新問題。 一是內(nèi)容生成質(zhì)量提升，加大辨別難度。 相較于以往，大模型通過海量多模態(tài)數(shù)據(jù)訓(xùn)練，可生成高度逼真的多模態(tài)信息內(nèi)容，例如復(fù)刻權(quán)威媒體的行文范式、模擬特定人物的形象風(fēng)格，導(dǎo)致大量用戶誤信。 二是人工智能跨界融合，擴(kuò)大風(fēng)險范圍。 伴隨人工智能加速應(yīng)用于醫(yī)療、商業(yè)、金融等領(lǐng)域，虛假信息風(fēng)險可能導(dǎo)致醫(yī)療誤診、虛假宣傳、市場波動等問題。以智能終端為例，虛假信息生成呈現(xiàn)即時交互、多感官觸達(dá)等特征，可能助長虛假誘導(dǎo)性消費(fèi)購物行為等。 三是內(nèi)容傳播路徑多樣，源頭溯源困難。 人工智能生成內(nèi)容呈現(xiàn)去中心化、跨平臺化和跨境傳播特征，信息源頭隱匿化，追溯難度顯著增加。同時，人工智能生成內(nèi)容易于被批量篡改和重組，進(jìn)一步加劇溯源困境。當(dāng)前，AI內(nèi)容識別溯源已從技術(shù)問題升級為系統(tǒng)性治理難題，亟需通過內(nèi)容標(biāo)識制度構(gòu)建“可識別、可追溯、可問責(zé)”的安全防線，為智能經(jīng)濟(jì)高質(zhì)量發(fā)展筑牢根基。
二、明確標(biāo)識要求，筑牢AI“技治+法治”防線
為有效化解生成合成內(nèi)容難識別難溯源困境，《 標(biāo)識 辦法》從標(biāo)識義務(wù)、標(biāo)識主體、監(jiān)管協(xié)調(diào)等方面明確內(nèi)容標(biāo)識制度要求，構(gòu)建人工智能生成合成風(fēng)險“技治+法治”雙重防線。
一是提出顯式隱式雙標(biāo)識義務(wù)，細(xì)化不同內(nèi)容標(biāo)識要求。 《 標(biāo)識 辦法》和相關(guān)標(biāo)準(zhǔn)根據(jù)內(nèi)容類型與風(fēng)險等級，構(gòu)建了顯式與隱式雙重標(biāo)識要求，為AI標(biāo)識提供基本框架： 一方面， 針對可能導(dǎo)致公眾混淆或者誤認(rèn)的內(nèi)容，要求添加顯式標(biāo)識，并根據(jù)文本、音頻、圖片、視頻等不同的服務(wù)場景明確標(biāo)識位置、樣式、區(qū)域和大小等具體要求，既實(shí)現(xiàn)對用戶的提示警示效果，又盡量保障用戶良好體驗。 另一方面， 要求服務(wù)提供者在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，嵌入生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼等信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)保障。
二是打通全鏈條治理路徑，科學(xué)設(shè)定主體責(zé)任義務(wù)。 《 標(biāo)識 辦法》的內(nèi)容標(biāo)識要求覆蓋設(shè)計開發(fā)、上架分發(fā)、用戶使用、內(nèi)容傳播和責(zé)任追溯等全鏈條，依據(jù)生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺、用戶等不同主體在潛在風(fēng)險構(gòu)成中的作用和合規(guī)能力，科學(xué)劃分責(zé)任義務(wù)，實(shí)現(xiàn)生成合成內(nèi)容上下游鏈條的全覆蓋。例如，今日頭條、快手、小紅書、嗶哩嗶哩、喜馬拉雅等制作平臺、傳播平臺均發(fā)布公告，創(chuàng)新探索內(nèi)容標(biāo)識制度落地方案，落實(shí)雙標(biāo)識、標(biāo)識檢測等義務(wù)，并提供“作者聲明”等功能，激勵人工智能向善應(yīng)用，保障正常合規(guī)使用AI工具。這既體現(xiàn)了對技術(shù)創(chuàng)新的包容和鼓勵，又彰顯了對潛在風(fēng)險的高度警惕和有效防范。
三是銜接現(xiàn)有法律法規(guī)體系，推進(jìn)多部門監(jiān)管統(tǒng)籌協(xié)調(diào)。 作為人工智能治理的重要一環(huán)，《 標(biāo)識 辦法》既與《網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等有效銜接，在總則部分就明確指出其與現(xiàn)有法律、行政法規(guī)和部門規(guī)章的緊密聯(lián)系，并在“服務(wù)提供者”等關(guān)鍵概念上沿襲已有規(guī)定。與此同時，《 標(biāo)識 辦法》明確相關(guān)主管部門管理職責(zé)，強(qiáng)化標(biāo)識管理與算法備案、安全評估等制度的銜接協(xié)調(diào)。例如《 標(biāo)識 辦法》規(guī)定，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識相關(guān)材料，并加強(qiáng)標(biāo)識信息共享。
三、堅持系統(tǒng)觀念，加快內(nèi)容標(biāo)識制度落實(shí)落細(xì)
總體來看，《 標(biāo)識 辦法》構(gòu)建的標(biāo)識制度打破了生成合成內(nèi)容帶來的信任赤字，形成生成即標(biāo)識、傳播必核驗的閉環(huán)管理，為全球人工智能治理貢獻(xiàn)了重要的中國智慧。未來，在實(shí)施中要依據(jù)實(shí)踐，為規(guī)則填補(bǔ)細(xì)節(jié)，為技術(shù)注入倫理，共同推動全體人民共享人工智能發(fā)展成果。
一是內(nèi)容標(biāo)識是踐行以技治技的先行探索，堅持分類施策逐步全面覆蓋。 “以技治技”是應(yīng)對AI技術(shù)濫用風(fēng)險的重要理念。作為“以技治技”的關(guān)鍵實(shí)踐，內(nèi)容標(biāo)識通過為AI生成內(nèi)容打標(biāo)，化解“人工智能+”應(yīng)用中難識別、難追溯等問題，維護(hù)用戶合法權(quán)益和社會公共利益。然而，標(biāo)識制度的細(xì)化落地受到技術(shù)成熟度、產(chǎn)業(yè)差異、場景復(fù)雜性等多重因素影響，細(xì)化落地并非簡單的技術(shù)疊加，而是技術(shù)、產(chǎn)業(yè)、監(jiān)管、標(biāo)準(zhǔn)多維度協(xié)同的系統(tǒng)工程，需在技術(shù)上分階段覆蓋、在主體上分層次引導(dǎo)、在場景上分類型施策，循序漸進(jìn)激發(fā)和實(shí)現(xiàn)內(nèi)容標(biāo)識的制度價值。
二是內(nèi)容標(biāo)識是優(yōu)化行業(yè)生態(tài)的共同需求，推動多方協(xié)同加快普及適用。 用戶信任是釋放AI內(nèi)容價值的基礎(chǔ)，若用戶對信息內(nèi)容真?zhèn)坞y辨、風(fēng)險未知，則會本能抵制，制約技術(shù)應(yīng)用創(chuàng)新發(fā)展。內(nèi)容標(biāo)識制度試圖通過“透明化”重建用戶信任，有效追溯違法違規(guī)責(zé)任主體，推動釋放技術(shù)對實(shí)體經(jīng)濟(jì)的賦能價值。在落地實(shí)踐中，部分頭部企業(yè)已在內(nèi)容標(biāo)識策略、多模態(tài)鑒偽技術(shù)等方面積極探索，形成行業(yè)最佳實(shí)踐。推動內(nèi)容標(biāo)識的普及適用，需要全行業(yè)強(qiáng)化協(xié)同，建立跨平臺協(xié)同機(jī)制，著力推動技術(shù)標(biāo)準(zhǔn)統(tǒng)一、安全能力普惠，共同推動標(biāo)識制度全面落地。
三是內(nèi)容標(biāo)識是推進(jìn)國際合作的重要方向，構(gòu)筑標(biāo)準(zhǔn)引領(lǐng)增強(qiáng)國際互信。 當(dāng)前，人形機(jī)器人、智能體等AI應(yīng)用快速發(fā)展，進(jìn)一步加速人工智能全球風(fēng)險傳播速度、加劇責(zé)任跨境追溯難度。內(nèi)容標(biāo)識作為技術(shù)規(guī)制的“通用語言”，可成為彌合各國監(jiān)管差異、推進(jìn)國際合作的有效抓手。為配合《 標(biāo)識 辦法》有效落地，我國先后發(fā)布《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》及7項標(biāo)準(zhǔn)實(shí)踐指南，推動內(nèi)容標(biāo)識制度的工程化、技術(shù)化、標(biāo)準(zhǔn)化。未來，系列標(biāo)準(zhǔn)將在實(shí)踐中積累形成“內(nèi)容標(biāo)識工具包”，成為可推廣可復(fù)制的國際公共產(chǎn)品，推動安全可信AI惠及更多國家和人民。
作者：李強(qiáng)治 中國信息通信研究院政策與經(jīng)濟(jì)研究所副所長
轉(zhuǎn)載請注明來源：“網(wǎng)信中國”微信公眾號
審核：陳舞陽
編輯： 呂燕芳
校對：趙 娟