面對人工智能安全治理這一世界性難題，國家網(wǎng)信辦等四部門適時出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），在全球率先提出保障人工智能安全可信的中國方案，具有里程碑式的重要意義。

《標(biāo)識辦法》聚焦人工智能生成合成內(nèi)容標(biāo)識關(guān)鍵點，通過標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為，以合理成本提高安全性，促進(jìn)人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地，同時減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為，推動人工智能健康有序發(fā)展。

人工智能生成合成內(nèi)容的定義與范圍

根據(jù)《標(biāo)識辦法》，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。這一定義包含兩類技術(shù)，一是人工智能生成技術(shù)；二是人工智能深度合成技術(shù)。

人工智能生成技術(shù)，是一種基于算法、模型和規(guī)則，能夠生成文本、圖片、聲音、視頻等多元內(nèi)容的技術(shù)。不同于傳統(tǒng)的人工智能僅對輸入數(shù)據(jù)進(jìn)行處理和分析，生成式人工智能可以學(xué)習(xí)并模擬事物的內(nèi)在規(guī)律，根據(jù)用戶的輸入資料生成具有邏輯性和連貫性的新內(nèi)容。

人工智能深度合成（Deep Synthesis）技術(shù)，也被稱為深度偽造（Deepfake），是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。深度合成技術(shù)包括但不限于：篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；圖像生成、圖像增強、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)。

標(biāo)識形式與具體要求

《標(biāo)識辦法》明確了人工智能生成合成內(nèi)容標(biāo)識的兩種形式：一是顯式標(biāo)識，二是隱式標(biāo)識。

顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識。根據(jù)《標(biāo)識辦法》第四條的規(guī)定，服務(wù)提供者提供生成合成服務(wù)屬于智能對話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)，應(yīng)當(dāng)按照下列要求履行對生成合成內(nèi)容添加顯式標(biāo)識的義務(wù)：

在文本的起始、末尾或者中間適當(dāng)位置添加文字提示或者通用符號提示等標(biāo)識，或者在交互場景界面、文字周邊添加顯著的提示標(biāo)識；

在音頻的起始、末尾或者中間適當(dāng)位置添加語音提示或者音頻節(jié)奏提示等標(biāo)識，或者在交互場景界面中添加顯著的提示標(biāo)識；

在圖片的適當(dāng)位置添加顯著的提示標(biāo)識；

在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識，可以在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識；

呈現(xiàn)虛擬場景時，在起始畫面的適當(dāng)位置添加顯著的提示標(biāo)識，可以在虛擬場景持續(xù)服務(wù)過程中的適當(dāng)位置添加顯著的提示標(biāo)識；

其他生成合成服務(wù)場景根據(jù)自身應(yīng)用特點添加顯著的提示標(biāo)識。

《標(biāo)識辦法》強調(diào)，服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識。

隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。根據(jù)《標(biāo)識辦法》第五條的規(guī)定，服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識。

文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容。

各主體的標(biāo)識義務(wù)與責(zé)任邊界

《標(biāo)識辦法》明確界定了服務(wù)提供者、傳播平臺、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺和用戶的相關(guān)標(biāo)識義務(wù)。

服務(wù)提供者的標(biāo)識義務(wù)：服務(wù)提供者應(yīng)當(dāng)對文本、圖片、音頻、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息；應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識管理要求。

傳播平臺的核驗義務(wù)：提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施，規(guī)范生成合成內(nèi)容傳播活動：

核驗文件元數(shù)據(jù)中是否含有隱式標(biāo)識，文件元數(shù)據(jù)明確標(biāo)明為生成合成內(nèi)容的，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，明確提醒公眾該內(nèi)容屬于生成合成內(nèi)容；

文件元數(shù)據(jù)中未核驗到隱式標(biāo)識，但用戶聲明為生成合成內(nèi)容的，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，提醒公眾該內(nèi)容可能為生成合成內(nèi)容；

文件元數(shù)據(jù)中未核驗到隱式標(biāo)識，用戶也未聲明為生成合成內(nèi)容，但提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者檢測到顯式標(biāo)識或者其他生成合成痕跡的，識別為疑似生成合成內(nèi)容，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，提醒公眾該內(nèi)容疑似生成合成內(nèi)容；

提供必要的標(biāo)識功能，并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。

有前款第一項至第三項情形的，應(yīng)當(dāng)在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺名稱或者編碼、內(nèi)容編號等傳播要素信息。

互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺的審核義務(wù)：互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)?；ヂ?lián)網(wǎng)應(yīng)用程序服務(wù)提供者提供人工智能生成合成服務(wù)的，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料。

用戶的標(biāo)識義務(wù)：用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識。如果用戶申請服務(wù)提供者提供沒有添加顯式標(biāo)識的生成合成內(nèi)容的，服務(wù)提供者可以在通過用戶協(xié)議明確用戶的標(biāo)識義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識的生成合成內(nèi)容，并依法留存提供對象信息等相關(guān)日志不少于六個月。

主要平臺的響應(yīng)與實施情況

隨著《標(biāo)識辦法》9月1日正式實施，各大平臺紛紛響應(yīng)，推出相應(yīng)的標(biāo)識措施。

抖音平臺近期公布了一項關(guān)于人工智能生成內(nèi)容（AI內(nèi)容）管理的重要更新，旨在提升平臺內(nèi)容的透明度與用戶體驗。據(jù)悉，抖音平臺已推出兩大核心功能，以應(yīng)對日益增長的AI內(nèi)容。第一項功能為AI內(nèi)容標(biāo)識，它鼓勵內(nèi)容創(chuàng)作者為使用AI技術(shù)生成的內(nèi)容主動添加明確標(biāo)識，使用戶能夠輕松區(qū)分此類內(nèi)容。第二項功能則是AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫，該功能能夠識別并記錄AI內(nèi)容的元數(shù)據(jù)，為內(nèi)容的追蹤與驗證提供技術(shù)支持。

抖音強調(diào)，所有在平臺上制作和發(fā)布AI內(nèi)容的賬戶，必須使用平臺提供的標(biāo)識功能進(jìn)行聲明。對于未主動標(biāo)識的AI內(nèi)容，抖音將采用技術(shù)手段進(jìn)行檢測，并對疑似由AIGC技術(shù)生成的內(nèi)容補充添加提示標(biāo)識。抖音還會為所有發(fā)布的AI內(nèi)容添加隱式標(biāo)識，包含關(guān)鍵傳播信息，以強化全鏈路管理。

對于未主動添加標(biāo)識的創(chuàng)作者，抖音將采取輔助措施。平臺會檢測疑似使用AIGC技術(shù)生成的內(nèi)容，并為其添加”疑似使用了AI生成技術(shù)，請謹(jǐn)慎甄別”的標(biāo)識。同時，如果AIGC技術(shù)服務(wù)提供者在生成AI內(nèi)容時已在元數(shù)據(jù)中添加隱式標(biāo)識，抖音在核驗出該信息后，將在作品頁面添加”作品含AI生成內(nèi)容”的標(biāo)識。

DeepSeek于9月1日公告稱，為貫徹落實《人工智能生成合成內(nèi)容標(biāo)識辦法》及《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》等國家標(biāo)準(zhǔn)的相關(guān)要求，防止AI生成內(nèi)容可能引發(fā)的公眾混淆、誤認(rèn)以及信息失實的風(fēng)險，DeepSeek已在平臺內(nèi)對AI生成合成內(nèi)容添加標(biāo)識，并明確提醒用戶相關(guān)內(nèi)容由AI生成。

小紅書、嗶哩嗶哩、Soul等平臺已基本完成顯式標(biāo)識規(guī)范上線，加快開發(fā)上線隱式標(biāo)識和傳播鏈互認(rèn)驗證，小紅書牽頭編制圖片模態(tài)元數(shù)據(jù)標(biāo)識實踐指南，上海標(biāo)識工作取得階段性成效。

實施初期的主要成效

《標(biāo)識辦法》的實施已經(jīng)在多個方面取得了初步成效：

首先，提升了內(nèi)容的可追溯性。通過顯式和隱式雙標(biāo)識系統(tǒng)，內(nèi)容從生成到傳播的全鏈條都能被有效追蹤。

其次，提高了監(jiān)管效率。標(biāo)識制度的實施可以讓監(jiān)管部門更便捷地識別AI生成內(nèi)容，追溯內(nèi)容的來源和傳播軌跡，以合理成本提高安全性。以往對于生成式人工智能的監(jiān)管需要按個案判斷，難度較大，而現(xiàn)在通過標(biāo)識可以實現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。

第三，促進(jìn)了產(chǎn)業(yè)合規(guī)發(fā)展?！稑?biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》通過細(xì)化生成合成內(nèi)容管理規(guī)則，推動了人工智能產(chǎn)業(yè)標(biāo)準(zhǔn)化進(jìn)程，構(gòu)建了一個更加公平、透明且高效的市場環(huán)境，不僅增強了市場主體參與產(chǎn)業(yè)的積極性，助力傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級，還促進(jìn)了產(chǎn)業(yè)鏈上下游的協(xié)同創(chuàng)新，為產(chǎn)業(yè)規(guī)?；l(fā)展提供了內(nèi)生動力，從而助力國產(chǎn)生成式人工智能生態(tài)的健康發(fā)展。

第四，增強了公眾對AI內(nèi)容的辨識能力。通過顯式標(biāo)識，用戶能夠更加清晰地辨別AI生成內(nèi)容，從而避免被虛假信息誤導(dǎo)。

第五，規(guī)范了內(nèi)容傳播秩序。通過對傳播平臺設(shè)置核驗義務(wù)，《標(biāo)識辦法》有效規(guī)范了AI生成內(nèi)容在網(wǎng)絡(luò)空間的傳播，防止了虛假信息的擴散。

實施過程中面臨的挑戰(zhàn)

盡管《標(biāo)識辦法》的實施取得了積極成效，但在實際操作過程中仍面臨一些挑戰(zhàn)：

首先，技術(shù)執(zhí)行層面的挑戰(zhàn)。隱式標(biāo)識的元數(shù)據(jù)標(biāo)準(zhǔn)雖然具有創(chuàng)新性，但在實際執(zhí)行中，可能面臨被規(guī)避和移除的風(fēng)險。各平臺需要繼續(xù)探索技術(shù)上可行的統(tǒng)一路線，確保隱式標(biāo)識的穩(wěn)定性和可靠性。同時，對于不同內(nèi)容形態(tài)的顯式標(biāo)識，也需要進(jìn)一步優(yōu)化標(biāo)識方案，提高標(biāo)識的可識別性和用戶接受度。

其次，用戶體驗與商業(yè)利益的平衡。嚴(yán)格執(zhí)行標(biāo)識規(guī)定可能會對用戶體驗和商業(yè)利益產(chǎn)生一定影響。例如，某短視頻平臺數(shù)據(jù)顯示，嚴(yán)格執(zhí)行視頻起始3秒標(biāo)識將導(dǎo)致用戶完播率下降19%。這就需要探索如動態(tài)弱化技術(shù)（如透明度漸變）等方式，在滿足合規(guī)要求的同時，盡量減少對用戶體驗和商業(yè)運營的負(fù)面影響。

第三，誤判率問題。由于算法存在數(shù)據(jù)偏差和場景適配不足等問題，可能會出現(xiàn)原創(chuàng)內(nèi)容被誤判為AI生成的情況，導(dǎo)致創(chuàng)作者權(quán)益受損。因此，需要建立相應(yīng)的保障機制，如完善復(fù)核機制，建立便捷、有效的申訴渠道，以解決誤判問題，保護創(chuàng)作者的合法權(quán)益。

第四，標(biāo)識統(tǒng)一性和互操作性問題。不同平臺和服務(wù)提供者在標(biāo)識實施上可能存在差異，這可能導(dǎo)致標(biāo)識的不一致性和互操作性問題。如何建立統(tǒng)一的標(biāo)識標(biāo)準(zhǔn)和互操作機制，是需要進(jìn)一步解決的問題。

第五，技術(shù)成本問題。對于一些小型企業(yè)和開發(fā)者來說，實施復(fù)雜的標(biāo)識技術(shù)可能會增加成本和技術(shù)負(fù)擔(dān)。如何降低技術(shù)實施門檻，讓更多的市場主體能夠合規(guī)運營，是需要考慮的問題。

未來發(fā)展趨勢與建議

隨著AI技術(shù)的不斷發(fā)展，AI生成合成內(nèi)容標(biāo)識技術(shù)也將面臨新的機遇和挑戰(zhàn)。以下是幾個可能的技術(shù)發(fā)展趨勢及應(yīng)對策略：

首先，標(biāo)識技術(shù)的智能化與自動化將成為重要趨勢。未來的標(biāo)識技術(shù)將更加智能化和自動化，能夠自動識別和標(biāo)記AI生成內(nèi)容，減少人工干預(yù)的需求。例如，基于深度學(xué)習(xí)的AI檢測模型將更加精準(zhǔn)和高效，能夠快速識別各種類型的AI生成內(nèi)容。某頭部企業(yè)開發(fā)的DeepTrack系統(tǒng)，對生成文本的檢測準(zhǔn)確率達(dá)91.2%，響應(yīng)時間優(yōu)化至0.4秒。

應(yīng)對策略：建議加大對AI標(biāo)識技術(shù)研發(fā)的投入，推動跨行業(yè)、跨領(lǐng)域的技術(shù)合作，共同開發(fā)更加先進(jìn)、高效的AI標(biāo)識技術(shù)。同時，建立健全技術(shù)標(biāo)準(zhǔn)和規(guī)范，確保不同系統(tǒng)之間的互操作性和兼容性。

其次，多模態(tài)標(biāo)識技術(shù)將得到廣泛應(yīng)用。隨著AI技術(shù)的發(fā)展，未來的AI生成內(nèi)容將更加多樣化和復(fù)雜化，單一模態(tài)的標(biāo)識技術(shù)將難以滿足需求。因此，多模態(tài)標(biāo)識技術(shù)將成為未來的發(fā)展趨勢，能夠同時對文本、圖像、音頻、視頻等多種模態(tài)的內(nèi)容進(jìn)行標(biāo)識和追蹤。

應(yīng)對策略：建議加強多模態(tài)標(biāo)識技術(shù)的研發(fā)和應(yīng)用，建立多模態(tài)標(biāo)識的統(tǒng)一標(biāo)準(zhǔn)和規(guī)范，推動多模態(tài)標(biāo)識技術(shù)在各個領(lǐng)域的應(yīng)用和普及。

第三，區(qū)塊鏈技術(shù)在標(biāo)識中的應(yīng)用將進(jìn)一步深化。區(qū)塊鏈技術(shù)具有不可篡改、可追溯等特點，能夠有效保障標(biāo)識信息的安全性和可靠性。未來，區(qū)塊鏈技術(shù)將與AI標(biāo)識技術(shù)深度融合，為AI生成內(nèi)容提供更加安全、可靠的標(biāo)識和追溯服務(wù)。

應(yīng)對策略：建議探索區(qū)塊鏈技術(shù)在AI標(biāo)識中的應(yīng)用模式和場景，推動區(qū)塊鏈技術(shù)與AI標(biāo)識技術(shù)的融合創(chuàng)新，建立基于區(qū)塊鏈的AI內(nèi)容標(biāo)識和追溯系統(tǒng)。

第四，AI標(biāo)識技術(shù)的國際化將成為必然趨勢。隨著全球化的深入發(fā)展，AI標(biāo)識技術(shù)也需要在國際范圍內(nèi)實現(xiàn)標(biāo)準(zhǔn)化和互認(rèn)，以應(yīng)對跨國傳播的AI生成內(nèi)容帶來的挑戰(zhàn)。

應(yīng)對策略：建議積極參與國際標(biāo)準(zhǔn)的制定和協(xié)調(diào)，推動中國AI標(biāo)識技術(shù)與國際標(biāo)準(zhǔn)的對接和互認(rèn)，提升中國在全球AI治理中的話語權(quán)和影響力。

結(jié)論與展望

《人工智能生成合成內(nèi)容標(biāo)識辦法》的實施，是中國在人工智能治理領(lǐng)域邁出的重要一步，標(biāo)志著中國在規(guī)范AI生成合成內(nèi)容方面進(jìn)入了法治化、標(biāo)準(zhǔn)化的新階段。

《標(biāo)識辦法》的實施，對于規(guī)范人工智能生成合成內(nèi)容的傳播、保護公眾權(quán)益、維護網(wǎng)絡(luò)生態(tài)具有重要意義。它不僅有助于遏制虛假信息傳播、保護用戶權(quán)益，還能提升公眾對AI技術(shù)的信任度，為人工智能產(chǎn)業(yè)的創(chuàng)新與發(fā)展?fàn)I造健康環(huán)境。同時，它體現(xiàn)了中國在科技治理中平衡創(chuàng)新發(fā)展與規(guī)范管理的理念，為全球人工智能治理提供了中國方案。

然而，《標(biāo)識辦法》的實施仍面臨一些挑戰(zhàn)，如技術(shù)執(zhí)行層面的挑戰(zhàn)、用戶體驗與商業(yè)利益的平衡、誤判率問題等。這些挑戰(zhàn)需要政府、企業(yè)、社會組織、學(xué)術(shù)機構(gòu)、公眾等多方共同努力，通過技術(shù)創(chuàng)新、政策優(yōu)化、行業(yè)自律、公眾參與等多種途徑，逐步加以解決。

展望未來，隨著AI技術(shù)的不斷發(fā)展和應(yīng)用，AI生成合成內(nèi)容將更加多樣化和復(fù)雜化，對標(biāo)識工作也將提出更高的要求。因此，需要不斷完善《標(biāo)識辦法》的實施細(xì)則和配套措施，加強技術(shù)創(chuàng)新和應(yīng)用，推動多元主體協(xié)同參與，構(gòu)建更加完善的AI生成合成內(nèi)容標(biāo)識和治理體系。

同時，還需要加強國際合作與交流，積極參與全球AI治理規(guī)則的制定和協(xié)調(diào)，推動中國在AI生成合成內(nèi)容標(biāo)識方面的經(jīng)驗和做法與國際接軌，共同應(yīng)對全球性挑戰(zhàn)，推動構(gòu)建人類命運共同體。

lixiangjing

算力豹主編