2022年，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），為蓬勃發(fā)展的深度合成技術(shù)應(yīng)用劃定了清晰的監(jiān)管邊界，標志著我國在人工智能治理領(lǐng)域邁出了關(guān)鍵一步。本課件旨在對該《規(guī)定》的核心內(nèi)容、出臺背景及重要意義進行梳理與解讀。
一、 出臺背景：技術(shù)雙刃劍呼喚規(guī)范發(fā)展
深度合成技術(shù)，指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。從“AI換臉”到智能寫作，從虛擬主播到數(shù)字人，深度合成技術(shù)應(yīng)用場景不斷拓展，在娛樂、教育、醫(yī)療、商業(yè)等領(lǐng)域展現(xiàn)出巨大潛力。技術(shù)濫用也帶來了諸多風(fēng)險與挑戰(zhàn)：偽造音視頻進行詐騙誹謗、制造虛假信息擾亂社會秩序、侵犯個人肖像權(quán)與名譽權(quán)等事件時有發(fā)生，給國家安全、社會公共利益和公民合法權(quán)益帶來嚴重威脅。在此背景下，《規(guī)定》的出臺旨在興利除弊，促進技術(shù)健康有序發(fā)展，維護網(wǎng)絡(luò)空間清朗。
二、 核心要點：明確責(zé)任，劃定紅線
《規(guī)定》共五章二十五條，主要內(nèi)容可概括為以下幾個方面：
- 明確定義與適用范圍：清晰界定了“深度合成技術(shù)”和“深度合成服務(wù)提供者”、“深度合成服務(wù)使用者”等概念，明確了管理規(guī)定適用于利用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的行為。
- 壓實主體責(zé)任：要求深度合成服務(wù)提供者（包括技術(shù)支持者）落實主體責(zé)任，建立健全管理制度，包括：
- 真實身份認證：對深度合成服務(wù)使用者進行真實身份信息認證。
- 內(nèi)容管理義務(wù)：采取技術(shù)或人工方式對深度合成信息內(nèi)容進行審核，并建立健全辟謠機制。
- 顯著標識義務(wù)：對使用深度合成技術(shù)生成的圖像、視頻等內(nèi)容，進行顯著標識（如添加水印、標簽等），避免公眾誤解。
- 數(shù)據(jù)與技術(shù)管理：加強訓(xùn)練數(shù)據(jù)管理，確保數(shù)據(jù)合法合規(guī)；定期審核、評估、驗證算法機制機理。
- 規(guī)范服務(wù)使用行為：要求深度合成服務(wù)使用者（包括組織和個人）不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動，不得制作、復(fù)制、發(fā)布、傳播違法和不良信息。使用深度合成技術(shù)制作、發(fā)布信息時，應(yīng)進行顯著標識。
- 強調(diào)安全評估與標識：對具有輿論屬性或社會動員能力的深度合成服務(wù)，以及生成或編輯生物識別信息、可能涉及國家安全與社會公共利益的場景，提出了安全評估的要求。再次強化了對合成內(nèi)容的標識規(guī)定。
- 明確監(jiān)督檢查與法律責(zé)任：規(guī)定網(wǎng)信、電信、公安等部門的監(jiān)督管理職責(zé)，并明確了違反規(guī)定的相應(yīng)法律責(zé)任，為監(jiān)管執(zhí)法提供了依據(jù)。
三、 重要意義：平衡創(chuàng)新與治理，構(gòu)建可信生態(tài)
《規(guī)定》的頒布實施具有深遠意義：
- 劃定發(fā)展軌道：為深度合成技術(shù)的研發(fā)與應(yīng)用提供了明確的法律遵循和行為指南，有助于引導(dǎo)技術(shù)向善，防范技術(shù)濫用風(fēng)險。
- 保護公民權(quán)益：通過標識義務(wù)、內(nèi)容審核等規(guī)定，有效保護公民個人信息、肖像權(quán)、名譽權(quán)等免受深度合成技術(shù)濫用的侵害。
- 維護國家安全與社會穩(wěn)定：通過建立安全評估、內(nèi)容治理等機制，有力防范和抵制利用深度合成技術(shù)制作、傳播虛假有害信息，破壞社會穩(wěn)定、危害國家安全的行為。
- 促進產(chǎn)業(yè)健康發(fā)展：明確的規(guī)則有助于營造穩(wěn)定、公平、透明的市場環(huán)境，增強用戶信任，從而推動深度合成技術(shù)及相關(guān)產(chǎn)業(yè)在合規(guī)框架下持續(xù)創(chuàng)新與繁榮。
四、 與展望
《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是我國網(wǎng)絡(luò)空間法治化進程中的重要里程碑，是全球范圍內(nèi)較早系統(tǒng)性規(guī)制深度合成技術(shù)的規(guī)范性文件之一。它體現(xiàn)了“技術(shù)發(fā)展、治理先行”的監(jiān)管理念，在鼓勵技術(shù)創(chuàng)新的牢牢守住安全底線。隨著技術(shù)的不斷演進，相關(guān)治理規(guī)則也需動態(tài)調(diào)整。需要政府部門、行業(yè)企業(yè)、技術(shù)社群和廣大用戶共同努力，推動技術(shù)倫理、標準體系、檢測技術(shù)等多方面協(xié)同發(fā)展，最終構(gòu)建一個安全、可靠、負責(zé)任的深度合成技術(shù)應(yīng)用生態(tài)，讓技術(shù)進步更好地造福社會。
