編者按：2022年，多個人工智能應(yīng)用“出圈”，并大有取代部分人類智力工作的趨勢。人工智能技術(shù)的快速發(fā)展，既令人驚嘆，又帶來不少焦慮。技術(shù)的快速發(fā)展讓人工智能相關(guān)的法律問題以及倫理治理顯得格外緊迫。本刊推出一組報道供參考。

本刊記者 焦艷

2022年12月11日，國家互聯(lián)網(wǎng)信息辦公室、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），對AI換臉等深度合成應(yīng)用邊界作出限定，并要求深度合成服務(wù)提供者落實信息安全主體責(zé)任等，其中提出，深度合成服務(wù)提供者提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)?！兑?guī)定》自2023年1月10日起施行。

帶來諸多風(fēng)險挑戰(zhàn)

近年來，深度合成在社交、影視、廣告、醫(yī)療、教育、科研等諸多領(lǐng)域不斷深化應(yīng)用，展現(xiàn)出較大的技術(shù)價值和商用潛力?！兑?guī)定》明確，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《規(guī)定》的出臺，正是為了加強(qiáng)針對互聯(lián)網(wǎng)信息服務(wù)深度合成的管理，統(tǒng)籌協(xié)調(diào)相關(guān)監(jiān)管工作，確保相關(guān)技術(shù)與應(yīng)用納入規(guī)范化、法治化軌道，維護(hù)國家安全和社會公共利益。

伴隨著不斷涌現(xiàn)的場景需求，深度合成內(nèi)容數(shù)量和關(guān)注度日漸激增的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益。“我們所熟知的元宇宙場景構(gòu)建，AI換臉換頭，包括這段時間大火的Chat GPT，都屬于深度合成技術(shù)?！北本┐蟪陕蓭熓聞?wù)所高級合伙人肖颯律師認(rèn)為，技術(shù)是一把雙刃劍，對技術(shù)的正當(dāng)使用可以推動社會的進(jìn)步，但技術(shù)的濫用則會給公民個人權(quán)利、社會公共秩序以及國家安全帶來諸多風(fēng)險挑戰(zhàn)。以信息傳播失真為例，若不法分子利用深度合成技術(shù)發(fā)布虛假新聞、散布謠言，不僅易造成錯誤輿論導(dǎo)向，也是對社會信任體系的破壞，嚴(yán)重影響社會公共秩序，引發(fā)社會信任危機(jī)。

構(gòu)建協(xié)同治理機(jī)制

我國對互聯(lián)網(wǎng)信息服務(wù)深度合成作出了科學(xué)全面的制度規(guī)范。中國信息通信研究院副院長王志勤撰文表示，一方面，《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護(hù)法、互聯(lián)網(wǎng)信息服務(wù)管理辦法等上位法框架下，《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評估、顯著標(biāo)識、備案管理等制度規(guī)定，對深度合成服務(wù)管理機(jī)制、主體責(zé)任等作出了銜接性制度安排。另一方面，《規(guī)定》構(gòu)建了統(tǒng)籌協(xié)調(diào)、多方參與的監(jiān)管體制?！兑?guī)定》明確，國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國深度合成服務(wù)的治理和監(jiān)督管理工作，國務(wù)院電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作。地方網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)深度合成服務(wù)的治理和監(jiān)督管理工作，地方電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)深度合成服務(wù)的監(jiān)督管理工作?！兑?guī)定》還鼓勵相關(guān)行業(yè)加強(qiáng)行業(yè)自律，搭建齊抓共管、協(xié)同共治的治理機(jī)制。

建立健全辟謠機(jī)制

近幾年，濫用深度合成技術(shù)多次引發(fā)關(guān)注。2019年，AI換臉應(yīng)用ZAO一度走紅，用戶僅需在該應(yīng)用中上傳一張正臉照，即可將自己的面孔與大量影視片段中的明星面孔進(jìn)行置換。但ZAO僅上線幾天就因隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等問題被工信部相關(guān)部門約談。

肖颯說，深度合成技術(shù)和其他互聯(lián)網(wǎng)技術(shù)最大的不同在于其極易混淆性，《規(guī)定》專門列出兩條來解決這個問題：一是重點(diǎn)提示，二是要有辟謠機(jī)制。

《規(guī)定》明確，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依法依規(guī)保存日志信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認(rèn)；提供非上述深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識功能，并提示使用者可以進(jìn)行顯著標(biāo)識。任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識。

《規(guī)定》明確，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)主管部門報告。肖颯說，鑒于深度合成技術(shù)成品具有一定迷惑性，對公眾可能產(chǎn)生誤導(dǎo)，因此該機(jī)制是一項必要措施。

近年來，探索深度合成技術(shù)的治理路徑，如何在創(chuàng)新與治理之間平衡、積極尋求正向解決方案和規(guī)范機(jī)制成為業(yè)界關(guān)注熱點(diǎn)。肖颯說，由于技術(shù)門檻的持續(xù)降低，目前已經(jīng)出現(xiàn)越來越多的不法分子利用深度合成技術(shù)實施詐騙、敲詐勒索等犯罪行為，針對中老年等弱勢群體的尤其多，且呈現(xiàn)出犯罪成功率高、詐騙金額大等特點(diǎn)。基于此，對深度合成技術(shù)的治理必須盡快提上日程，監(jiān)管機(jī)構(gòu)需要盡快建立和出臺一套切實可行的規(guī)范，而行業(yè)自律組織也需要建立起促進(jìn)科技向上向善的行業(yè)準(zhǔn)則，多方合力實現(xiàn)對深度合成技術(shù)應(yīng)用風(fēng)險的多維度治理。