張吉豫

近日，張文宏醫(yī)生“被AI帶貨”一事引發(fā)社會廣泛關(guān)注。有網(wǎng)友反映家中老人在網(wǎng)絡(luò)上看到了一個視頻，視頻中“張文宏醫(yī)生”正在推薦一款蛋白棒，出于對張文宏醫(yī)生的信賴，老人不僅自己下單購買，還將相關(guān)視頻轉(zhuǎn)發(fā)到多個微信群。經(jīng)核實，該視頻為AI（人工智能）合成。對于“被AI帶貨”，張文宏醫(yī)生無奈地回應(yīng)，其本人多次向平臺投訴，但虛假視頻屢禁不絕，賣貨賬號也一直在更換。

張文宏醫(yī)生“被AI帶貨”可謂當(dāng)下人工智能技術(shù)被濫用的一個縮影。近年來，人工智能技術(shù)飛速發(fā)展，基于大模型的生成式人工智能技術(shù)更是突飛猛進。人們可以方便地使用人工智能技術(shù)來生成、合成具有較高自然度和真實感的圖像及音視頻內(nèi)容，特別是能夠模擬真實人物的聲音，并生成表情和口型都與講述內(nèi)容相符的視頻，達到以假亂真的效果。這類技術(shù)在電影修復(fù)、數(shù)字人主播、便利聽障人士的手語動作生成以及電商平臺的數(shù)字虛擬“試衣”“試妝”等領(lǐng)域發(fā)揮了積極作用，但其濫用也帶來了一系列問題，其中非常突出的就是通過生成知名人物的虛假視頻進行“知識傳播”或產(chǎn)品銷售，進而誤導(dǎo)消費者。

我國對深度合成技術(shù)應(yīng)用治理高度重視。民法典明確規(guī)定，不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，并特別規(guī)定了對自然人聲音的保護，為人工智能時代的權(quán)利保護奠定了堅實基礎(chǔ)。此外，類似知名人物“被AI帶貨”的事件，還涉及損害被模仿者的名譽權(quán)等權(quán)利，同時也損害了消費者的知情權(quán)、選擇權(quán)等權(quán)益，并對合法商家造成不正當(dāng)競爭。從中長期來看，如果不對濫用人工智能技術(shù)的行為加以規(guī)制，還可能造成社會信任危機，使人們對真實信息也產(chǎn)生懷疑，進而影響社會的效率、秩序和安定。

針對這一問題，我國已出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章，從構(gòu)建技術(shù)與法律相結(jié)合的解決機制的角度，作出了一系列針對性規(guī)定。首先，明確任何組織和個人不得使用人工智能技術(shù)生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；深度合成服務(wù)提供者應(yīng)當(dāng)加強對深度合成內(nèi)容的管理，采取措施進行審核。當(dāng)然，在當(dāng)前技術(shù)條件下，法律無法、也不宜要求深度合成服務(wù)提供者消除所有風(fēng)險。其次，深度合成服務(wù)提供者對于提供的深度合成服務(wù)，應(yīng)當(dāng)按照法律規(guī)定，根據(jù)具體情況進行必要的、顯著的標(biāo)識，或進行隱式標(biāo)識以便機器識別。同時，任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識。這種標(biāo)識義務(wù)為后續(xù)可信數(shù)據(jù)空間的建立奠定了重要基礎(chǔ)。

今年9月，國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，中央網(wǎng)信辦也同步發(fā)布了《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標(biāo)識方法（征求意見稿）》強制性國家標(biāo)準(zhǔn)，擬進一步提供細致規(guī)范。相關(guān)規(guī)范擬規(guī)定用戶上傳人工智能生成內(nèi)容時，應(yīng)當(dāng)主動聲明并使用平臺提供的標(biāo)識功能進行標(biāo)識，這樣可以進一步擴展具有標(biāo)識義務(wù)的主體范圍，為人工智能生成內(nèi)容的識別提供多一重保障。同時擬規(guī)定“提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動”，以明確傳播平臺的核驗和提示義務(wù)，即信息內(nèi)容傳播平臺應(yīng)當(dāng)核驗相關(guān)內(nèi)容是否已經(jīng)被標(biāo)識或聲明為人工智能生成內(nèi)容，并應(yīng)當(dāng)根據(jù)生成合成痕跡等信息提醒用戶疑似生成合成內(nèi)容，幫助用戶避免被誤導(dǎo)或欺騙。

盡管我們已經(jīng)初步建立了必要的法律體系，也在進一步完善技術(shù)與法律相結(jié)合的標(biāo)識——核驗制度，但違反法律規(guī)定、濫用人工智能技術(shù)進行虛假宣傳、虛假帶貨等情況依然存在。要想有效治理此類亂象，一方面，政府部門、平臺企業(yè)和科研工作者應(yīng)加強協(xié)作，積極探索有效措施，不斷增強在人工智能時代抵御技術(shù)濫用的能力；另一方面，監(jiān)管機構(gòu)可與各傳播平臺合作，通過推動傳播科普、防詐騙視頻等方式，進一步普及相關(guān)科技知識和法律知識，提升人民群眾在人工智能時代的風(fēng)險防范意識?！?/p>

（作者系中國人民大學(xué)法學(xué)院副教授、未來法治研究院執(zhí)行院長）