整治AI技術(shù)濫用，并不是反對(duì)AI技術(shù)應(yīng)用，而是在規(guī)范中尋求技術(shù)發(fā)展的空間，做到鼓勵(lì)創(chuàng)新與防范風(fēng)險(xiǎn)的平衡。

王石川

為規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，中央網(wǎng)信辦近日印發(fā)通知，在全國(guó)范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。本次專項(xiàng)行動(dòng)分兩個(gè)階段開展，重點(diǎn)整治13類突出問題。

當(dāng)前，AI技術(shù)已走入我們的生活，其在給人們工作生活帶來諸多便利的同時(shí)，也被不法分子盯上并濫用，由此帶來的“花樣”違法犯罪問題層出不窮。例如，今年全國(guó)兩會(huì)期間，全國(guó)政協(xié)委員、中國(guó)煤礦文工團(tuán)團(tuán)長(zhǎng)靳東直言：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣，希望能建立更好的規(guī)則。”再如，2024年，一男子使用AI去衣技術(shù)偽造近7000張裸照，最終被追究法律責(zé)任。這些案例表明，AI技術(shù)濫用帶來的風(fēng)險(xiǎn)已危害到了社會(huì)秩序和公眾權(quán)益。由此可見，開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，來得正是時(shí)候。整治AI技術(shù)濫用，避免濫用AI沖擊道德倫理和法治底線，既是大眾的強(qiáng)烈呼聲，也是社會(huì)治理的應(yīng)有之義。

此次專項(xiàng)行動(dòng)著眼于技術(shù)源頭治理，落腳于內(nèi)容生態(tài)整治，精準(zhǔn)鎖定六大突出問題與七類社會(huì)公害，體現(xiàn)了我國(guó)在AI治理方面的系統(tǒng)思維，比如行動(dòng)既劍指利用AI制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容，也整治利用AI假冒他人實(shí)施侵權(quán)違法行為，以及利用AI從事網(wǎng)絡(luò)水軍活動(dòng)等，可以說是全面治理。

在奔著問題去的同時(shí)，此次專項(xiàng)行動(dòng)還提出加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。這一系列安排傳遞出明確信號(hào)：相關(guān)部門并不是簡(jiǎn)單止步于消除AI技術(shù)濫用的種種亂象，而是致力于推動(dòng)構(gòu)建全生命周期監(jiān)管體系，讓AI服務(wù)和應(yīng)用更規(guī)范。

此前某短視頻平臺(tái)發(fā)布報(bào)告稱，2024年借助科普傳播、反詐宣傳，以及一系列安全治理措施，累計(jì)攔截不實(shí)信息超500萬條，處理低質(zhì)AI內(nèi)容超93萬條，處罰同質(zhì)化發(fā)文超781萬篇。對(duì)此，有專家指出，這些數(shù)據(jù)揭示了AI時(shí)代謠言治理的殘酷現(xiàn)實(shí)：當(dāng)技術(shù)普惠與人性弱點(diǎn)結(jié)合時(shí)，我們正面臨一場(chǎng)前所未有的認(rèn)知戰(zhàn)爭(zhēng)。

基于此，整治AI技術(shù)濫用不能僅停留在處理多少低質(zhì)AI內(nèi)容，打掉多少濫用AI技術(shù)而走向犯罪深淵的不法分子，還應(yīng)深度思考如何推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力，如何健全AI生成合成內(nèi)容審核機(jī)制，如何引導(dǎo)各方正確認(rèn)識(shí)和應(yīng)用人工智能技術(shù)等。

當(dāng)然，整治AI技術(shù)濫用，并不是反對(duì)AI技術(shù)應(yīng)用，而是在規(guī)范中尋求技術(shù)發(fā)展的空間，做到鼓勵(lì)創(chuàng)新與防范風(fēng)險(xiǎn)的平衡。因此，此次專項(xiàng)行動(dòng)絕非技術(shù)管制，而是構(gòu)建“技術(shù)向善”生態(tài)的系統(tǒng)工程。一方面，通過技術(shù)手段識(shí)別和攔截AI濫用行為，推動(dòng)“以技術(shù)反制技術(shù)”的治理創(chuàng)新；另一方面，進(jìn)一步明確相關(guān)人員的倫理責(zé)任、平臺(tái)的內(nèi)容審核義務(wù)、公眾的監(jiān)督權(quán)利，以形成多方共治的制度閉環(huán)。這種疏堵結(jié)合的治理邏輯，既為AI技術(shù)劃定了不可逾越的紅線，也為其健康發(fā)展保留了創(chuàng)新空間。

整治AI技術(shù)濫用，既需要久久為功，也需要多方協(xié)力，構(gòu)建一個(gè)由平臺(tái)、有關(guān)部門與公眾共同參與的治理體系。必須承認(rèn)，AI治理目前還面臨著法律法規(guī)滯后與技術(shù)快速創(chuàng)新之間的矛盾。所以，在這個(gè)過程中，還需要在完善立法等方面多下功夫。

當(dāng)前，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》已付諸實(shí)施，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》也將于9月1日起施行。隨著相關(guān)制度的不斷完善，整治AI技術(shù)濫用的法治基礎(chǔ)更加堅(jiān)實(shí)。但正如業(yè)內(nèi)人士所稱，治理AI違法犯罪需不斷健全法治體系，以實(shí)現(xiàn)“AI技術(shù)發(fā)展到哪里，法律法規(guī)就延伸到哪里”，通過增強(qiáng)立法的前瞻性、精準(zhǔn)性和落地性，更好地消除AI技術(shù)濫用帶來的危害。

數(shù)字時(shí)代的文明高度，取決于技術(shù)向善的能力與社會(huì)治理的精度。技術(shù)向善不僅需要法律政策約束，也需要行業(yè)自律與社會(huì)共識(shí)的形成。此次“清朗”行動(dòng)啟示我們，必須凝聚社會(huì)共識(shí)，只有將法治剛性、技術(shù)韌性與人性溫度融為一體，形成治理合力，實(shí)現(xiàn)“智治”與“善治”的統(tǒng)一，才能讓AI技術(shù)更好服務(wù)人類社會(huì)，給人類帶來更多福祉。