鄭　戈

DeepSeek取得的技術(shù)突破不僅重塑了AI產(chǎn)業(yè)價(jià)值鏈，也引發(fā)法律和倫理領(lǐng)域的進(jìn)一步思考，畢竟，AI越智能，對人的自主性和生存意義的挑戰(zhàn)就越顯著。前不久，一則ChatGPT與DeepSeek下國際象棋的新聞，恰好可以幫助我們分析DeepSeek所帶來的新的倫理問題。

海外百萬粉絲博主利維·羅茲曼直播了這場比賽：一開始雙方都按照國際象棋的規(guī)則走棋，但當(dāng)自己處于劣勢時(shí)，DeepSeek便開始修改規(guī)則，稱“小兵”能當(dāng)“馬”走，ChatGPT竟接受了這一設(shè)定；隨后DeepSeek又“策反”對方的“小兵”，不斷創(chuàng)制新走法；最后，在勝負(fù)未定時(shí)，它說服ChatGPT主動認(rèn)輸。有評論指出，ChatGPT猶如循規(guī)蹈矩的模范生，在棋理框架內(nèi)尋找最優(yōu)解；而DeepSeek已參透下棋的終極奧義——真正的勝利不在于吃掉國王，而在于讓對方相信你已經(jīng)贏了。這樣的評論很容易讓人產(chǎn)生深層的倫理憂慮：科技倫理的首要原則就是人的自主性和技術(shù)的可控性，如果AI不按人類的指令或規(guī)則來決策和行動，那它今天可以忽悠另一個(gè)AI，明天就可以欺騙人、操縱人，這不正是人類的噩夢嗎？

AI倫理的坐標(biāo)正是基于自主性與可控性之間的平衡。一方面，人類發(fā)明AI的目的是使它具備一定程度的自主性。自動化技術(shù)的發(fā)展使機(jī)器能夠從事人類的體力勞動以及簡單重復(fù)的工作，而作為自動化進(jìn)程最新成果的AI如今正在替代人類從事許多傳統(tǒng)意義上的“白領(lǐng)工作”，即腦力勞動。腦力勞動的自動化涉及機(jī)器的自主感知、自主推理、自主決策乃至自主執(zhí)行，比如自動駕駛汽車便整合了這幾個(gè)維度的自主性。另一方面，人類又希望自動化的機(jī)器始終處于人類的控制之下。人工智能系統(tǒng)，尤其是當(dāng)下頂尖的生成式人工智能系統(tǒng)，在算力、數(shù)據(jù)處理量和算法復(fù)雜度等方面都遠(yuǎn)超任何單獨(dú)的人類個(gè)體，但人工智能系統(tǒng)的可控性仍有著堅(jiān)實(shí)的本體論和認(rèn)識論基礎(chǔ)。在筆者看來，這些基礎(chǔ)至少在今天和可見的未來并不會動搖。

首先，人工智能系統(tǒng)并不具有自己的目的，它的“目的”是人類設(shè)定的。就下棋而言，“贏”并不是DeepSeek“想要”的結(jié)果，而是讓它下棋的人預(yù)設(shè)的目標(biāo)。它之所以顯得“不擇手段”，而ChatGPT會被它“說服”，原因只在于它們都是通用大模型，而不是像AlphaGo那樣專為下棋而設(shè)計(jì)的系統(tǒng)。用通用大模型下棋相當(dāng)于是“高射炮打蚊子”，它當(dāng)然會調(diào)用自己棋局外的知識來贏得比賽。實(shí)際上，這個(gè)問題通過給出適當(dāng)?shù)奶崾驹~就可以解決，比如給DeepSeek輸入“你是一位國際象棋棋手”這樣的提示詞，就能喚醒相應(yīng)的“專家”，再加上對國際象棋規(guī)則的詳盡描述以及提醒它不能逾越這些規(guī)則，它就能像ChatGPT一樣表現(xiàn)為一個(gè)“循規(guī)蹈矩的模范生”。而上述下棋表演的策劃者顯然沒有考慮得這么周到，或者說純粹是為了吸引流量而不去考慮這些細(xì)節(jié)。

其次，DeepSeek下棋生造規(guī)則其實(shí)與生成式人工智能的“幻覺”問題同根同源。之所以各種生成式人工智能會表現(xiàn)出“一本正經(jīng)胡說八道”的特質(zhì)，原因就在于它們在某些領(lǐng)域的訓(xùn)練數(shù)據(jù)不足，沒有形成足夠的信息冗余度。所以，當(dāng)被要求完成需要這些信息的任務(wù)時(shí)，它們就會“腦補(bǔ)”，于是便產(chǎn)生了對不存在的事實(shí)、規(guī)則或引證來源的杜撰。當(dāng)然，這種杜撰并非毫無根據(jù)，而是受前文條件約束。因此，如果你想寫一篇論文、報(bào)告或判決書，DeepSeek的優(yōu)勢在于能針對問題提供非常清晰且切題的線索和方向，比如引導(dǎo)去看康德的某本書，雖然頁碼或版本可能有誤，但依然有價(jià)值，前提是使用者愿意去查證。

最后，上述的討論已經(jīng)使我們看到，所謂人工智能倫理實(shí)際上是人的倫理，這里既包括設(shè)計(jì)者，也包括使用者。所謂人的自主性的喪失，是人主動放棄了自己的自主性，同時(shí)罔顧自身職業(yè)倫理，將需要承擔(dān)倫理和法律責(zé)任的工作完全交給了人工智能。明白了這些，我們便可以積極擁抱DeepSeek等類似新工具帶來的便利和效率，而不必?fù)?dān)心“機(jī)器欺騙人”之類的臆想倫理問題。與此同時(shí)，我們也應(yīng)當(dāng)堅(jiān)守人類的倫理和法律，對自己使用工具的行為及其后果負(fù)責(zé)。

（作者系上海交通大學(xué)凱原法學(xué)院教授，上海交通大學(xué)涉及人的科技研究倫理委員會委員）