文/陳根

今年5月，人工智能安全中心曾發(fā)布一份由350位人工智能領(lǐng)域的科學(xué)家與企業(yè)高管聯(lián)名簽署的《人工智能風(fēng)險(xiǎn)聲明》，聲明稱“降低人工智能導(dǎo)致人類滅絕的風(fēng)險(xiǎn)，應(yīng)該與流行病及核戰(zhàn)爭等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起，成為全球優(yōu)先事項(xiàng)”。彼時(shí)，由 OpenAI、谷歌和微軟等公司的數(shù)百名首席執(zhí)行官和科學(xué)家簽署的這一句援引人類滅絕威脅的話，也成為了全球頭條新聞。

4個(gè)多月過去，今天，社會(huì)對(duì)人工智能技術(shù)的擔(dān)憂不減反增。隨著以ChatGPT為代表的大模型進(jìn)入應(yīng)用，人們越來越意識(shí)到它的危險(xiǎn)性：它有可能制造和傳播錯(cuò)誤信息；它有能力取代或改變工作崗位；以及它變得比人類更智能并取代人類的風(fēng)險(xiǎn)。如何對(duì)人工智能技術(shù)進(jìn)行監(jiān)管已成為當(dāng)前迫在眉睫的全球議題。

層出不窮的問題

從來沒有哪項(xiàng)技術(shù)能夠像人工智能一樣引發(fā)人類無限的暢想，而在給人們帶來快捷和便利的同時(shí)，人工智能也成為一個(gè)突出的國際性的科學(xué)爭議熱題，人工智能技術(shù)的顛覆性讓我們也不得不考慮其背后潛藏的巨大危險(xiǎn)。

早在2016年11月世界經(jīng)濟(jì)論壇編纂的《全球風(fēng)險(xiǎn)報(bào)告》列出的12項(xiàng)亟需妥善治理的新興科技中，人工智能與機(jī)器人技術(shù)就名列榜首。尤瓦爾·赫拉利在《未來簡史》中也曾預(yù)言，智人時(shí)代可能會(huì)因技術(shù)顛覆，特別是人工智能和生物工程技術(shù)的進(jìn)步而終結(jié)，因?yàn)槿斯ぶ悄軙?huì)導(dǎo)致絕大多數(shù)人類失去功用。

究其原因，人工智能技術(shù)并不是一項(xiàng)單一技術(shù)，其涵蓋面及其廣泛，而“智能”二字所代表的意義又幾乎可以代替所有的人類活動(dòng)。就當(dāng)前的現(xiàn)實(shí)來說，生成式人工智能的爭議性主要集中在對(duì)人們的隱私權(quán)構(gòu)成新的挑戰(zhàn)，使內(nèi)容造假或者作惡的門檻降低。

比如，前段時(shí)間，在互聯(lián)網(wǎng)平臺(tái)，“AI孫燕姿”翻唱的《發(fā)如雪》《下雨天》等走紅，抖音平臺(tái)上也出現(xiàn)了“AI孫燕姿”的合集。很快，“AI周杰倫”“AI王菲”等也都相繼問世。“AI歌手”主要是利用AI技術(shù)提取歌手的音色特征，對(duì)其他歌曲進(jìn)行翻唱。但“AI歌手”是否涉及侵權(quán)卻并無定論，也無監(jiān)管。

與“AI歌手”相似的，是AI繪畫。AI繪畫是指利用AI技術(shù)來生成內(nèi)容的新型創(chuàng)作方式，同樣因著作權(quán)的歸屬問題頻頻惹出爭議，遭到大批畫師抵制。全球知名視覺藝術(shù)網(wǎng)站ArtStation上的千名畫師曾發(fā)起聯(lián)合抵制，禁止用戶將其畫作投放AI繪畫系統(tǒng)。

除了AI歌手和AI繪畫外，AI寫書、AI新聞采編也越來越多的出現(xiàn)在互聯(lián)網(wǎng)中，此前，就有網(wǎng)友發(fā)現(xiàn)，亞馬遜網(wǎng)上書店有兩本關(guān)于蘑菇的書籍為AI所創(chuàng)造。這兩本書的作者，署名都為 Edwin J. Smith，但事實(shí)上，根本不存在這個(gè)人。書籍內(nèi)容經(jīng)過軟件檢測，85% 以上為 AI 撰寫。更糟糕的是，它關(guān)于毒蘑菇的部分是錯(cuò)的，如果相信它的描述，可能會(huì)誤食有毒蘑菇。紐約真菌學(xué)會(huì)為此發(fā)了一條推特，提醒用戶只購買知名作者和真實(shí)采集者的書籍，這可能會(huì)關(guān)系到你的生命。

AI合成除了引發(fā)版權(quán)相關(guān)的爭議，也讓AI詐騙有了更多的空間。當(dāng)前，AIGC的制作成本越來越低，也就是說，誰都可以通過AIGC產(chǎn)品生成想要的圖片或者其他內(nèi)容，但問題是，沒有人能承擔(dān)這項(xiàng)技術(shù)被濫用的風(fēng)險(xiǎn)。今年以來，已經(jīng)有太多新聞，報(bào)道了AI生成軟件偽造家人的音頻和視頻，騙錢騙財(cái)。據(jù)FBI統(tǒng)計(jì)，AI生成的DeepFake在勒索案中已經(jīng)成為了不可忽視的因素，尤其是跟性相關(guān)的勒索。當(dāng)假的東西越真時(shí)，我們辨別假東西的成本也越大。

AI技術(shù)同時(shí)也引發(fā)了數(shù)據(jù)安全的爭議。比如，今年6月，由16人匿名提起訴訟，聲稱OpenAI與其主要支持者微軟公司在數(shù)據(jù)采集方面違背了合法獲取途徑，選擇了未經(jīng)同意與付費(fèi)的方式，進(jìn)行個(gè)人信息與數(shù)據(jù)的收集。起訴人稱，OpenAI為了贏得“AI軍備競賽”，大規(guī)模挪用個(gè)人數(shù)據(jù)，非法訪問用戶與其產(chǎn)品的互動(dòng)以及與ChatGPT集成的應(yīng)用程序產(chǎn)生的私人信息，根據(jù)這份長達(dá)157頁的訴訟文件，OpenAI以秘密方式從互聯(lián)網(wǎng)上抓取了3000億個(gè)單詞，并獲取了“書籍、文章、網(wǎng)站和帖子——包括未經(jīng)同意獲得的個(gè)人信息”，行為違反了隱私法。

顯然，盡管ChatGPT稱得上是一項(xiàng)革命性的突破，但其與其他生成式AI應(yīng)用對(duì)人類社會(huì)造出的風(fēng)險(xiǎn)也是不可忽視的。

全球醞釀監(jiān)管措施 

隨著AI風(fēng)險(xiǎn)的凸顯，各國也把對(duì)于AI的監(jiān)管提上日程。

斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報(bào)告》中提到，對(duì)127個(gè)國家立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個(gè)增長到2022年的37個(gè)。報(bào)告對(duì)81個(gè)國家2016年以來的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。

具體監(jiān)管方面，歐洲議會(huì)在今年6月，率先通過了一項(xiàng)名為《人工智能法案》（AI Act）的法律草案，該法案將對(duì)被視為該技術(shù)最危險(xiǎn)的用途施加新的限制——投票禁止實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)，歐盟禁令意味著不能在公共場合實(shí)時(shí)人臉掃描；同時(shí)要求OpenAI和谷歌等公司必須進(jìn)行風(fēng)險(xiǎn)評(píng)估，并披露更多用于創(chuàng)建程序的數(shù)據(jù)。不僅如此，《人工智能法案》將人工智能風(fēng)險(xiǎn)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限的風(fēng)險(xiǎn)和極小的風(fēng)險(xiǎn)四級(jí)，對(duì)應(yīng)不同的監(jiān)管要求。

在美國，7月21日，包含亞馬遜、谷歌、微軟、OpenAI、Meta、Anthropic和Inflection在內(nèi)的7家人工智能巨頭公司參與了白宮峰會(huì)，這些公司的代表與美國總統(tǒng)拜登會(huì)面，為防范AI風(fēng)險(xiǎn)做出了8項(xiàng)承諾。

其中有一項(xiàng)內(nèi)容很有意思，這7家AI巨頭聯(lián)合宣布——將會(huì)開發(fā)出一種水印技術(shù)，在所有AI生成的內(nèi)容中嵌入水印。OpenAI在官網(wǎng)中表示，將會(huì)研發(fā)一種水印機(jī)制，加入到視頻或音頻中。還會(huì)開發(fā)一種檢測工具，判斷特定內(nèi)容是否含有系統(tǒng)創(chuàng)建的工具或API。谷歌也表示，除了水印以外，還會(huì)有其它創(chuàng)新型技術(shù)，把關(guān)信息推廣。

就國內(nèi)來看，今年4月11日，國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》，到7月13日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，僅僅用了3個(gè)月的時(shí)間，并且自2023年8月15日起施行。

與此同時(shí)，《辦法》做出了一系列的規(guī)范和管理措施，《辦法》明確了提供和使用生成式人工智能服務(wù)的總體要求，提出國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。

這也讓我們看到，面對(duì)AI技術(shù)挑戰(zhàn)，人類已經(jīng)開始了自律行動(dòng)，目的就是讓AI更好的服務(wù)于人類社會(huì)。正如以往的任何一次工業(yè)革命，盡管都對(duì)人類社會(huì)帶來了巨大的影響，也存在一些負(fù)面?zhèn)�害，但人類最終都能在技術(shù)的協(xié)同中，將正向價(jià)值發(fā)揮到最大，并且最大程度的通過一些規(guī)則來降低技術(shù)的負(fù)面影響。

同樣，在AI技術(shù)所引發(fā)的第四次工業(yè)革命浪潮下，盡管目前我們還不清楚技術(shù)的潛在負(fù)面，但對(duì)于已經(jīng)預(yù)見到的潛在影響，人類已經(jīng)在尋找解決方案。

人工智能向善發(fā)展

其實(shí)，不管監(jiān)管會(huì)怎樣前進(jìn)，最終目的都是引導(dǎo)人工智能向善發(fā)展，只有人工智能向善，人類才能與機(jī)器協(xié)同建設(shè)人類文明。當(dāng)然，這個(gè)問題本身并不復(fù)雜，本質(zhì)上來看，作為一種技術(shù)，人工智能并沒有善惡之分，但人類卻有。

可以預(yù)見，隨著ChatGPT的進(jìn)一步發(fā)展，人工智能還將滲透到社會(huì)生活的各領(lǐng)域并逐漸接管世界，諸多個(gè)人、企業(yè)、公共決策背后都將有人工智能的參與。而如果我們?nèi)螒{算法的設(shè)計(jì)者和使用者將一些價(jià)值觀進(jìn)行數(shù)據(jù)化和規(guī)則化，那么人工智能即便是自己做出道德選擇時(shí)，也會(huì)天然帶著價(jià)值導(dǎo)向而并非中立。

說到底，ChatGPT是人類教育與訓(xùn)練的結(jié)果，它的信息來源于我們?nèi)祟惿鐣?huì)。ChatGPT的善惡也由人類決定。如果用通俗的方式來表達(dá)，教育與訓(xùn)練ChatGPT正如果我們訓(xùn)練小孩一樣，給它投喂什么樣的數(shù)據(jù)，它就會(huì)被教育成什么類型的人。這是因?yàn)槿斯ぶ悄芡ㄟ^深度學(xué)習(xí) “學(xué)會(huì)”如何處理任務(wù)的唯一根據(jù)就是數(shù)據(jù)。

因此，數(shù)據(jù)具有怎么樣的價(jià)值導(dǎo)向，有怎么樣的底線，就會(huì)訓(xùn)練出怎么樣的人工智，如果沒有普世價(jià)值觀與道德底線，那么所訓(xùn)練出來的人工智能將會(huì)成為非常恐怖的工具。而如果通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差，就可以污染人工智能系統(tǒng)。

有報(bào)道表示，ChatGPT在新聞?lì)I(lǐng)域的應(yīng)用會(huì)成為造謠基地。這種看法本身就是人類的偏見與造謠。因?yàn)槿魏渭夹g(shù)的本身都不存在善與惡，只是一種中性的技術(shù)。而技術(shù)所表現(xiàn)出來的善惡背后是人類對(duì)于這項(xiàng)技術(shù)的使用，比如核技術(shù)的發(fā)展，被應(yīng)用于能源領(lǐng)域就能成為服務(wù)人類社會(huì)，能夠發(fā)電給人類社會(huì)帶來光明。但是這項(xiàng)技術(shù)如果使用于戰(zhàn)爭，那對(duì)于人類來說就是一種毀滅，一種黑暗，一種惡。人工智能由人創(chuàng)造，為人服務(wù)，這也將使我們的價(jià)值觀變得更加重要。

過去，無論是汽車的問世，還是電腦和互聯(lián)網(wǎng)的崛起，人們都很好地應(yīng)對(duì)了這些轉(zhuǎn)型時(shí)刻，盡管經(jīng)歷了不少波折，但人類社會(huì)最終變得更好了。在汽車首次上路后不久，就發(fā)生了第一起車禍。但我們并沒有禁止汽車，而是頒布了限速措施、安全標(biāo)準(zhǔn)、駕照要求、酒駕法規(guī)和其他交通規(guī)則。

我們現(xiàn)在正處于另一個(gè)深刻變革的初期階段——人工智能時(shí)代。這類似于在限速和安全帶出現(xiàn)之前的那段不確定時(shí)期。人工智能發(fā)展得如此迅速，導(dǎo)致我們尚不清楚接下來會(huì)發(fā)生什么。當(dāng)前技術(shù)如何運(yùn)作，人們將如何利用人工智能違法亂紀(jì)，以及人工智能將如何改變社會(huì)和作為獨(dú)立個(gè)體的我們，這些都對(duì)我們提出了一系列嚴(yán)峻考驗(yàn)。

在這樣的時(shí)刻，感到不安是很正常的。但歷史表明，解決新技術(shù)帶來的挑戰(zhàn)依然是完全有可能的。而這種可能性，正取決于我們?nèi)祟悺?/p>

       原文標(biāo)題 : 陳根：層出不窮的AI問題，該如何監(jiān)管？