序

AGI的火種正在燎原。

一面是無可否認(rèn)的AI生產(chǎn)力，正在賦能千行百業(yè)；而另一面，這團(tuán)火似乎燒向了我們不可控的隱秘角落。

在《AI百態(tài)（上篇）——ChatGPT的“N宗罪”》中，我們提到監(jiān)管重錘在落下，意大利率先下達(dá)禁令，法國、愛爾蘭、德國等不少國家開始效仿，準(zhǔn)備封殺ChatGPT，而加拿大隱私專員辦公室（OPC）就在近日宣布將對(duì)OpenAI展開調(diào)查，指控ChatGPT在未經(jīng)同意的情況下收集、使用和披露個(gè)人信息。

伴隨呼嘯而來的爭(zhēng)議和監(jiān)管風(fēng)暴，GPT走在了命運(yùn)的關(guān)口。

阿西莫夫的科幻世界中，在底層邏輯上給人工智能設(shè)置了三大定律，保證它們作為工具，無法威脅到主人。那么在新世界里，又該如何建立AI世界的文明守則呢？

繼續(xù)Or暫停？一場(chǎng)圍繞AI的激辯正在展開。

是為序。

若按外媒《Axios》的口風(fēng)來看。

4月12日，在舊金山，本該有一場(chǎng)高規(guī)格的會(huì)議，由硅谷知名投資人& SV Angel創(chuàng)始人Ron Conway發(fā)起召集，而參與會(huì)議的來客皆是科技圈頂流巨頭——OpenAI、Google、Microsoft、Stability AI、Nvidia、Hugging Face、Anthropic、Apple......這次聚首將Battle搬到了臺(tái)面上，目標(biāo)直指如何建立盡責(zé)又安全的AI。

而這出戲的前傳則始于一封題為《暫停巨型人工智能實(shí)驗(yàn)》的“千人聯(lián)名”公開信，馬斯克、圖靈獎(jiǎng)得主Yoshua Bengio、Stability AI首席執(zhí)行官Emad Mostaque、紐約大學(xué)教授馬庫斯，以及《人類簡(jiǎn)史》作者Yuval Noah Harari、蘋果聯(lián)合創(chuàng)始人等多名大佬簽名呼吁暫停開發(fā)強(qiáng)大的人工智能（AI）系統(tǒng)，以便有時(shí)間確保它們的安全，他們還為這次暫停定了個(gè)時(shí)間：至少六個(gè)月。

這份極具分量的公開信一舉將AI送上了風(fēng)口浪尖，而隨后比爾蓋茨也公開回應(yīng)：暫停人工智能發(fā)展的呼吁解決不了未來的挑戰(zhàn)。蓋茨稱，大家關(guān)注的焦點(diǎn)應(yīng)該是如何最大程度上利用好人工智能的發(fā)展，停止人工智能的發(fā)展是很難實(shí)現(xiàn)的事情。

針尖對(duì)麥芒，盡管截至算力智庫發(fā)稿前，并沒有關(guān)于此次“硅谷會(huì)議”的更多消息流出，但顯而易見，關(guān)于ChatGPT，關(guān)于AI，仿佛歷史的車輪已經(jīng)駛向了關(guān)乎人類福祉的抉擇時(shí)刻，支持者，反對(duì)者，激進(jìn)者、觀望者或者還有另有目的者，各持主張，論戰(zhàn)正酣，以試圖影響AI的發(fā)展進(jìn)程。

反對(duì)派 VS 支持派

反對(duì)派舉的旗幟是什么？在他們看來：

1、AI有可能會(huì)造成信息污染和擠壓就業(yè)空間

2、人類會(huì)陷入一場(chǎng)失控競(jìng)賽，對(duì)于更強(qiáng)大的AI，沒有人能理解、預(yù)測(cè)和控制。

3、只有確信AI的影響是正面且風(fēng)險(xiǎn)可控的時(shí)候，才能去開發(fā)更強(qiáng)大的AI系統(tǒng)

4、從危險(xiǎn)的競(jìng)賽中退一步，避免研究更大、更難以預(yù)測(cè)、具有突現(xiàn)性能力的黑箱模型。

公開信指出：正如大量研究表明的那樣，具有人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)會(huì)對(duì)社會(huì)和人類構(gòu)成深刻的風(fēng)險(xiǎn)。就連OpenAI創(chuàng)始人Sam Altman也說，無法理解GPT-4的進(jìn)化邏輯。如果人類無法預(yù)測(cè)AI的下一步發(fā)展，不知道它未來是好是壞，那么確實(shí)應(yīng)該更加謹(jǐn)慎。

按照公開信的提議，在暫停期間，人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該共同開發(fā)一套用于高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。如果這種暫停不能迅速頒布，各國政府應(yīng)該介入并制定暫停令。

反對(duì)派的聲浪裹挾著監(jiān)管層的動(dòng)作，4月11日，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，拜登政府已經(jīng)開始研究是否需要對(duì)ChatGPT等人工智能工具實(shí)行檢查。作為潛在監(jiān)管的第一步，美國商務(wù)部4月11日就相關(guān)問責(zé)措施正式公開征求意見，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序，征求意見期限為60天。一家非營利性研究機(jī)構(gòu)人工智能和數(shù)字政策中心（Center for AI and Digital Policy，CAIDP）也將狀告到了美國政府部門。他們要求聯(lián)邦貿(mào)易委員會(huì)（簡(jiǎn)稱 FTC）調(diào)查 OpenAI，聲稱這家新貴公司發(fā)布了 GPT-4，違反了商業(yè)法，同時(shí)他們認(rèn)為該產(chǎn)品具有欺騙性并將人們置于危險(xiǎn)之中。

反對(duì)派認(rèn)為當(dāng)下的AI是猛獸，野性十足，還有待馴服，這點(diǎn)“AI支持派”不置可否。

而較為激烈的爭(zhēng)執(zhí)之一則是是否要讓政府直接重度介入，吳恩達(dá)——反對(duì)“反對(duì)派”的陣營中的大拿代表，同時(shí)也是當(dāng)前人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的一方泰斗，谷歌大腦的締造者、世界上最大的在線學(xué)習(xí)平臺(tái)之一Coursera的創(chuàng)始人。他直接反駁了馬斯克等人要求政府介入干預(yù)的觀點(diǎn)：讓政府暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，這會(huì)樹立一個(gè)可怕先例，是糟糕的創(chuàng)新政策，尤其是對(duì)6個(gè)月的暫停期他表達(dá)的了強(qiáng)烈的反感。

這位著名學(xué)者認(rèn)為：提高人工智能安全性的解決方法，應(yīng)該是圍繞透明度和審計(jì)建立更加實(shí)用的法規(guī)，而不是政府“因噎廢食”般的一紙禁令。

“政府的手可以伸，但利用政府之手來消滅市場(chǎng)矛盾，其實(shí)是諾斯悖論的體現(xiàn)，最極端的結(jié)果是創(chuàng)新失活，經(jīng)濟(jì)倒退，而或許別有用心者借國家暴力機(jī)器來打壓對(duì)手為自己謀得時(shí)間機(jī)會(huì)，這個(gè)口子一旦打開，風(fēng)險(xiǎn)遠(yuǎn)比AI更甚”。一位業(yè)內(nèi)專家向算力智庫坦言。

一直以來性格溫和的吳恩達(dá)此番言辭激烈的表態(tài)并不多見。在他的推文下面，Meta數(shù)據(jù)科學(xué)家林致遠(yuǎn)，英偉達(dá)AI研究科學(xué)家Jim Fan也表示了贊同和支持。

而更核心的分歧則是，一眾學(xué)者認(rèn)為反對(duì)派在混淆認(rèn)知，散布AI威脅論，其意是想鼓動(dòng)公眾情緒，卻并沒有在正視如何解決問題。Hugging Face 的研究科學(xué)家兼氣候負(fù)責(zé)人 Sasha Luccioni 表示，“這（公開信）本質(zhì)上是誤導(dǎo)：讓每個(gè)人都注意到 LLM （大型語言模型）的假設(shè)權(quán)力和危害，并提出一種（非常模糊和無效的）解決方法，而不是此時(shí)此地正確看待風(fēng)險(xiǎn)并嘗試解決這些問題——例如，在 LLM 出現(xiàn)時(shí)，可以要求相關(guān)企業(yè)對(duì) LLM 的訓(xùn)練數(shù)據(jù)和能力實(shí)行更高的透明度 ，或有關(guān)何時(shí)何地可以使用它們進(jìn)行立法。”

華盛頓大學(xué)語言學(xué)系教授、公開信中引用的第一篇論文的共同作者 Emily M. Bender 在推特上表示，這封公開信摻雜了“Aihype”（AI炒作），她也認(rèn)為問題的癥結(jié)，不是AI本身，而是更要提防AI背后的人和權(quán)力體系，Bender 反駁說：“我們?cè)?2020 年底寫了一篇論文《隨機(jī)鸚鵡》（2021年發(fā)表），指出這種不考慮風(fēng)險(xiǎn)就一頭扎進(jìn)越來越大的語言模型的做法是一件壞事。但風(fēng)險(xiǎn)和危害從來都不是關(guān)于‘太強(qiáng)大的人工智能’本身，相反，它們是關(guān)于權(quán)力集中在人的手中，關(guān)于壓迫制度的再現(xiàn)，關(guān)于對(duì)信息生態(tài)系統(tǒng)的損害，以及關(guān)于對(duì)自然生態(tài)系統(tǒng)的損害（通過對(duì)能源資源的暴殄天物）。”

相比吳恩達(dá)等人旗幟鮮明的反對(duì)公開信的主張之外，還有另一位人工智能領(lǐng)域大神級(jí)人物也亮明了自己的觀點(diǎn)，他就是圖靈三巨頭之一，卷積之父楊立昆，不過他的出發(fā)點(diǎn)，是在于：公開信無用，人類叫停不了AI。

他在推特上表示，自己并未簽署這封公開信，“我沒簽，我不同意這封信的前提。”之后，他通過網(wǎng)友的推文繼續(xù)表露反感。一位網(wǎng)友表示，OpenAI足足等了6個(gè)月，才發(fā)布了GPT4，而他們甚至為此還寫了一份白皮書。楊立昆轉(zhuǎn)發(fā)了這條推文并附上了自己的評(píng)論：所謂“暫停研發(fā)”，不過就是“秘密研發(fā)”，這與一些公開信簽名者所希望的會(huì)恰恰相反。

的確，暫停巨型AI實(shí)驗(yàn)就像是一個(gè)幌子，人類過去的歷史證明，在國際競(jìng)爭(zhēng)的語境下，“你有我無”的這種情況是不被允許的，“你有我也必須有”，擁核國家牽頭制定“核不擴(kuò)散條約”，但所有人放棄了核武器嗎？并沒有，猜疑鏈已形成，這種足以帶來先進(jìn)生產(chǎn)力甚至下一代科技革命的超級(jí)AI工具，沒有國家會(huì)試圖放棄和叫停。

國外Reddit論壇上的一條評(píng)論已經(jīng)能說明這一問題：Guess who’s not gonna stop：China。國內(nèi)科技界的聲音似乎也在印證這點(diǎn)，360創(chuàng)始人周鴻祎在微博上回應(yīng)馬斯克請(qǐng)?jiān)附型�GPT-5研發(fā)一事，“不管你愿不愿意，GPT都將引領(lǐng)一場(chǎng)新的工業(yè)革命，意義超越互聯(lián)網(wǎng)和iPhone的發(fā)明。它將帶來生產(chǎn)力的大幅提升，進(jìn)而提升國家競(jìng)爭(zhēng)力。中國一定要迎頭趕上。”周鴻祎表示。

周鴻祎也承認(rèn)，最近人工智能的指數(shù)級(jí)躍變確實(shí)有點(diǎn)讓人措手不及。對(duì)于馬斯克的請(qǐng)?jiān)感�，他不了解�?nèi)幕，但猜測(cè)是GPT的進(jìn)化路上出現(xiàn)了超乎人類想象的現(xiàn)象。對(duì)于人類如何應(yīng)對(duì)AI帶來的未來安全挑戰(zhàn)，誰也沒法給出確定答案，但做安全出身的他堅(jiān)定認(rèn)為，不發(fā)展才是最大的不安全。

值得一提的是，在這場(chǎng)各派系此起彼伏的不休爭(zhēng)論中，伴隨著支持派的高密度游說，監(jiān)管層面的信號(hào)似乎也有所松動(dòng)。

當(dāng)?shù)貢r(shí)間4月12日，意大利數(shù)據(jù)保護(hù)局 （Garante）提出了一系列聊天機(jī)器人ChatGPT在該國恢復(fù)使用的要求。并表示，在解決監(jiān)管機(jī)構(gòu)的擔(dān)憂后，意大利當(dāng)局將暫停對(duì)OpenAI處理該國用戶數(shù)據(jù)的臨時(shí)限制令，OpenAl也將再次在意大利開放。根據(jù)Garante的要求，OpenAI必須在其網(wǎng)站上發(fā)布信息，說明它如何以及為什么處理用戶和非用戶的個(gè)人信息，并提供更正或刪除這些數(shù)據(jù)的選項(xiàng)。

即便OpenAI作為這場(chǎng)唇槍舌劍的靶子，首當(dāng)其沖，但不得不承認(rèn)這波技術(shù)炒作周期還是讓OpenAI吃足了紅利。在持續(xù)的熱度下，一些競(jìng)爭(zhēng)對(duì)手和企業(yè)利用OpenAI開發(fā)的生成式AI軟件制作應(yīng)用。使用OpenAI技術(shù)需要獲得授權(quán)，拿到授權(quán)要付費(fèi)，一美分或者稍多能生成2萬單詞的文本，按照書面提示生成一張圖片大約要2美分。根據(jù) PitchBook 的數(shù)據(jù)，OpenAI 今年?duì)I收將達(dá)到 2 億美元，比 2022 年增長(zhǎng) 150%，2024 年將達(dá)到 10 億美元，這意味著增長(zhǎng) 400%，公司估值達(dá)到200億美元。

Reaction背后的“不同算盤“

公共場(chǎng)域的議論，從來都是箭無虛發(fā)，每一支箭頭的去向，都藏著利益相關(guān)者的訴求。

人工智能領(lǐng)域的資深作家莎倫·戈?duì)柕侣�指出，企業(yè)高管并不擔(dān)心人工智能摧毀人類，他們只關(guān)心人工智能和機(jī)器學(xué)習(xí)是否能提高工人的工作效率、優(yōu)化客戶服務(wù)。

OpenAI的首席執(zhí)行官Sam Altman一邊宣稱他“有點(diǎn)害怕”公司的人工智能技術(shù)，一邊“正幫助建設(shè)和盡可能廣泛地推廣技術(shù)，以獲取利潤”。洛杉磯時(shí)報(bào)表示：一個(gè)高調(diào)的技術(shù)公司的首席執(zhí)行官或高管，反復(fù)在公眾舞臺(tái)上渲染對(duì)自己正在建設(shè)和銷售的產(chǎn)品的擔(dān)憂，這種行為背后的邏輯只能是“關(guān)于人工智能可怖力量的世界末日論有助于他的營銷戰(zhàn)略”。

深諳此套路的不止Sam Altman，馬斯克堪稱“AI威脅論”的擁躉，在各種公開場(chǎng)合貢獻(xiàn)了不少激進(jìn)語錄，譬如“AI對(duì)人類文明的威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等、人工智能可能引發(fā)第三次世界大戰(zhàn)、通過人工智能，我們正在召喚惡魔、人工智能要比核武器危險(xiǎn)得多、未來AI若達(dá)到人類智商水平并掌握了財(cái)政、武器及關(guān)鍵基礎(chǔ)設(shè)施，將有可能摧毀文明甚至毀滅人類”。但在炮制AI恐怖論的另一邊，馬斯克在美國內(nèi)華達(dá)州成立了一家名為X.AI的人工智能（AI）公司，旨在與聊天機(jī)器人ChatGPT的開發(fā)公司Open AI展開競(jìng)爭(zhēng)。內(nèi)華達(dá)州備案文件顯示，馬斯克是為X.AI的唯一董事。

似乎這封公開信成為了一出“緩兵之計(jì)”，潛臺(tái)詞是：在AI這條跑道，等等我，先停一下，再過6個(gè)月，我就能趕上你們了。

前白宮科技政策辦公室助理主任文卡塔蘇尼安認(rèn)為，“很多偽裝成技術(shù)討論的東西，背后都有一個(gè)巨大的政治議程。” 圍繞人工智能的討論已經(jīng)從技術(shù)和科學(xué)領(lǐng)域轉(zhuǎn)移到了政治和權(quán)力領(lǐng)域。

的確，這場(chǎng)AI之爭(zhēng)的戰(zhàn)線，并沒有止戈于科技圈，在AI的陣地上，各國都意在借此機(jī)會(huì)，搶奪話語權(quán)。

歐盟首先打響了第一槍，意大利之后，德國，法國、愛爾蘭、西班牙等歐洲國家都勢(shì)在收緊對(duì)AI的監(jiān)管，隱私安全只是其因一，更深層次的原因或許是從《通用數(shù)據(jù)保護(hù)條例》（GDPR）到《數(shù)字市場(chǎng)法案》一脈相承的理念，即在互聯(lián)網(wǎng)世界里建立歐盟的數(shù)字邊疆。

據(jù)悉，在歐盟逐步制定全世界最具約束性的人工智能管理方法之際，歐洲議會(huì)準(zhǔn)備對(duì)人工智能的使用實(shí)施嚴(yán)厲的新措施，其中包括要求聊天機(jī)器人開發(fā)商披露他們是否使用了受版權(quán)保護(hù)的材料。此舉旨在讓內(nèi)容創(chuàng)作者有權(quán)獲得報(bào)酬，議員們還希望，誤用或?yàn)E用人工智能項(xiàng)目的責(zé)任由OpenAI這樣的開發(fā)者而不是使用人工智能的小企業(yè)來承擔(dān)。

很顯然，歐盟對(duì)于ChatGPT強(qiáng)硬態(tài)度的背后，是對(duì)美國科技巨頭在歐洲攫取用戶數(shù)據(jù)并大獲其利的長(zhǎng)期積怨，如今在互聯(lián)網(wǎng)世界，諸如Facebook、Amazon、Microsoft、Apple、騰訊、阿里巴巴、字節(jié)跳動(dòng)等叫得上號(hào)的科技巨頭都是來自中美，歐盟則幾乎是互聯(lián)網(wǎng)時(shí)代的失意者，此舉或許是想為本土的生成式人工智能留足生存空間。

此前，歐盟對(duì)谷歌、蘋果、Facebook、亞馬遜和微軟等美國科技巨頭都提出過多項(xiàng)重大指控，其中包括濫用個(gè)人數(shù)據(jù)、扼殺競(jìng)爭(zhēng)、未繳納足夠稅款、竊取媒體內(nèi)容以及通過傳播虛假新聞等。

而作為既得利益者的美國，在AI監(jiān)管方式的選擇上，美國更強(qiáng)調(diào)AI的創(chuàng)新和發(fā)展，以維護(hù)美國作為全球AI創(chuàng)新領(lǐng)導(dǎo)者的地位，因此對(duì)于立法監(jiān)管采取非常謹(jǐn)慎的態(tài)度，因此更傾向于通過組織自愿適用的指引、框架或標(biāo)準(zhǔn)等非監(jiān)管方法對(duì)AI應(yīng)用采取軟治理。

美國NIST在今年1月26日發(fā)布的《AI風(fēng)險(xiǎn)管理框架1.0》便是例子，其遵循的思路主要是“基于風(fēng)險(xiǎn)的治理”，在美國的這份框架中，包括治理、映射、測(cè)量和管理的四個(gè)部分，治理指要在組織的制度流程、組織建設(shè)、組織文化、技術(shù)能力等方面踐行AI風(fēng)險(xiǎn)管理框架；映射主要用于確定特定場(chǎng)景與其對(duì)應(yīng)的AI風(fēng)險(xiǎn)解決方案；測(cè)量主要采用定量和/或定性的工具、技術(shù)和方法來分析、評(píng)估、測(cè)試和監(jiān)控AI風(fēng)險(xiǎn)及其相關(guān)影響；管理主要是將相關(guān)資源分配給相應(yīng)的AI風(fēng)險(xiǎn)，進(jìn)行風(fēng)險(xiǎn)處置。從這份框架以及美國4月頒布的《人工智能問責(zé)政策征求意見》可以看出美國在制定人工智能監(jiān)管方面政策時(shí)，重點(diǎn)在于問責(zé)明確。

值得關(guān)注的是，與歐盟相同，美國也拒絕對(duì)AI應(yīng)用進(jìn)行無差別監(jiān)管，強(qiáng)調(diào)應(yīng)根據(jù)AI應(yīng)用帶來的風(fēng)險(xiǎn)和后果進(jìn)行差異化的分級(jí)監(jiān)管。

與此同時(shí)，4月11日，中國國家互聯(lián)網(wǎng)信息辦公室也下發(fā)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》的通知，其透露的監(jiān)管思路也是“基于風(fēng)險(xiǎn)的管理”，重點(diǎn)體現(xiàn)在對(duì)作為AI核心技術(shù)的數(shù)據(jù)和算法的監(jiān)管上，目前已有《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法規(guī)有交叉涉及，但尚未有一個(gè)專門針對(duì)AI的整體立法框架。

人工智能需要“鎖在籠子里”，但鎖住后的結(jié)果會(huì)如愿嗎？

研究表明，歐盟的人工智能法案的實(shí)施成本將吞噬歐洲人工智能投資的17%，目前該風(fēng)險(xiǎn)并非僅是理論性存在。2020年6月歐盟進(jìn)展報(bào)告顯示《通用數(shù)據(jù)保護(hù)條例》實(shí)施的碎片化和各實(shí)施機(jī)構(gòu)的資源投入不足，不僅導(dǎo)致其生效的附加治理的效應(yīng)不足，還降低了進(jìn)入歐洲市場(chǎng)的風(fēng)投資本規(guī)模，谷歌在歐洲的市場(chǎng)份額不僅沒有下降，反而劇增。《通用數(shù)據(jù)保護(hù)條例》的實(shí)踐證明嚴(yán)格的標(biāo)準(zhǔn)正在產(chǎn)生意外的后果。

而今AI法案即將落定，作為全球首部人工智能立法，其效力范圍不僅局限于歐盟范圍內(nèi)，而且有廣泛的域外效應(yīng)，不僅是歐盟統(tǒng)一大市場(chǎng)的規(guī)模讓任何企業(yè)都無法忽視AI法案，更重要的是在新技術(shù)領(lǐng)域內(nèi)規(guī)范影響力的獨(dú)特的路徑依賴效應(yīng)，一旦規(guī)則形成將難以撼動(dòng)。正如歐盟《通用數(shù)據(jù)保護(hù)條例》所顯示的，歐洲規(guī)則很快成為在數(shù)據(jù)保護(hù)領(lǐng)域內(nèi)的國際標(biāo)準(zhǔn)，這種意外的后果很難說不會(huì)再發(fā)生在人工智能身上，屆時(shí)吹響的不知道該是AI的哀歌？還是號(hào)角？

       原文標(biāo)題 : 藏在GPT背后的治理分歧：那些贊同和反對(duì)的人們｜AI百態(tài)（下篇）