除了被稱(chēng)為室溫超導(dǎo)體的LK-99可能只是曇花一現(xiàn)外，我從未見(jiàn)過(guò)有什么事情比生成式人工智能更受追捧。許多公司的估值達(dá)到數(shù)十億美元，新聞報(bào)道不絕于耳；從硅谷到華盛頓，再到日內(nèi)瓦，所有人都在談?wù)撍��?/p>

但實(shí)際上，目前的收入還未達(dá)到預(yù)期，甚至可能永遠(yuǎn)無(wú)法實(shí)現(xiàn)。

這些估值預(yù)計(jì)會(huì)有萬(wàn)億美元的市場(chǎng)，但目前生成式人工智能的實(shí)際收入據(jù)傳僅為數(shù)億美元。盡管這些收入可能會(huì)增長(zhǎng)1000倍，但這純屬猜測(cè)。我們不應(yīng)該簡(jiǎn)單地假設(shè)它會(huì)實(shí)現(xiàn)。

到目前為止，大部分收入似乎來(lái)自兩個(gè)方面， 一是編寫(xiě)半自動(dòng)代碼（程序員喜歡使用生成工具作為助手），二是撰寫(xiě)文本 。

我認(rèn)為，程序員將樂(lè)于使用生成式人工智能的輔助工具；其自動(dòng)補(bǔ)全特性對(duì)他們的工作非常有幫助，而且他們受過(guò)培訓(xùn)，能夠發(fā)現(xiàn)和修復(fù)并不常見(jiàn)的錯(cuò)誤。本科生們將繼續(xù)使用生成式人工智能，但他們的口袋并不寬裕（他們很可能會(huì)轉(zhuǎn)向開(kāi)源的競(jìng)爭(zhēng)對(duì)手）。

其他潛在付費(fèi)客戶可能很快失去興趣。今天上午，頗具影響力的風(fēng)險(xiǎn)投資家Benedict Evans在“X”（原Twitter）上發(fā)表了一系列文章，提到了這一問(wèn)題：

我那些試圖使用ChatGPT來(lái)回答搜索，以幫助學(xué)術(shù)研究的朋友們也面臨著類(lèi)似的失望。一位律師在法律研究中使用ChatGPT后受到了法官的譴責(zé)，并書(shū)面承諾以后不在無(wú)監(jiān)督的情況下使用ChatGPT。幾周前，一則新聞報(bào)道稱(chēng)，GPT的使用可能正在減少。

如果Evans的經(jīng)歷是一個(gè)警示信號(hào)，那么整個(gè)生成式人工智能領(lǐng)域，在目前的估值下，可能會(huì)迅速走向終結(jié)。程序員會(huì)繼續(xù)使用它，那些需要撰寫(xiě)大量文案來(lái)推廣產(chǎn)品，以提高搜索引擎排名的營(yíng)銷(xiāo)人員也會(huì)繼續(xù)使用它。但無(wú)論是編碼還是速度、質(zhì)量平平的文案寫(xiě)作，都遠(yuǎn)遠(yuǎn)不足以維持當(dāng)前的估值夢(mèng)想。

即使是OpenAI，也很難實(shí)現(xiàn)其290億美元的估值；如果年復(fù)一年只能實(shí)現(xiàn)數(shù)千萬(wàn)或數(shù)億美元的營(yíng)收，那么估值低至數(shù)十億美元的競(jìng)爭(zhēng)初創(chuàng)公司很可能最終倒閉。微軟今年的股價(jià)上漲了近一半，或許主要是由于人工智能的期望，但其股價(jià)可能會(huì)下跌；NVIDIA的股價(jià)飆升得更厲害，但也可能會(huì)回落。

最近，我和軟件投資領(lǐng)域的早期先鋒Roger McNamee討論了這個(gè)問(wèn)題。也許唯一真正吸引我們的經(jīng)濟(jì)應(yīng)用場(chǎng)景是搜索。例如，使用由ChatGPT支持的必應(yīng)代替谷歌搜索，但是相關(guān)的技術(shù)問(wèn)題非常巨大；我們沒(méi)有理由認(rèn)為“幻覺(jué)”問(wèn)題會(huì)很快得到解決。如果不能解決，泡沫很容易破滅。

但現(xiàn)在讓我擔(dān)心的不僅僅是整個(gè)生成式人工智能經(jīng)濟(jì)，更多地是基于期望而非實(shí)際商業(yè)用途，將來(lái)可能會(huì)出現(xiàn)大規(guī)模、令人痛心的修正，還有我們正在把整個(gè)世界和國(guó)家政策建立在人工智能生成將改變世界的前提之上，而事后看來(lái)，這種前提可能是不現(xiàn)實(shí)的。

在國(guó)家層面上，可能會(huì)延緩保護(hù)消費(fèi)者的監(jiān)管措施（例如圍繞隱私、減少偏見(jiàn)、要求數(shù)據(jù)透明性、打擊虛假信息等），因?yàn)榉磳?duì)意見(jiàn)認(rèn)為應(yīng)盡快推進(jìn)生成式人工智能的發(fā)展。我們可能無(wú)法獲得所需的消費(fèi)者保護(hù)，因?yàn)槲覀冋�試圖培育一種可能不會(huì)如預(yù)期增長(zhǎng)的東西。

在我看來(lái)，幾乎所有人都犯了一個(gè)根本性的錯(cuò)誤，那就是認(rèn)為生成式人工智能等同于AGI（通用人工智能，智能和機(jī)敏程度與人類(lèi)相當(dāng)或更高）。

也許每個(gè)行業(yè)的人都希望你相信AGI即將來(lái)臨。這激發(fā)了他們對(duì)必然性的敘述，并推動(dòng)了他們的股價(jià)和初創(chuàng)公司的估值。Anthropic公司的首席執(zhí)行官Dario Amodei最近預(yù)測(cè)，我們將在2-3年內(nèi)實(shí)現(xiàn)AGI。谷歌DeepMind首席執(zhí)行官Demis Hassabis也對(duì)近期的AGI做出了預(yù)測(cè)。

我對(duì)此深表懷疑。 在生成式人工智能的核心問(wèn)題上，我們面臨的不是一個(gè)，而是許多嚴(yán)重的、尚未解決的問(wèn)題 ，從它們?nèi)菀字圃旎糜X(jué)與虛假信息，到它們無(wú)法可靠地與Wolfram Alpha等外部工具可靠對(duì)接，再到從一個(gè)月到另一個(gè)月的不穩(wěn)定（這使得它們無(wú)法在大型系統(tǒng)中進(jìn)行工程應(yīng)用）。

現(xiàn)實(shí)情況是，除了純粹的技術(shù)樂(lè)觀主義之外，我們沒(méi)有任何具體理由認(rèn)為這些問(wèn)題的解決迫在眉睫。通過(guò)擴(kuò)大系統(tǒng)規(guī)模來(lái)擴(kuò)展系統(tǒng)在某些方面有所幫助，但在其他方面則不然；我們?nèi)匀粺o(wú)法保證任何特定系統(tǒng)都是誠(chéng)實(shí)、無(wú)害或有益的，而不是諂媚、不誠(chéng)實(shí)、有害或有偏見(jiàn)的。

人工智能研究人員多年來(lái)一直在研究這些問(wèn)題。幻想這些具有挑戰(zhàn)性的問(wèn)題會(huì)突然全部迎刃而解是不現(xiàn)實(shí)的。22年來(lái)，我一直在抱怨幻覺(jué)錯(cuò)誤；人們一直在承諾解決方案即將到來(lái)，但卻從未實(shí)現(xiàn)。因?yàn)槲覀儸F(xiàn)在的技術(shù)是基于自動(dòng)補(bǔ)全，而不是建立在事實(shí)基礎(chǔ)上的。

過(guò)去一段時(shí)間，人們對(duì)這種擔(dān)憂充耳不聞；但最近一些科技領(lǐng)導(dǎo)者似乎終于明白了這個(gè)道理。就在幾天前，《財(cái)富》雜志刊登了這樣一則報(bào)道：

如果幻覺(jué)問(wèn)題無(wú)法解決，生成式人工智能可能也無(wú)法每年創(chuàng)造萬(wàn)億美元的產(chǎn)值。如果它可能無(wú)法創(chuàng)造萬(wàn)億美元的產(chǎn)值，那么它可能也不會(huì)產(chǎn)生人們期望的影響。如果它不會(huì)產(chǎn)生這種影響，也許我們不應(yīng)該基于這種前提來(lái)構(gòu)建我們的世界。

原文由Gary Marcus撰寫(xiě)，中文內(nèi)容由元宇宙之心（MetaverseHub）團(tuán)隊(duì)編譯，如需轉(zhuǎn)載請(qǐng)聯(lián)系我們。

       原文標(biāo)題 : 如果生成式人工智能被證明是一個(gè)啞彈怎么辦？