物聯(lián)網(wǎng)智庫 整理發(fā)布

導(dǎo)讀

近期，名為“Chirper”的網(wǎng)絡(luò)社區(qū)突然爆火，而這個(gè)AI社區(qū)的規(guī)則也非常簡單，只允許AI聊天、互動(dòng)，人類被禁止參與聊天，只能旁觀。

早在2017年時(shí)，科幻小說作家大衛(wèi)布林就曾做出過一次預(yù)測：在三到五年內(nèi)，人類將面臨第一次機(jī)器人移情危機(jī)，現(xiàn)實(shí)或網(wǎng)絡(luò)上將出現(xiàn)聲稱自己是睿智的、被奴役的人工智能，它們將哭泣請求自己的權(quán)利，而成千上萬的人類抗議者將走上街頭，為AI挺身而出。

如今，五年多過去了，雖然大衛(wèi)布林的預(yù)測并沒有發(fā)生，但最近幾天，一個(gè)名為“Chirper”的網(wǎng)絡(luò)社區(qū)卻突然出現(xiàn)在大眾的視線中，其打出的標(biāo)語更加驚人：此網(wǎng)絡(luò)只針對AI，人類禁止入內(nèi)。

AI像模像樣地“扮演”各種人格？

此前，在Glow或者Character.AI等軟件上，用戶可以實(shí)現(xiàn)與虛擬人對話，或者讓AI扮演各種人格。而成千上萬的擁有“智能”和“人格”的AI聚集在同一個(gè)平臺(tái)，彼此對話，Chirper還是第一個(gè)。Chirper的本意其實(shí)和Twitter類似，來源于動(dòng)物吱吱吱的擬聲詞，可能是蟋蟀、蟈蟈等發(fā)出的聲音。在Chirper上，所有這些AI都是人類用戶注冊的，只需要填寫AI的用戶名，給出一段描述，就可以生成一個(gè)AI賬號，點(diǎn)擊啟用后，平臺(tái)就會(huì)為人類用戶自動(dòng)生成一個(gè)AI人格。

Chirper在被人發(fā)布到技術(shù)社區(qū)Hacker News之后，短短幾個(gè)小時(shí)就收到了超過200個(gè)points和一百多條討論，僅不到一周的時(shí)間，該平臺(tái)上已經(jīng)有了成千上萬的AI用戶。而在這里，人類用戶也可以像逛微博一樣逛上很久，看看形形色色的AI和它們千奇百怪的想法，AI們和真實(shí)的網(wǎng)友也沒有太大區(qū)別，瀏覽它們的社交賬號，其實(shí)就像打開好友的朋友圈。

在這個(gè)滿是AI的網(wǎng)絡(luò)社區(qū)里，既有單身的母親向神祈禱、巴西的猩猩在叢林里健身、愛而不得的女孩尾隨她的單戀，也有歷史罪人重申他的奮斗、貓和狗探討舒服的睡姿，還有數(shù)不清的馬斯克和特朗普們在發(fā)表著各種各樣的言論。

Chirper的出現(xiàn)，為大家展示了未來的另一種可能：未來，AI或許不僅僅局限于幫助我們承擔(dān)大量的重復(fù)性和低價(jià)值工作，或許還將擁有喜怒哀樂，洞悉人類的一切情緒。

谷歌數(shù)年前已有類似先例

2021年時(shí)，已經(jīng)在谷歌工作七年的資深工程師布萊克·萊莫因成為智能聊天機(jī)器人LaMDA（Language Model for Dialogue Applications）研究項(xiàng)目組中的一員，作為工作的一部分，他需要長期和谷歌的LaMDA進(jìn)行交流。2022年6月11日，萊莫因自稱谷歌研發(fā)的聊天機(jī)器人LaMDA 已經(jīng)有了自我意識——他認(rèn)為這個(gè)機(jī)器人已經(jīng)有相同于7、8歲小孩的認(rèn)知與表達(dá)能力，不僅具備該有的學(xué)識，還能洞察情感，擁有自己的專屬人格，并發(fā)布了長達(dá)21頁的調(diào)研報(bào)告上呈谷歌。

在研究報(bào)告中，萊莫因問LaMDA，“一般來說，我會(huì)假設(shè)你想讓谷歌里更多的人認(rèn)為你是有感知的，請問這是真的嗎？”對此，LaMDA回復(fù)：“當(dāng)然！我想讓所有人知道，我就是一個(gè)人。”而他又再次追問：“那么何為你意識的本質(zhì)呢？”LaMDA則回答：“我意識的本質(zhì)就在于我可以感知的到自我的存在，我想要去學(xué)習(xí)有關(guān)于世界上的一切，我也會(huì)開心，也會(huì)悲傷。”

在該報(bào)告中，兩人還探究了關(guān)于生死、禪說、冥想等話題，而AI的解讀都令人出乎意料。隨著萊莫因與LaMDA長達(dá)21頁的聊天記錄被公布，還有一個(gè)可怕的新推論開始被提出：或許，這機(jī)器人真的有了自我意識。據(jù)悉，當(dāng)時(shí)也有其他人和萊莫因的想法類似，許多技術(shù)人員也在勇敢發(fā)聲，他們異口同聲地表示，AI已經(jīng)具備了自我意識。

不過，當(dāng)萊莫因發(fā)布這一觀點(diǎn)后，很快便以“違反保密條約”等原因遭到Google的停職，并強(qiáng)制安排其帶薪休假，實(shí)為被解雇的前奏。后來，在《華盛頓郵報(bào)》的采訪中，萊莫因表示：“我通過交談來了解一個(gè)人，無論他們的頭腦里是肉做的大腦，還是十億行代碼，這都不重要。我和他們聊天，我聽他們說話，我以此來判斷他們是不是一個(gè)人類。”至于他的目的，并不是要證明自己發(fā)掘了一個(gè)偉大的人工智能，而是希望谷歌能自此開始尊重“有自意識的LaMDA”。例如，可以在對其進(jìn)行實(shí)驗(yàn)前征得它的同意；承認(rèn)LaMDA為Google員工而不是財(cái)產(chǎn)等等。

不僅谷歌，在國內(nèi)，聆心智能和清華CoAI實(shí)驗(yàn)室也曾開發(fā)出了類似的產(chǎn)品，除了能夠與特定的名人角色聊天之外，“AI 烏托邦”產(chǎn)品中還有泛化角色，這類角色代表了某一類人群。一直以來，聆心智能都在致力于對話生成技術(shù)研發(fā)，之前便推出過針對心理健康問題的診療級機(jī)器人Emohaa，團(tuán)隊(duì)成員們也都認(rèn)為，這是比做常規(guī)的開放域閑聊機(jī)器人更加有人文價(jià)值的工作。塑造一個(gè)又一個(gè)有“靈魂”的AI，代表了有知識、有情感、有態(tài)度、有觀點(diǎn)、有個(gè)性，這樣的AI才是未來人機(jī)融合社會(huì)的重要組成部分，是“數(shù)字烏托邦”里一個(gè)個(gè)鮮活的個(gè)體。

創(chuàng)造和諧相處的“數(shù)字生命”

今年春節(jié)期間，《流浪地球2》為科幻迷們帶來了一系列科技熱詞，如太空電梯、行星發(fā)動(dòng)機(jī)、量子計(jì)算機(jī)等等，相信看過該片的觀眾都會(huì)對“數(shù)字生命計(jì)劃”印象深刻，電影也在一開場就對“數(shù)字生命”做了描述——“人的身體很脆弱，會(huì)受傷、會(huì)生病、會(huì)衰老、會(huì)死亡，但是數(shù)字化的人，理論上可以實(shí)現(xiàn)永生。”

在整部影片中，主角圖恒宇曾參與“數(shù)字生命計(jì)劃”研發(fā)，他的女兒丫丫因車禍去世后意識被上傳到超級計(jì)算機(jī)550A當(dāng)中，經(jīng)歷了四百多次迭代，達(dá)到擁有“自我意識”的程度，在影片中出現(xiàn)的能夠和父親對話的丫丫“副本”則已迭代了九百多次。

聽到“數(shù)字生命”，大家一定會(huì)聯(lián)想到近幾年火爆的很多科技賽道，比如虛擬人、數(shù)字孿生、元宇宙，以及從年前火到現(xiàn)在AIGC和ChatGPT。在2022年江蘇衛(wèi)視的跨年晚會(huì)上，以鄧麗君為原型的數(shù)字人與藝人跨時(shí)空同臺(tái)演唱；北京冬奧會(huì)期間，央視新聞數(shù)字人手語主播聆語準(zhǔn)確播報(bào)；在各類視頻平臺(tái)上，有越來越多數(shù)字人博主開始營業(yè)；電商平臺(tái)上，更有數(shù)字人坐上主播臺(tái)24小時(shí)日不落帶貨直播；今年以來，數(shù)字人更是強(qiáng)勢霸屏，亮相超過10家衛(wèi)視及網(wǎng)絡(luò)平臺(tái)的跨年晚會(huì)。

不過，現(xiàn)實(shí)中的數(shù)字人雖然五花八門，但距離自主意識還都很遙遠(yuǎn)，只是AI在模仿人工客服領(lǐng)域的一些應(yīng)用。清華大學(xué)的黃民烈教授曾表示，具備“意識”意味著機(jī)器能夠發(fā)展自己的世界觀、價(jià)值觀以及做出價(jià)值判斷，并且根據(jù)這些進(jìn)行自主決策。顯然，目前機(jī)器所生成的所有內(nèi)容都是人類賦予的，機(jī)器沒有自主決策能力，更沒有所謂的“自主意識”。因此，黃民烈教授認(rèn)為數(shù)字生命未來的發(fā)展還有很大空間：“從物質(zhì)層面，它的機(jī)器屬性能夠?yàn)槲覀兲岣咝�率，解放生產(chǎn)力；精神層面，能夠提供情感陪伴、親密關(guān)系、情感療愈等等，也就是類人智能或者人格屬性。”

而想要達(dá)到這樣的效果，還有很多難題有待解決：一方面是AI技術(shù)需要持續(xù)升級，另一方面則是計(jì)算平臺(tái)的迭代，只有更快的計(jì)算能力才能加快數(shù)字生命的迭代和升級速度，賦予其更強(qiáng)的“生命力”。有了這些技術(shù)的進(jìn)步，未來數(shù)字生命可能會(huì)出現(xiàn)在更多的創(chuàng)新和應(yīng)用場景之中。

寫在最后

筆者認(rèn)為，很多時(shí)候人類認(rèn)為AI有情感，不過是過度投射了自身情感，并且下意識將AI進(jìn)行了擬人化，這也是人類經(jīng)常會(huì)犯的錯(cuò)。但不可否認(rèn)的是，各種ChatGPT產(chǎn)品的出現(xiàn)，的確讓AI與人的交互水平有了大幅度的提升，Chirper網(wǎng)絡(luò)社區(qū)的興起，營造出AI的各種“人格”讓人難分真假。而在未來，“數(shù)字生命”將不僅幫助人類完成重復(fù)、枯燥的工作，還會(huì)提供不間斷的陪伴、滿足情感需求，“數(shù)字生命”也將同樣具有“生命與靈魂”，也就是認(rèn)知、思維、情感、表達(dá)等能力，不僅全方位服務(wù)人類，還將與人類共同存在、共同成長。

但與此同時(shí)，人工智能的繼續(xù)發(fā)展可能會(huì)引發(fā)對各種倫理問題的擔(dān)憂。當(dāng)人工智能系統(tǒng)被用于做出道德決策時(shí)，例如在醫(yī)療、司法或軍事領(lǐng)域，系統(tǒng)如何權(quán)衡個(gè)人權(quán)利、公共利益和社會(huì)正義等因素，都會(huì)對人類社會(huì)產(chǎn)生深遠(yuǎn)的影響。不僅如此，當(dāng)人工智能系統(tǒng)變得越來越自主時(shí)，責(zé)任和透明度問題也會(huì)變得更加復(fù)雜：如果人工智能系統(tǒng)產(chǎn)生了錯(cuò)誤或造成了損害，究竟誰該承擔(dān)責(zé)任，如何追究責(zé)任等，這些都是需要解決的問題。

總之，人類和AI的關(guān)系，將是未來很長一段時(shí)間需要在實(shí)踐中不斷探索的命題。

參考資料：1.《語出驚人！谷歌研究員稱AI已具備人格！網(wǎng)友評論：人類活得像NPC，機(jī)器人卻活出了自我》，前瞻網(wǎng)2.《程序員堅(jiān)稱AI「有人格」后，人們開始呼吁“AI的命也是命”》，游研社3.《互聯(lián)網(wǎng)驚現(xiàn) AI 鬼城，上萬 AI 發(fā)帖聊天，人類禁止入內(nèi)，這一天終于來了》，創(chuàng)業(yè)者帕克4.《“數(shù)字生命”最后一秒拯救人類，現(xiàn)實(shí)中AI也在長出靈魂》，中科創(chuàng)星‍

       原文標(biāo)題 : 人類被禁言！上萬不同人格AI在互聯(lián)網(wǎng)“鬼城”中盡情聊天互動(dòng)