自今年三月以來，由Facebook數(shù)據(jù)泄漏、“大數(shù)據(jù)殺熟”等事件引起，人們對(duì)于數(shù)據(jù)隱私和人工智能技術(shù)未來的擔(dān)憂等話題的討論突然又迎來了一輪熱潮。這些事件正告訴我們，隱私數(shù)據(jù)及對(duì)其加以利用而形成的人工智能技術(shù)不僅可以影響國(guó)內(nèi)國(guó)外，而且已經(jīng)深入了生活的很多部分。

最近，谷歌研究員，深度學(xué)習(xí)庫(kù)Keras作者Franois Chollet對(duì) Facebook事件發(fā)聲，闡述了自己對(duì)于AI發(fā)展的擔(dān)憂和建議。

社交網(wǎng)絡(luò)服務(wù)正越來越多地控制我們消費(fèi)的信息，我們從新聞流中看到的東西已經(jīng)變成了算法的“策劃”。社交媒體算法會(huì)越來越多地決定我們閱讀哪些文章、看到哪些電影預(yù)告片、我們保持聯(lián)系的對(duì)象，以及我們收集到的，表達(dá)意見的反饋�！�—Franois Chollet

聲明：這些是我個(gè)人的觀點(diǎn)，不是替我的雇主發(fā)言。如果你引用這篇文章，請(qǐng)如實(shí)地陳述這些觀點(diǎn)：它們是個(gè)人的、推測(cè)性的，是非對(duì)錯(cuò)請(qǐng)自行評(píng)判。

如果你出生在20世紀(jì)80年代和90年代左右，可能還記得現(xiàn)在已經(jīng)絕跡的“電腦恐懼癥”，在21世紀(jì)初的一段時(shí)間，我親眼目睹過這一現(xiàn)象——隨著個(gè)人電腦進(jìn)入我們的生活，出現(xiàn)在工作場(chǎng)所和家里，很多人都表現(xiàn)地很焦慮、恐懼甚至出現(xiàn)攻擊行為。雖然我們中的一些人被計(jì)算機(jī)所吸引，并對(duì)它們潛在的潛力充滿敬畏，但大多數(shù)人并不了解它們。他們覺得它們很奇怪和深?yuàn)W，在許多方面會(huì)受到威脅。人們擔(dān)心會(huì)被技術(shù)取代。

我們中的大多數(shù)人對(duì)技術(shù)轉(zhuǎn)變很反感，甚至很恐慌�；蛟S任何變化都會(huì)導(dǎo)致這種現(xiàn)象。但很明顯，我們擔(dān)心的大部分事情最終都不會(huì)發(fā)生。

一晃幾年過去，電腦反對(duì)者已經(jīng)學(xué)會(huì)了生活在電腦的時(shí)代并享受它們帶來的便捷。計(jì)算機(jī)并沒有取代我們，也沒有引發(fā)大規(guī)模的失業(yè)——現(xiàn)在我們不能想象沒有筆記本電腦、平板電腦和智能手機(jī)的生活�？赡軙�(huì)“帶來威脅”的變化已經(jīng)轉(zhuǎn)變成為帶來舒適的現(xiàn)狀。但與此同時(shí)，由于我們不再擔(dān)心，電腦和互聯(lián)網(wǎng)的出現(xiàn)對(duì)我們產(chǎn)生了威脅，這些威脅幾乎沒有人在20世紀(jì)80年代和90年代警告過我們。無處不在的大規(guī)模監(jiān)視，黑客對(duì)我們?cè)O(shè)備或個(gè)人數(shù)據(jù)追蹤，社交媒體的心理異化，我們耐心和專注能力的喪失，易受影響的政治或宗教激進(jìn)化的思想，敵對(duì)的外國(guó)實(shí)力通過社交網(wǎng)絡(luò)對(duì)西方民主國(guó)家的破壞。

如果我們大部分的恐懼都被認(rèn)為是荒謬的，相反地，過去由于技術(shù)變化而發(fā)生的真正令人擔(dān)心的發(fā)展都是發(fā)生前大多數(shù)人的不擔(dān)心造成的。一百年前，我們無法真正預(yù)測(cè)到我們正在發(fā)展的運(yùn)輸和制造技術(shù)會(huì)導(dǎo)致一場(chǎng)新形式的工業(yè)戰(zhàn)爭(zhēng)，在兩次世界大戰(zhàn)中摧毀數(shù)千萬(wàn)人。我們并沒有早早意識(shí)到收音機(jī)的發(fā)明會(huì)促成一種新的大眾宣傳形式，促進(jìn)了意大利和德國(guó)的法西斯主義的興起。20世紀(jì)20年代和30年代理論物理學(xué)的進(jìn)展并沒有伴隨著關(guān)于這些發(fā)展如何能夠形成核武器，使世界永遠(yuǎn)處于即將毀滅的威脅之下的報(bào)刊文章。而現(xiàn)在，即使數(shù)十年來關(guān)于我們這個(gè)時(shí)代最嚴(yán)重的問題——?dú)夂颉�—已�?jīng)迫在眉睫，美國(guó)大部分的公眾（44％）仍選擇忽視它。作為一個(gè)文明，我們似乎很難正確識(shí)別未來的威脅并對(duì)它們有合理的擔(dān)心，正如我們似乎非常容易因荒謬的恐懼而出現(xiàn)恐慌一樣。

現(xiàn)在，與過去很多次一樣，我們正面臨著一場(chǎng)根本性變革的新浪潮：認(rèn)知自動(dòng)化，可由關(guān)鍵字“AI”大致概括。就像過去很多時(shí)候一樣，我們擔(dān)心這種新技術(shù)會(huì)傷害我們——人工智能會(huì)導(dǎo)致大規(guī)模失業(yè)，或人工智能會(huì)有自己的力量，變成超人，并選擇摧毀我們。

但如果我們擔(dān)心錯(cuò)誤的事情，就像之前我們每次擔(dān)心的一樣呢？如果人工智能的真正危險(xiǎn)遠(yuǎn)遠(yuǎn)不是許多人今天驚慌的“超級(jí)智能”和“奇點(diǎn)”觀點(diǎn)呢？在這篇文章中，我想提高人們對(duì)人工智能真正擔(dān)心的問題的認(rèn)識(shí)：人工智能所實(shí)現(xiàn)人類行為的高效、高度可擴(kuò)展的操縱，以及企業(yè)和政府的惡意使用。當(dāng)然，這不是認(rèn)知技術(shù)發(fā)展產(chǎn)生的唯一的有形風(fēng)險(xiǎn)——還有很多其他的，特別是與機(jī)器學(xué)習(xí)模型在害偏見有關(guān)的問題。其他人比我對(duì)這些問題更加警惕。我選擇寫有關(guān)關(guān)于大規(guī)模人口操縱的文章是因?yàn)槲艺J(rèn)為這種風(fēng)險(xiǎn)很迫切而且不甚明顯。

現(xiàn)在這種風(fēng)險(xiǎn)已成為現(xiàn)實(shí)，并且在接下來的幾十年里，一些長(zhǎng)期的技術(shù)趨勢(shì)將會(huì)進(jìn)一步放大這種風(fēng)險(xiǎn)。隨著我們的生活越來越數(shù)字化，社交媒體公司越來越了解我們的生活和思想。與此同時(shí)，他們?cè)絹碓蕉嗟赝ㄟ^行為控制向量，特別是通過算法新聞，控制我們的信息消費(fèi)。這將人類行為變成了一個(gè)優(yōu)化問題，一個(gè)人工智能問題：社交媒體公司可以迭代調(diào)整其控制向量以實(shí)現(xiàn)特定行為，就像游戲人工智能會(huì)迭代改進(jìn)其游戲策略來得分升級(jí)。這個(gè)過程中唯一的瓶頸是循環(huán)中的算法智能，正如發(fā)生的這樣，最大的社交網(wǎng)絡(luò)公司目前正在投入數(shù)十億美元進(jìn)行基礎(chǔ)人工智能研究。

我來詳細(xì)解釋一下。

社交媒體作為心理學(xué)監(jiān)獄

在過去的20年，我們的私人和公共生活已經(jīng)向網(wǎng)上轉(zhuǎn)移。我們每天花更多時(shí)間盯著屏幕，世界正在轉(zhuǎn)向數(shù)字信息消費(fèi)、修改或創(chuàng)造的階段。

這種長(zhǎng)期趨勢(shì)的副作用是公司和政府正在收集有關(guān)我們的大量數(shù)據(jù)，特別是通過社交網(wǎng)絡(luò)服務(wù)。我們與誰(shuí)交流，我們說了什么，我們一直在消費(fèi)什么（圖像、電影、音樂和新聞），我們?cè)谔囟〞r(shí)間的心情。最終，幾乎我們感知的所有東西和我們所做的一切都會(huì)記錄在某個(gè)遠(yuǎn)程服務(wù)器上。

理論上這些數(shù)據(jù)使收集它的對(duì)象為個(gè)人和團(tuán)隊(duì)建立非常準(zhǔn)確的心理模型。你的觀點(diǎn)和行為可以與成千上萬(wàn)的類似的人交叉關(guān)聯(lián)，使你對(duì)你選擇的內(nèi)容產(chǎn)生不可思議的理解，可能比通過單純的反思可實(shí)現(xiàn)的預(yù)測(cè)性更強(qiáng)（例如，F(xiàn)acebook通過算法評(píng)估出的你的個(gè)性比你的朋友更準(zhǔn)）。這些數(shù)據(jù)可以提前幾天預(yù)測(cè)你何時(shí)開始新的關(guān)系（以及和誰(shuí)），以及何時(shí)結(jié)束當(dāng)前的關(guān)系。或誰(shuí)有自殺的危險(xiǎn)�；蚰阍谝粋�(gè)選舉中即使在猶豫不決的情況下最終會(huì)投哪一方。而且這不僅僅能對(duì)個(gè)人級(jí)別進(jìn)行分析，而且對(duì)大型群體更有預(yù)測(cè)性，因?yàn)槠骄�行為�?huì)排除隨機(jī)性和個(gè)人異常值。

數(shù)字信息消費(fèi)作為一種心理控制向量

這并不會(huì)停留在被動(dòng)的數(shù)據(jù)收集消費(fèi)。社交網(wǎng)絡(luò)服務(wù)正越來越多地控制我們消費(fèi)的信息，我們從新聞流中看到的東西已經(jīng)變成了算法的“策劃”。不透明的社交媒體算法會(huì)越來越多地決定我們閱讀哪些文章、看到哪些電影預(yù)告片、我們保持聯(lián)系的對(duì)象，以及我們收集到的，表達(dá)意見的反饋。

通過多年的曝光，我們消費(fèi)信息的算法處理使算法對(duì)我們的生活掌握了相當(dāng)大的權(quán)力，包括我們是誰(shuí)，我們成為了誰(shuí)。如果Facebook長(zhǎng)時(shí)間決定你看的新聞（真實(shí)的或假冒的），你看的政治地位的變動(dòng)，以及看你新聞的人，那Facebook就會(huì)實(shí)際控制你的世界觀和政治信仰。

Facebook的業(yè)務(wù)根基在于影響人心，也就是向客戶推銷服務(wù)——廣告，包括政治廣告。因此，F(xiàn)acebook已經(jīng)建立了一個(gè)微調(diào)算法引擎來實(shí)現(xiàn)。這款引擎不僅能夠影響你下一次購(gòu)買哪個(gè)品牌的智能音箱，還可以影響你的情緒，通過調(diào)整給你呈現(xiàn)的內(nèi)容來隨意地讓你生氣或快樂。它甚至可以改變選舉。

人類行為作為優(yōu)化問題

總之，社交網(wǎng)絡(luò)公司可以同時(shí)了解我們的一切，并控制我們的消費(fèi)信息。這個(gè)趨勢(shì)正在加速，當(dāng)你可以接觸感知和行動(dòng)時(shí)，那就是AI問題。你可以開始建立一個(gè)針對(duì)人類行為的優(yōu)化循環(huán)，在這個(gè)循環(huán)中，你可以觀察目標(biāo)的狀態(tài)并不斷調(diào)整提供給你的信息，直到開始觀察你想要查看的選擇和行為。人工智能領(lǐng)域的一大部分，特別是“強(qiáng)化學(xué)習(xí)”，是盡可能有效解決這些優(yōu)化問題的算法研究方向，趨向于閉環(huán)流程，對(duì)手頭的目標(biāo)進(jìn)行完全控制，也就是對(duì)我們進(jìn)行完全控制。通過把我們的生活轉(zhuǎn)移到數(shù)字領(lǐng)域，我們更容易受到人工智能算法的影響。

人類行為的強(qiáng)化學(xué)習(xí)循環(huán)

由于人類的思想非常容易受到社交操作的簡(jiǎn)單模式的影響，所以這一切變得更加容易。例如，考慮以下的攻擊向量：

身份強(qiáng)化：這是歷史上最早的廣告就開始利用的老技巧，仍和之前的效果一樣好，包括將給定的看法與您確定的標(biāo)記相關(guān)聯(lián)（或希望你做了），從而讓你自動(dòng)掌握目標(biāo)的想法。在人工智能優(yōu)化社交媒體消費(fèi)的背景下，控制算法可以確保你只能看到它希望你看到的和你自己的身份標(biāo)記共同出現(xiàn)的觀點(diǎn)，相反地，它不希望你看到算法不想讓你看到的觀點(diǎn)。

消極的社交強(qiáng)化：如果你發(fā)表了一篇文章，表達(dá)了控制算法不希望你持有的觀點(diǎn)，系統(tǒng)可以選擇只將你的帖子呈現(xiàn)給那些持有相反觀點(diǎn)或極度批判這些觀點(diǎn)的人（可能是熟人，陌生人或機(jī)器人）。反復(fù)多次，這種社會(huì)反彈可能使你偏離你的初始觀點(diǎn)。

積極的社交強(qiáng)化：如果你發(fā)表了一篇文章，表達(dá)了控制算法希望傳播的觀點(diǎn)，那么它可以選擇將它只呈現(xiàn)給“喜歡”它的人（甚至可能是機(jī)器人）。這會(huì)使你的信念加強(qiáng)，讓你覺得你是支持大多數(shù)人的一部分。

取樣偏差：算法也可能向你呈現(xiàn)你朋友（更可能是媒體）發(fā)布的支持算法希望你持有的觀點(diǎn)的帖子。置身于這樣一個(gè)信息泡沫中，你會(huì)覺得這些觀點(diǎn)獲得的支持比實(shí)際更多。

參數(shù)個(gè)性化：該算法可能會(huì)觀察將特定的內(nèi)容呈現(xiàn)給某些心理屬性與你相近的人，導(dǎo)致它想要的觀點(diǎn)上的轉(zhuǎn)換。然后，它可能給你呈現(xiàn)一些對(duì)于具有你的特定觀點(diǎn)和生活經(jīng)驗(yàn)的人而言會(huì)最有效的內(nèi)容。長(zhǎng)期如此，該算法甚至可以從頭開始生成這些最有效的內(nèi)容，尤其對(duì)于你來說。

從信息安全的角度來看，你會(huì)稱這些漏洞為：可用于接管系統(tǒng)的已知漏洞。就人類頭腦來說，這些漏洞永遠(yuǎn)不會(huì)被修補(bǔ)，它們只是我們工作的方式，存在于我們的DNA中。人類的思維是一個(gè)靜態(tài)的、易受攻擊的系統(tǒng)，會(huì)越來越多地受到更加聰明的人工智能算法的攻擊，這些算法將同時(shí)查看我們所做的和相信的所有事情，并完全控制我們消費(fèi)的信息。

當(dāng)前的情況

值得注意的是，將人工智能算法放在我們的信息飲食中引起的大規(guī)模人口操縱，特別是政治控制，不一定需要非常先進(jìn)的人工智能。你不需要自我意識(shí)，超級(jí)人工智能是一個(gè)可怕的威脅——即使目前的技術(shù)可能就已經(jīng)足夠了。社交網(wǎng)絡(luò)公司已經(jīng)研究了幾年，并取得了顯著的成果。雖然他們可能只是試圖最大化“參與”并影響你的購(gòu)買決定，而不是操縱你的世界觀，但他們開發(fā)的工具已經(jīng)被敵對(duì)國(guó)家為了政治目的而劫持——如2016年英國(guó)脫歐公投或2016年美國(guó)總統(tǒng)選舉。這已經(jīng)是現(xiàn)實(shí)，但如果現(xiàn)在大規(guī)模人口操縱已經(jīng)成為可能，那理論上來說，為什么世界還沒有被顛覆呢？

簡(jiǎn)而言之，我認(rèn)為這是因?yàn)槲覀儗?duì)人工智能的了解還不夠，但可能馬上就不是這樣了。

直到2015年，業(yè)界的所有廣告定位算法都只是在邏輯回歸上運(yùn)行。事實(shí)上，很大程度上現(xiàn)在仍然如此，只有最大的玩家轉(zhuǎn)向了最先進(jìn)的模式。Logistic回歸出現(xiàn)在計(jì)算時(shí)代之前，是用于個(gè)性化的最基本的技術(shù)之一。這就是為什么你對(duì)網(wǎng)上看到的這么多廣告都不感興趣的原因。同樣，敵對(duì)國(guó)家用來影響公眾輿論的社交媒體機(jī)器人幾乎沒有用AI。目前它們都非常原始。

近年來機(jī)器學(xué)習(xí)和人工智能取得了飛速的進(jìn)展，才剛剛開始部署針對(duì)算法和社交媒體機(jī)器人。2016年機(jī)器學(xué)習(xí)才開始進(jìn)入新聞傳播和廣告網(wǎng)絡(luò)，誰(shuí)也不知道接下來會(huì)發(fā)生什么。Facebook在 AI研究和開發(fā)方面投入了大量資金，它明確的目標(biāo)是成為該領(lǐng)域的領(lǐng)導(dǎo)者，這一點(diǎn)非常驚人。當(dāng)你的產(chǎn)品是社交新聞推送時(shí)，自然語(yǔ)言處理和強(qiáng)化學(xué)習(xí)有什么用呢？

我們正在看著一家這樣的公司，該公司可為近20億人類構(gòu)建細(xì)致的心理特征模型，作為其中許多人的主要新聞來源，運(yùn)行大規(guī)模的行為操縱實(shí)驗(yàn)，旨在開發(fā)目前為止的最佳人工智能技術(shù)。對(duì)我來說，它令我害怕，而且我認(rèn)為Facebook甚至可能不是最令人擔(dān)心的威脅。許多人喜歡假裝大公司是現(xiàn)代世界的全能統(tǒng)治者，但他們擁有的權(quán)力與政府相差甚遠(yuǎn)。如果對(duì)我們的思想進(jìn)行算法控制，政府可能會(huì)成為最差的行為者，而不是公司。

現(xiàn)在，我們能做些什么呢？我們?nèi)绾伪Ｗo(hù)自己？作為技術(shù)人員，我們做什么才可以通過我們的社交新聞推送來避免大規(guī)模操縱的風(fēng)險(xiǎn)？

硬幣的另一面：AI可以為我們做什么

重要的是，這種威脅的存在并不意味著所有的算法策略都不好，或者說所有的目標(biāo)廣告都不好。相反，這兩者都可以起到有價(jià)值的作用。

隨著互聯(lián)網(wǎng)和人工智能的興起，將算法應(yīng)用于我們的信息獲取路徑不僅僅是必然的趨勢(shì)，而且是一個(gè)理想的趨勢(shì)。隨著我們的生活越來越數(shù)字化和互聯(lián)，信息越來越密集，我們需要人工智能作為我們與世界的接口。長(zhǎng)遠(yuǎn)來看，教育和自我發(fā)展將是人工智能最有影響力的應(yīng)用之一，這將是動(dòng)態(tài)的，這些動(dòng)態(tài)變化幾乎完全反映了試圖操縱你的惡意AI支持的新聞推送。算法信息管理幫助我們的潛力很大，使人們更好地發(fā)揮他們的個(gè)人潛力，并幫助更好地管理社會(huì)。

這個(gè)問題不是AI本身，問題在于控制。

我們不應(yīng)該讓新聞推送算法操縱用戶實(shí)現(xiàn)不透明的目標(biāo)，比如動(dòng)搖他們的政治觀點(diǎn)，或者極大地浪費(fèi)他們的時(shí)間，而應(yīng)該讓用戶控制算法優(yōu)化的目標(biāo)。畢竟，我們談?wù)摰氖�，關(guān)于你的新聞、你的世界觀、你的朋友、你的生活，技術(shù)對(duì)你的影響應(yīng)該由你自己來控制。信息管理算法不應(yīng)該是為了服務(wù)與我們自身利益相反的目標(biāo)而設(shè)計(jì)的神秘力量；相反，他們應(yīng)該成為我們手中的工具，一種可以實(shí)現(xiàn)我們目的的工具，比如教育和個(gè)人而不是娛樂。

這里有一個(gè)想法——任何大規(guī)模采用的算法新聞采訪應(yīng)該：

透明地傳達(dá)推送算法目前優(yōu)化的目標(biāo)，以及這些目標(biāo)如何影響你的信息獲取。

給你設(shè)定這些目標(biāo)的直觀工具，例如，應(yīng)該可以配置新聞源在特定的方向最大限度地提高學(xué)習(xí)和個(gè)人成長(zhǎng)。

具備始終可見的特性，測(cè)量你在Feed上花費(fèi)的時(shí)間。

具備工具可以控制在優(yōu)化Feed上花費(fèi)的時(shí)間，例如每日的時(shí)間目標(biāo)，算法將通過此目標(biāo)設(shè)計(jì)讓你脫離優(yōu)化Feed。

在保持控制的同時(shí)用AI加強(qiáng)自己

我們應(yīng)該建立人工智能來為人類服務(wù)，而不是為了利潤(rùn)或政治利益來操縱它們。如果新聞算法不像賭場(chǎng)運(yùn)營(yíng)商或宣傳人員那樣運(yùn)作，事情會(huì)變成什么樣？如果它們更接近一位導(dǎo)師或一個(gè)好的圖書管理員，通過對(duì)你的心理以及其他數(shù)百萬(wàn)其他人員的心理的敏銳理解，向你推出一本最能引起你共鳴并使你成長(zhǎng)的一本書。一種你生活的導(dǎo)航工具——人工智能可以引導(dǎo)你通過體驗(yàn)空間的最佳路徑到你想去的地方。你能想象經(jīng)歷過數(shù)百萬(wàn)生命的系統(tǒng)的鏡頭來看待自己的生活嗎？或者與一個(gè)讀過每本書的系統(tǒng)一起寫書？又或者與一個(gè)能看到當(dāng)前人類知識(shí)全部范圍的系統(tǒng)合作研究？

在完全控制與你交互的AI產(chǎn)品中，更復(fù)雜的算法而不是威脅，將會(huì)是一個(gè)積極的方面，它可以讓你更有效地實(shí)現(xiàn)自己的目標(biāo)。

構(gòu)建反臉書

總的來說，，未來人工智能將成為我們與數(shù)字信息組成的世界的接口。這同樣賦予個(gè)人更大的生命控制權(quán)，甚至可能完全沒有機(jī)構(gòu)。不幸的是，今天的社交媒體正在走一條錯(cuò)路，我們很久之后才能扭轉(zhuǎn)局面。

而業(yè)界需要開發(fā)激勵(lì)使影響用戶的算法受用戶控制，而不是通過人工智能利用用戶的思想來獲取利潤(rùn)或政治利益的產(chǎn)品分類和市場(chǎng)。我們需要努力實(shí)現(xiàn)反臉書（anti－Facebook）的產(chǎn)品。

在遙遠(yuǎn)的未來，這些產(chǎn)品可能會(huì)是AI助手的形式。數(shù)字導(dǎo)師編程幫助你，使你控制與它們交互時(shí)想要達(dá)到的目標(biāo)。在目前，搜索引擎可以被看作是AI驅(qū)動(dòng)信息界面的早期的、更原始的例子，它為用戶提供服務(wù)而不是試圖綁架他們的心理世界。搜索是查找特定目標(biāo)時(shí)特意用的工具，而不是被動(dòng)地讓你接收選舉人向你推薦的東西。你應(yīng)該辨別它可以為你做什么。搜索引擎應(yīng)該嘗試最小化從發(fā)生到解決，從問題到答案的時(shí)間，而不是最大化地浪費(fèi)你的時(shí)間。

你可能會(huì)想，因?yàn)樗阉饕�擎仍然是我們和我們消費(fèi)的信息之間的AI層，它是否可以使它的結(jié)果更傾向于試圖操縱我們？是的，每種信息管理算法都存在這種風(fēng)險(xiǎn)。但與社交網(wǎng)絡(luò)形成鮮明對(duì)比的是，這種情況下的市場(chǎng)激勵(lì)實(shí)際上與用戶需求一致，使搜索引擎盡可能相關(guān)和客觀。如果它們不能最大限度地發(fā)揮作用，那么用戶轉(zhuǎn)向競(jìng)爭(zhēng)產(chǎn)品基本沒有阻礙。重要的是，搜索引擎比社交新聞的心理攻擊范圍小的多。我們?cè)谶@篇文章中描述的威脅需要產(chǎn)品中出現(xiàn) 以下大部分特點(diǎn)：

感知和行動(dòng)：產(chǎn)品不僅應(yīng)該控制顯示給你的信息（新聞和社交更新），還應(yīng)該能夠通過“喜歡”、聊天信息和更新的狀態(tài)來“感知”你當(dāng)前的心理狀態(tài)。沒有感知和行動(dòng)，就不能建立強(qiáng)化學(xué)習(xí)循環(huán)（reinforcement learning loop）。作為古典傳播的潛在渠道，只讀優(yōu)化推送有害無益。

我們生活的中心性：產(chǎn)品應(yīng)該是至少一部分用戶的主要信息來源，典型的用戶應(yīng)該每天花費(fèi)幾個(gè)小時(shí)在上面。輔助和專業(yè)性的推送（feed）（如亞馬遜的產(chǎn)品推薦）不會(huì)是一個(gè)嚴(yán)重的威脅。

社會(huì)的組成使心理控制向量（特別是社會(huì)強(qiáng)化）更廣泛和有效，客觀的新聞推送只占我們思想的一小部分。

業(yè)務(wù)激勵(lì)意在操縱用戶并使用戶在產(chǎn)品上花費(fèi)更多時(shí)間。

大多數(shù)AI驅(qū)動(dòng)的信息管理產(chǎn)品都不符合這些要求。另一方面，社交網(wǎng)絡(luò)是風(fēng)險(xiǎn)因素可怕的組合。作為技術(shù)專家，我們應(yīng)該傾向于那些不具備這些特征的產(chǎn)品，抵制將它們結(jié)合在一起的產(chǎn)品，只要因?yàn)樗麄冇锌赡馨l(fā)生危險(xiǎn)的濫用行為。建立搜索引擎和數(shù)字助理而不是社會(huì)新聞源，使你的推薦引擎透明、可配置、富有建設(shè)性，而不是像投幣口一樣的機(jī)器——最大限度地提高“參與度”，浪費(fèi)人們的時(shí)間。公司應(yīng)該將精力投資在用戶界面、用戶體驗(yàn)和人工智能專業(yè)知識(shí)上，為你的算法構(gòu)建好的配置面板，使你的用戶能夠按需使用你的產(chǎn)品。

重要的是，我們向用戶普及這些問題，防止他們拒絕操縱產(chǎn)品，導(dǎo)致足夠的市場(chǎng)壓力使技術(shù)行業(yè)的激勵(lì)機(jī)制與消費(fèi)者的激勵(lì)機(jī)制被迫調(diào)整。

結(jié)論：前方路上的岔路口

社交媒體不僅足夠了解我們，可以為個(gè)人的團(tuán)隊(duì)建立強(qiáng)大的心理模型，還越來越多地控制我們的信息飲食。它有一系列有效的心理療效，可以操縱我們相信的東西，我們的感受以及我們的所作所為。

一個(gè)足夠先進(jìn)的人工智能算法，可以連續(xù)循環(huán)訪問我們的心理狀態(tài)的感知和行動(dòng)，可以用來有效地劫持我們的信仰和行為。

讓AI作為我們的信息接口本身不是問題。這樣人工智能交互界面，如果設(shè)計(jì)的好，有可能為我們所有人帶來巨大的利益。關(guān)鍵是：用戶應(yīng)該完全控制算法的目標(biāo)，將其用作實(shí)現(xiàn)自己目標(biāo)的工具（與使用搜索引擎的方式相同）。

作為技術(shù)專家，我們有責(zé)任推銷抵制不可控產(chǎn)品，并致力構(gòu)建使用戶控制的信息界面。不要將AI用作操縱用戶的工具；相反，使AI作為用戶的工具，使其在很多情況下獲得更多的代理權(quán)。

一條路通向讓我十分害怕的地方，另一條會(huì)通向更人性化的未來。我們?nèi)杂袝r(shí)間選擇更好的一條。如果你使用這些技術(shù)，請(qǐng)牢記一點(diǎn)，你可能沒有邪惡的意圖，你可能根本不在乎，或你可以僅僅評(píng)估自己的受限股權(quán)（RSU），而不關(guān)注我們共同的未來。但是無論你是否在意，你掌握了數(shù)字世界的基礎(chǔ)設(shè)備，所以你的選擇會(huì)影響我們所有人。你最終必須向所有這些負(fù)責(zé)。