自動化是未來，但我們需要以開放的眼光和清晰的頭腦進入未來。

重大的安全或隱私泄露會給企業(yè)帶來危機。上頭條新聞，打官司，有時，首席執(zhí)行官在國會作證。首席信息官們晝夜不停地工作，得到的卻是解聘書和前程未卜的事業(yè)。這樣的事情我們見過不少。

來自麻省理工學院和斯坦福大學的研究人員測試了來自主要科技公司的三個以商業(yè)版的形式發(fā)布的面部分析程序，并將展示這樣的發(fā)現(xiàn)——這些軟件帶有明顯的膚色和性別偏見。面部識別程序擅長識別白人男性，但卻無法成功地識別女性（尤其是膚色較深的女性）。即將舉行的公平、問責和透明度會議將全面公布上周的這個爆炸性新聞。

偏見有損企業(yè)與公眾之間的關系。它會成為批評人士的眾矢之的，他們會將這種事情看作是公司不分擔客戶價值的證據(jù)。而且，由于人工智能在投資、醫(yī)療保健、貸款和財務決策、就業(yè)等方面做出越來越多的決策，人身和財務甚至刑事責任的風險將會增加。

在我們開始存儲和傳輸有價值的數(shù)據(jù)（通常是個人和財務方面的數(shù)據(jù)）時，我們會造成數(shù)據(jù)泄露的風險。在人工智能和自動化技術時代，偏見是新的漏洞。人工智能和自動化技術對你的公司戰(zhàn)略至關重要。但隨之而來的是首席信息官和其他領導者必須應對的新風險和問題。

創(chuàng)建系統(tǒng)和流程非常重要，它們可以防止偏見蔓延到公司的人工智能軟件中，并在在偏見產生時檢測到它并減少損害。未來幾年的最大挑戰(zhàn)將會是這個，而不是失去工作或人工智能對人身安全的威脅。

公開例子

軟件程序可能存在偏見，這似乎很奇怪，但原因很簡單。開發(fā)人工智能技術的專家是那些將數(shù)據(jù)輸入到程序中的人。如果他們使用的數(shù)據(jù)已經包含標準的人為偏差，那么他們的人工智能軟件也會反映這種偏見。這并非有意為之，但不幸的是，在Alexa、Siri或Google Home等系統(tǒng)上開始最初的編程時，它并不是一個主要的考慮因素。

有些批評人士希望看到人工智能的交互既是性別上中立的，也是種族上中立的。我們可能希望采用更通用的機器發(fā)音，而不是我們已經接觸到的標準女性聲音。這可能有點過了，但觀點是有效的。在將人工智能集成到商業(yè)組織中時，我們需要時刻保持警惕，避免出現(xiàn)偏見。

避免偏斜的數(shù)據(jù)集

機器學習的優(yōu)勢之一在于，與傳統(tǒng)分析方法相比，它可以從相對較小的數(shù)據(jù)集創(chuàng)建高度引人注目的預測模型。這往往會產生令人興奮且非常有價值的洞察。但是，這些巨大的利益中存在很大的風險。如果我們希望人工智能完全無偏見，我們必須讓它有一個盡可能好的起點。目前的數(shù)據(jù)集可能已經向基于性別或種族的自動假設偏斜。

當我們從頭開始建立人工智能系統(tǒng)，我們必須認識到這一點。數(shù)據(jù)要完全透明并且不受我們自身偏見的影響。只有這樣，人工智能系統(tǒng)才能夠以不偏不倚的方式為我們提供最好的支持。

不斷的訓練和評估

一旦系統(tǒng)創(chuàng)建并集成到業(yè)務網(wǎng)絡中，工作就無休無止。偏見仍然會隨著時間推移而引入——尤其當新數(shù)據(jù)輸入到系統(tǒng)中時。有助于實施新系統(tǒng)的員工必須得到適當?shù)呐嘤�。他們必須知道如何尋找我們稱之為偏見蔓延（creeping bias）的東西。隨著系統(tǒng)的發(fā)展，它要始終避免人為缺陷。

種族和性別多樣性

例如，如果一家公司正在引入面部識別軟件，它應對系統(tǒng)進行培訓，使系統(tǒng)能發(fā)現(xiàn)公司員工和客戶的多樣性。無論用戶的種族背景如何，它必須能夠識別正確的性別。確保新人工智能項目的技術人員和貢獻者本身就具有多樣性，這是一個好的開端。

創(chuàng)意多樣性

盡管種族和性別多樣性似乎很容易糾正，但它們并不是唯一可能最終進入人工智能系統(tǒng)的偏見類型。到目前為止，人工智能技術是由一小部分人創(chuàng)建的，他們都擁有博士學位。他們并不能代表普羅大眾。由于這個原因，首席信息官必須意識到這樣的需要——在人工智能程序中建立背景多樣性。

隨著這些系統(tǒng)的成熟和發(fā)展，在開發(fā)過程中讓更多來自廣泛背景的人員參與進來，這是很重要的。這應該包含來自所有領域的創(chuàng)意人士。這個想法是為人工智能軟件提供來自盡可能多的來源的盡可能多的有效信息。這最終會成為人工智能成功融入業(yè)務系統(tǒng)的最佳機會。

嚴格且持續(xù)的測試

無論實施團隊如何努力整合新的人工智能系統(tǒng)，仍然存在一些偏見會隨著時間流逝進入流程的風險。為了避免這個，首席信息官們必須引入一個持續(xù)的測試和評估軟件的過程。應該為最終用戶提供這樣的工具，這些工具可以在他們所使用的程序中檢測和糾正偏見——一旦他們發(fā)現(xiàn)偏見的話。人工智能可能是一種改變游戲規(guī)則的商業(yè)技術，但前提是我們始終對偏見保持警惕。

危機管理和應對——做好準備

最后，假設你并不總能把事情弄清楚。積極主動地與法務、企業(yè)風險管理、人力資源，公司通信等一起，為處理災難提供實用，久經考驗的計劃。坦誠面對你的偏見。自動化是未來，但我們需要以開放的眼光和清晰的頭腦進入未來。（作者：Michael Zammuto ）