打開人工智能的黑箱,IBM推出云工具檢測AI偏見
IBM推出了一項軟件服務(wù),可以掃描人工智能系統(tǒng)的工作情況,以便檢測偏見并為正在做出的自動決策提供解釋,一定程度的透明度可能是合規(guī)目的所必需的,而不僅僅是公司自己的盡職調(diào)查。
新的信任和透明度系統(tǒng)運行在IBM云上,并與從IBM作為各種流行的機(jī)器學(xué)習(xí)框架和AI構(gòu)建環(huán)境所構(gòu)建的模型一兼容,包括自己的Watson技術(shù),以及Tensorflow、SparkML、AWS SageMaker和AzureML。
它表示,可以通過編程來定制服務(wù)以滿足特定的組織需求,以考慮“任何業(yè)務(wù)工作流程的獨特決策因素”。
完全自動化的SaaS解釋了決策并在運行時檢測AI模型中的偏見,這意味著它正在捕獲“發(fā)生時可能產(chǎn)生的不公平結(jié)果”。
它還會自動建議添加到模型中的數(shù)據(jù),以幫助減少已檢測到的任何偏見。
人工智能決策的解釋包括顯示哪些因素加重了某個方向的決策、對建議的信心和信心背后的因素。
IBM還表示該軟件會記錄AI模型的準(zhǔn)確性、性能和公平性,以及人工智能系統(tǒng)的系譜,這意味著它們可以“以客戶服務(wù)、監(jiān)管或合規(guī)原因輕松跟蹤和召回”。
關(guān)于合規(guī)方面的一個例子,歐盟的GDPR隱私框架參考了自動決策,并且包括讓人們獲得有關(guān)算法在某些情況下如何工作的詳細(xì)解釋的權(quán)利,這意味著企業(yè)可能需要能夠?qū)徍怂麄兊腁I。
IBM AI掃描儀工具通過可視化儀表板提供自動決策的細(xì)分,這是一種減少對“專業(yè)AI技能”依賴的方法。
然而,它也打算讓自己的專業(yè)服務(wù)人員與企業(yè)合作使用新的軟件服務(wù)。因此,它既可以銷售人工智能,也可以解決人工智能的不完美問題,當(dāng)企業(yè)試圖修復(fù)他們的AI時,專家可以幫助消除任何問題。這表明雖然AI確實會刪除一些工作,但自動化將忙于創(chuàng)建其他類型的工作。
IBM也不是第一家發(fā)現(xiàn)AI偏見商業(yè)機(jī)會的專業(yè)服務(wù)公司。幾個月前,埃森哲公開了一個公平的工具,用于識別和修復(fù)不公平AI。
因此,隨著對多個行業(yè)自動化的大力推動,設(shè)置和銷售服務(wù)以解決因增加AI的使用而出現(xiàn)的任何問題,看起來也相當(dāng)龐大。
事實上,鼓勵更多企業(yè)對進(jìn)入自動化更有信心。(在這方面,IBM引用了它所進(jìn)行的研究,發(fā)現(xiàn)雖然82%的企業(yè)正在考慮人工智能部署,但60%擔(dān)心責(zé)任問題,63%缺乏內(nèi)部人才來自信地管理技術(shù)。)
除了推出自己的付費AI審計工具之外,IBM表示,其研究部門將開放采購AI偏見檢測和緩解工具包,旨在鼓勵“圍繞解決AI中的偏見進(jìn)行全球合作”。
“IBM引領(lǐng)行業(yè)建立信任和透明度原則,以開發(fā)新的AI技術(shù),F(xiàn)在是時候?qū)⒃瓌t付諸于實踐了,”IBM認(rèn)知解決方案高級副總裁David Kenny在一份聲明中表示!拔覀冋跒槭褂萌斯ぶ悄懿⒚媾R任何有缺陷的決策產(chǎn)生最大潛在風(fēng)險的企業(yè)提供新的透明度和控制權(quán)!
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市