可解釋的人工智能:4個(gè)關(guān)鍵行業(yè)
可解釋的人工智能可以讓人們理解人工智能系統(tǒng)是如何做出決定的,而這將成為醫(yī)療、制造、保險(xiǎn)、汽車(chē)領(lǐng)域的關(guān)鍵。那么這對(duì)于組織意味著什么?
例如,流媒體音樂(lè)服務(wù)平臺(tái)Spotify計(jì)劃向用戶(hù)推薦歌手Justin Bieber的歌曲,卻推薦了Belieber的歌,顯然這有些令人感到困擾。這并不一定意味著Spotify網(wǎng)站的程序員必須確保他們的算法透明且易于理解,但人們可能會(huì)發(fā)現(xiàn)這有些偏離目標(biāo),但其后果顯然是微不足道的。
這是可解釋人工智能的一個(gè)試金石——即機(jī)器學(xué)習(xí)算法和其他人工智能系統(tǒng),它們可以產(chǎn)生人類(lèi)可以容易理解并追溯到起源的結(jié)果。基于人工智能的結(jié)果越重要,對(duì)可解釋人工智能的需求就越大。相反,相對(duì)低風(fēng)險(xiǎn)的人工智能系統(tǒng)可能只適合黑盒模型,人們很難理解其結(jié)果。
Jane.a(chǎn)i公司人工智能研發(fā)主管Dave Costenaro說(shuō):“如果人工智能算法的效果不夠好,比如音樂(lè)服務(wù)公司推薦的歌曲一樣,那么社會(huì)可能不需要監(jiān)管機(jī)構(gòu)對(duì)這些建議進(jìn)行監(jiān)管。”
人們可以忍受應(yīng)用程序?qū)ζ湟魳?lè)品味的誤解。但可能無(wú)法忍受人工智能系統(tǒng)帶來(lái)的更重要的決定,也許是在建議的醫(yī)療或拒絕申請(qǐng)抵押貸款的情況下。
這些都是高風(fēng)險(xiǎn)的情況,尤其是在出現(xiàn)負(fù)面結(jié)果的情況下,人們可能需要明確地解釋是如何得出特定結(jié)果的。在許多情況下,審計(jì)師、律師、政府機(jī)構(gòu)和其他潛在當(dāng)事人也會(huì)這樣做。
Costenaro表示,由于特定決策或結(jié)果的責(zé)任從人類(lèi)轉(zhuǎn)移到機(jī)器,因此對(duì)可解釋性的需求也會(huì)增加。
Costenaro說(shuō),“如果算法已經(jīng)讓人類(lèi)處于這個(gè)循環(huán)中,人類(lèi)決策者可以繼續(xù)承擔(dān)解釋結(jié)果的責(zé)任!
他舉例說(shuō)明了一個(gè)為放射科醫(yī)生預(yù)先標(biāo)記X射線圖像的計(jì)算機(jī)視覺(jué)系統(tǒng)。他說(shuō),“這可以幫助放射科醫(yī)生更準(zhǔn)確、更有效地工作,但最終將提供診斷和解釋。”
IT的人工智能責(zé)任:解釋原因
然而,隨著人工智能的成熟,人們可能會(huì)看到越來(lái)越多的新應(yīng)用程序逐漸依賴(lài)于人類(lèi)的決策和責(zé)任。音樂(lè)推薦引擎可能沒(méi)有特別重大的責(zé)任負(fù)擔(dān),但許多其他真實(shí)或潛在的用例將會(huì)面臨重大的責(zé)任。
Costenaro說(shuō),“對(duì)于一類(lèi)新的人工智能決策來(lái)說(shuō),這些決策具有很高的影響力,而且由于所需處理的速度或數(shù)量,人類(lèi)不再能夠有效地參與其中,從業(yè)者們正在努力尋找解釋算法的方法!
IT領(lǐng)導(dǎo)者需要采取措施確保其組織的人工智能用例在必要時(shí)正確地包含可解釋性。 TigerGraph公司營(yíng)銷(xiāo)副總裁Gaurav Deshpande表示,許多企業(yè)首席信息官已經(jīng)關(guān)注這個(gè)問(wèn)題,即使他們了解到特定人工智能技術(shù)或用例的價(jià)值,他們通常還有一些猶豫。
Deshpande說(shuō),“但是如果不能解釋是如何得出答案的,就不能使用它。這是因?yàn)椤诤小斯ぶ悄芟到y(tǒng)存在偏見(jiàn)的風(fēng)險(xiǎn),這可能導(dǎo)致訴訟、對(duì)企業(yè)品牌以及資產(chǎn)負(fù)債表的重大責(zé)任和風(fēng)險(xiǎn)。”
這是思考企業(yè)如何以及為何采用可解釋的人工智能系統(tǒng)而不是操作黑盒模型的另一種方式。他們的業(yè)務(wù)可能依賴(lài)于它。人們對(duì)人工智能偏見(jiàn)的主張可能會(huì)被誤導(dǎo)。在風(fēng)險(xiǎn)較高的情況下,類(lèi)似的要求可能相當(dāng)嚴(yán)重。而這就是可解釋的人工智能可能成為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和其他學(xué)科的商業(yè)應(yīng)用的焦點(diǎn)的原因。
可解釋的人工智能在四個(gè)行業(yè)中的作用
Ness數(shù)字工程公司首席技術(shù)官M(fèi)oshe Kranc對(duì)可解釋人工智能的潛在用例進(jìn)行了探討,他說(shuō),“任何影響人們生活的用例都可能受到偏見(jiàn)的影響!逼浯鸢讣群(jiǎn)單又深遠(yuǎn)。
他分享了一些越來(lái)越多地可能由人工智能做出決定的例子,但這從根本上需要信任、可審計(jì)性和其他可解釋人工智能的特征:
參加培訓(xùn)計(jì)劃
決定是否為某人投保以及投保多少費(fèi)用
根據(jù)人口統(tǒng)計(jì)數(shù)據(jù)決定是否向某人發(fā)放信用卡或貸款
考慮到這一點(diǎn),各種人工智能專(zhuān)家和IT領(lǐng)導(dǎo)者為此確定可解釋人工智能必不可少的行業(yè)和用例。銀行業(yè)是一個(gè)很好的例子,可以這么說(shuō),可解釋的人工智能非常適合機(jī)器在貸款決策和其他金融服務(wù)中發(fā)揮關(guān)鍵作用。在許多情況下,這些用途可以擴(kuò)展到其他行業(yè),其細(xì)節(jié)可能會(huì)有所不同,但原則保持不變,因此這些示例可能有助于思考組織中可解釋的人工智能用例。
1.醫(yī)療保健行業(yè)
對(duì)可解釋人工智能的需求與人類(lèi)的影響將會(huì)同步上升。因此,醫(yī)療保健行業(yè)是一個(gè)良好的起點(diǎn),因?yàn)樗彩侨斯ぶ悄芸赡芊浅S幸娴念I(lǐng)域。
Kinetica公司首席執(zhí)行官Paul Appleby說(shuō),“使用可解釋的人工智能的機(jī)器可以為醫(yī)務(wù)人員節(jié)省大量時(shí)間,使他們能夠?qū)W⒂卺t(yī)學(xué)的解釋性工作,而不是重復(fù)性任務(wù)。他們可以同時(shí)給予每位患者更多的關(guān)注。其潛在的價(jià)值很大,但需要可解釋的人工智能提供的可追溯的解釋?山忉尩娜斯ぶ悄茉试S機(jī)器評(píng)估數(shù)據(jù)并得出結(jié)論,但同時(shí)給醫(yī)生或護(hù)士提供決策數(shù)據(jù),以了解如何達(dá)成該結(jié)論,因此在某些情況下得出不同的結(jié)論,這需要人類(lèi)解釋其細(xì)微差別!
SAS公司執(zhí)行副總裁兼首席信息官Keith Collins分享了一個(gè)特定的實(shí)際應(yīng)用程序。他說(shuō),“我們目前正在研究醫(yī)生使用人工智能分析來(lái)幫助更準(zhǔn)確地檢測(cè)癌癥病變的案例。該技術(shù)可以充當(dāng)醫(yī)生的虛擬助手,并解釋了核磁共振成像(MRI)圖像中的每個(gè)變量如何有助于識(shí)別可疑區(qū)域是否有可能致癌,而其他可疑區(qū)域則沒(méi)有!
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專(zhuān)題
- 1 Intel宣布40年來(lái)最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣(mài)
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來(lái)
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿(mǎn)
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市