-基于云的新型偏向性檢測和糾偏控制 (Bias-detection and mitigation controls) 功能解決了人們要求提高人工智能決策透明度的急迫需求
-今天，IBM 公司 (NYSE: IBM) 推出了一項(xiàng)提高人工智能透明度的技術(shù)，使企業(yè)能夠更全面地駕馭人工智能的力量。
這一基于 IBM 云計(jì)算的軟件服務(wù)，能夠在人工智能進(jìn)行決策時自動檢測偏向性并能夠?qū)Q策過程進(jìn)行解釋，從而幫助各行各業(yè)的組織管理人工智能系統(tǒng)。IBM 服務(wù)部門也將與企業(yè)一同合作，幫助他們更好地利用這一全新的軟件服務(wù)。
此外，IBM 研究院還將面向開源社區(qū)發(fā)布人工智能偏向性檢測和糾偏控制工具包，旨在通過先進(jìn)的工具和培訓(xùn)促進(jìn)全球協(xié)作，以進(jìn)一步解決人工智能偏見問題。
IBM Watson AI 總經(jīng)理 Beth Smith 表示：“IBM 曾引領(lǐng)行業(yè)確立了開發(fā)新型人工智能技術(shù)的信任原則和透明度原則，現(xiàn)在我們將這些原則付諸了實(shí)踐。任何有缺陷的決策都會給使用人工智能的企業(yè)帶來極大的潛在風(fēng)險(xiǎn)，而我們?yōu)槠髽I(yè)提供了提高透明度和加強(qiáng)控制的方法?！?
在此之前，IBM 商業(yè)價值研究院的研究結(jié)果表明，雖然有82%的企業(yè)正在考慮運(yùn)用人工智能，但有60%的企業(yè)都擔(dān)心責(zé)任問題，63%的企業(yè)都缺乏能夠可靠管理這種技術(shù)的內(nèi)部人才。
提高人工智能的決策透明度
基于 IBM 云計(jì)算的全新信任和透明度功能，適用于多樣的機(jī)器學(xué)習(xí)框架和人工智能構(gòu)建環(huán)境，例如 Watson、Tensorflow、SparkML、AWS SageMaker、AzureML 等。也就是說，企業(yè)可以將這些新的控制工具用于大部分流行的人工智能框架。該軟件服務(wù)還可根據(jù)用戶需求提供定制化服務(wù)，企業(yè)可對其進(jìn)行編程，以監(jiān)視任何業(yè)務(wù)工作流的獨(dú)特決策因素。
這種完全自動化的軟件服務(wù)能夠解釋決策并在運(yùn)行時（也就是進(jìn)行決策時）及時檢測出人工智能模型中的潛在偏向性。重要的是，它還能自動建議應(yīng)添加到模型的數(shù)據(jù)，幫助減少測到的偏差。
它使用通俗易懂的術(shù)語提供解釋，說明是哪些因素的權(quán)重使決策朝某一方向傾斜，決策建議的置信度有多大，置信度是由哪些因素構(gòu)成的。此外，它還會記錄模型的準(zhǔn)確性、性能和公正性以及人工智能系統(tǒng)的譜系，以便用戶追溯和調(diào)閱，用于客戶服務(wù)、監(jiān)管或合規(guī)用途，例如 GDPR 合規(guī)。
所有這些功能都是通過可視化操作面板來訪問的，使企業(yè)用戶獲得前所未有的理解、解釋和管理人工智能主導(dǎo)型決策的能力，并降低對專業(yè)人工智能管理技能的需求。
IBM 還提供新的咨詢服務(wù)，來幫助公司設(shè)計(jì)業(yè)務(wù)流程和人機(jī)交互界面，從而進(jìn)一步減小決策偏向性的影響。
賦能開源社區(qū)，構(gòu)建更公正的人工智能
此外，IBM 研究院還將向開源社區(qū)提供AI Fairness 360工具包，其中包括一系列新型算法、代碼和教程的資源庫，可為專業(yè)學(xué)者、研究者和數(shù)據(jù)專家提供在構(gòu)建和部署機(jī)器學(xué)習(xí)模型時整合偏向性檢測功能的工具和知識。開源社區(qū)中的其他資源往往只是著眼于檢查訓(xùn)練數(shù)據(jù)中的偏向，而 IBM 研究院創(chuàng)建的 IBM AI Fairness 360工具包將能幫助使用者檢查并減少人工智能模型中的偏向性。IBM 希望借助這一舉措，邀請全球開源社區(qū)攜手推動人工智能的進(jìn)步，降低解決人工智能偏向性問題的難度。更多信息詳見IBM博客。
研究揭示了主流人工智能部署中的優(yōu)先級和障礙
IBM 最近發(fā)布了IBM 商業(yè)價值研究院 2018 人工智能報(bào)告 ，這份面向5000名企業(yè)高管的調(diào)研結(jié)果表明，對于人工智能推動商業(yè)價值和收入增長的潛力，商界領(lǐng)袖的看法正在發(fā)生重大變化。
報(bào)告中的重要結(jié)果包括：
?82%的企業(yè)，以及93%的高績效企業(yè)正在考慮采用人工智能應(yīng)用，以增加利潤收入。
?60%的企業(yè)擔(dān)心責(zé)任問題，63%的企業(yè)缺乏能夠可靠利用人工智能潛力的技能。
?首席執(zhí)行官們認(rèn)為在 IT、信息安全、創(chuàng)新、客戶服務(wù)和風(fēng)險(xiǎn)管理方面采用人工智能可以獲得最大的價值。
?人工智能的應(yīng)用范圍正在擴(kuò)大，在金融服務(wù)等數(shù)字化程度較高的行業(yè)很可能會加速推廣。
