確保人工智能算法的安全性、公正性和準(zhǔn)確性的困難正使一些公司轉(zhuǎn)向一種曾被吹捧為革命性但在商業(yè)領(lǐng)域未能獲得成功的技術(shù)，那就是區(qū)塊鏈。

區(qū)塊鏈以支持比特幣和其他加密貨幣而聞名，它是一種數(shù)據(jù)結(jié)構(gòu)，可以創(chuàng)建數(shù)字交易賬本，并在計(jì)算機(jī)網(wǎng)絡(luò)中共享。它利用密碼學(xué)，使網(wǎng)絡(luò)中的每個(gè)參與者能夠安全地向賬本添加信息，而無(wú)需中央機(jī)構(gòu)的參與。一旦交易完成，區(qū)塊鏈將保留其不可變的記錄。

鑒此，數(shù)據(jù)分析公司FICO和區(qū)塊鏈初創(chuàng)企業(yè)Casper Labs表示，他們正在應(yīng)用該技術(shù)來(lái)跟蹤構(gòu)建和訓(xùn)練人工智能算法的過(guò)程。

他們表示，這是一個(gè)及時(shí)而緊迫的應(yīng)用，因?yàn)槿斯ぶ悄茉诟鱾€(gè)業(yè)務(wù)領(lǐng)域大量應(yīng)用，而公司發(fā)現(xiàn)自己不能總是信任其輸出結(jié)果。與此同時(shí)，政府監(jiān)管機(jī)構(gòu)正在對(duì)公司施加更多壓力，要求增加算法的透明度和可審計(jì)性。

以前的區(qū)塊鏈商業(yè)應(yīng)用，包括供應(yīng)鏈追蹤，在市場(chǎng)上未能獲得推廣。人工智能的大規(guī)模應(yīng)用是否能成為區(qū)塊鏈發(fā)展的助力尚有待確定。

FICO的首席分析官Scott Zoldi表示，**區(qū)塊鏈可以追蹤算法訓(xùn)練時(shí)使用的數(shù)據(jù)，以及訓(xùn)練時(shí)間、訓(xùn)練人員以及對(duì)數(shù)據(jù)的驗(yàn)證和核實(shí)所采取的其他步驟。**通常情況下，構(gòu)建人工智能模型的公司會(huì)嘗試跟蹤這些數(shù)據(jù)，但使用區(qū)塊鏈可以更容易地獲得共享的、一致的、可信賴的記錄，他說(shuō)。

“區(qū)塊鏈無(wú)法阻止算法出錯(cuò)或展現(xiàn)偏見(jiàn)，但它可以提供可審計(jì)的記錄，以說(shuō)明其中原因”，他說(shuō)。

"我們發(fā)現(xiàn)區(qū)塊鏈可以將事情分解為小而可行的小型合同。我們可以驗(yàn)證每一個(gè)步驟都是在一個(gè)非常高的粒度級(jí)別上完成的，" Zoldi說(shuō)道。"具備這種不可變性，可以帶來(lái)透明度和誠(chéng)實(shí)度。"

區(qū)塊鏈并不能解決人工智能模型的可解釋性問(wèn)題，或者說(shuō)AI模型的“黑匣子”問(wèn)題。單獨(dú)使用區(qū)塊鏈無(wú)法確定為什么人工智能模型會(huì)給出特定的答案。但它承諾提供更好的記錄，以幫助回答這個(gè)問(wèn)題，Zoldi表示。

一些首席信息官對(duì)此持懷疑態(tài)度。支付公司Fleetcor Technologies的首席信息官Scott duFour表示："我們完全贊成更嚴(yán)格的AI治理，但使用區(qū)塊鏈有點(diǎn)像找釘子的錘子。"他說(shuō)，區(qū)塊鏈可能有助于增強(qiáng)對(duì)人工智能系統(tǒng)的信任，但前提是它必須與已經(jīng)在使用的其他工具相輔相成，這些工具幫助設(shè)計(jì)師理解和解釋人工智能模型的預(yù)測(cè)。

目前，F(xiàn)ICO的工具正在內(nèi)部使用，但計(jì)劃在今年晚些時(shí)候向客戶推出。

與此同時(shí)，總部位于瑞士的Casper Labs正在與IBM合作開(kāi)發(fā)自己的工具，該工具將提供“版本控制”：它記錄了在某個(gè)特定時(shí)間對(duì)某個(gè)模型產(chǎn)生影響的數(shù)據(jù)和參數(shù)，如果公司開(kāi)始發(fā)現(xiàn)模型中存在偏見(jiàn)或錯(cuò)誤，他們可以恢復(fù)到較早的版本，首席執(zhí)行官M(fèi)rinal Manohar說(shuō)。

改正算法中的偏見(jiàn)仍然是一個(gè)困難而耗時(shí)的過(guò)程，公司通常缺乏相應(yīng)的系統(tǒng)和工具。

Casper Labs的工具目前正在進(jìn)行測(cè)試階段，預(yù)計(jì)將在今年第三季度與IBM的watsonx AI治理平臺(tái)集成上市，盡管它并不僅限于watsonx平臺(tái)，Manohar說(shuō)道。AI治理平臺(tái)旨在指導(dǎo)技術(shù)的使用，并管理與之相關(guān)的風(fēng)險(xiǎn)。

返回列表