人工智能(AI)正在不斷“嵌入”人類社會(huì)：交通出行、住房家居、教育醫(yī)療、養(yǎng)老助殘、文化體育……越來(lái)越豐富的應(yīng)用場(chǎng)景也讓人們對(duì)AI治理提出了迫切需求。在昨天舉行的2020世界人工智能大會(huì)云端峰會(huì)人工智能治理論壇上，針對(duì)人工智能應(yīng)該如何“負(fù)起社會(huì)責(zé)任”這一話題，國(guó)內(nèi)外30多位專家從技術(shù)、倫理、法律等不同角度進(jìn)行探討，倡議社會(huì)各方引導(dǎo)AI體現(xiàn)向善價(jià)值，“給AI安一顆‘良芯’”。

深度融入社會(huì)，AI必須“負(fù)起責(zé)任”

人工智能需要對(duì)社會(huì)“負(fù)責(zé)”嗎?在不少人的意識(shí)中，AI僅僅是一種工具，但在專家看來(lái)，它必須“負(fù)起責(zé)任”。

圖靈獎(jiǎng)獲得者、中國(guó)科學(xué)院外籍院士約翰·霍普克勞伏特在報(bào)告開(kāi)場(chǎng)就提出，迄今為止，計(jì)算機(jī)決策規(guī)則一直是與人類決策一致的，但未來(lái)，計(jì)算機(jī)將根據(jù)從訓(xùn)練數(shù)據(jù)中得來(lái)的經(jīng)驗(yàn)進(jìn)行決策，“這是AI的本質(zhì)，將對(duì)人類未來(lái)產(chǎn)生重大影響”。他舉了一個(gè)極端的例子：有人違章橫穿馬路時(shí)被撞身亡，假使我們向AI要解決方案，它可能會(huì)建議我們直接拆除公路。

隨著AI的普及，大量社會(huì)問(wèn)題也將浮現(xiàn)，比如算法“黑箱”帶來(lái)的歧視與偏見(jiàn)、AI自動(dòng)駕駛錯(cuò)誤而引發(fā)的交通事故等。如果這些判斷來(lái)自人類，在法律上很容易認(rèn)定責(zé)任主體，然而現(xiàn)在，人們首先要問(wèn)的是：“AI能負(fù)責(zé)嗎?”

針對(duì)這一問(wèn)題，復(fù)旦大學(xué)應(yīng)用倫理學(xué)研究中心主任王國(guó)豫認(rèn)為，既然AI產(chǎn)品能夠承擔(dān)一定的功能角色，就應(yīng)該承擔(dān)“角色責(zé)任”，這來(lái)自古老的倫理責(zé)任概念，“如果它不能履行責(zé)任或者出現(xiàn)了事故，那它就應(yīng)該被問(wèn)責(zé)”。

“負(fù)責(zé)任的AI，才是可持續(xù)發(fā)展的AI。”作為人工智能領(lǐng)域的創(chuàng)業(yè)者和技術(shù)從業(yè)者，曠視科技聯(lián)合創(chuàng)始人兼首席執(zhí)行官印奇認(rèn)為，AI治理對(duì)于產(chǎn)業(yè)落地的意義非常深遠(yuǎn)——人工智能就像火之于人類文明，如果善待并加以合理利用，將可推進(jìn)文明進(jìn)程;如果運(yùn)用不當(dāng)，則可能引發(fā)災(zāi)難。

去年，曠視科技在企業(yè)內(nèi)部成立了自己的人工智能治理委員會(huì)，并提出AI技術(shù)要“既問(wèn)輸贏，也問(wèn)對(duì)錯(cuò)”的原則。比如，一種技術(shù)無(wú)論多么成熟、商業(yè)價(jià)值有多高，但如果有悖倫理、法律、社會(huì)習(xí)俗，企業(yè)就應(yīng)選擇不去研發(fā)，也不將其應(yīng)用于產(chǎn)品中。

有“良芯”的AI需技術(shù)環(huán)境共同驅(qū)動(dòng)

一個(gè)AI智能體可能會(huì)面臨許多責(zé)任拷問(wèn)，比如它究竟是對(duì)企業(yè)負(fù)責(zé)，還是對(duì)社會(huì)負(fù)責(zé)?很顯然，人類必須給AI安一顆“良芯”，體現(xiàn)其向善價(jià)值。而要解決AI發(fā)展帶來(lái)的道德倫理、隱私保護(hù)、安全風(fēng)險(xiǎn)等問(wèn)題，需要技術(shù)與環(huán)境的共同努力。

只需對(duì)圖像、音頻、文本稍加干擾，就能讓機(jī)器產(chǎn)生誤判;后門(mén)技術(shù)也可生產(chǎn)虛假新聞、音頻、視頻……復(fù)旦大學(xué)計(jì)算機(jī)科技學(xué)院院長(zhǎng)姜育剛在論壇上介紹了他的團(tuán)隊(duì)攻破這些AI偽造術(shù)上的一些方法：只需加入一個(gè)不起眼的小模型，就可使抗干擾成功率達(dá)到80%左右。在他看來(lái)，“攻防永遠(yuǎn)都是一對(duì)博弈和互促的技術(shù)，技術(shù)將會(huì)在AI治理中發(fā)揮極為重要的作用。”

在論壇報(bào)告中，從事可信人工智能研究的中國(guó)科學(xué)院院士何積豐提出，從技術(shù)源頭建立起規(guī)范，讓AI算法本身就具備安全、可信的素質(zhì)，顯得尤為重要。從技術(shù)角度，他將AI風(fēng)險(xiǎn)總結(jié)為數(shù)據(jù)安全和模型安全兩大類問(wèn)題。然而，現(xiàn)在不少人工智能安全技術(shù)還缺乏理論工具的支撐。他希望有更多年輕人投身這一領(lǐng)域，為夯實(shí)AI治理的基礎(chǔ)貢獻(xiàn)智慧。

事實(shí)上，AI不僅僅是一個(gè)技術(shù)系統(tǒng)，而是與人類社會(huì)經(jīng)濟(jì)系統(tǒng)、政治系統(tǒng)、文化系統(tǒng)等多維度情境結(jié)合在一起的。聯(lián)合國(guó)人工智能和機(jī)器人中心主任伊拉克里·貝里澤透露，目前，全球執(zhí)法機(jī)構(gòu)均已將AI應(yīng)用到各個(gè)領(lǐng)域，但在執(zhí)法過(guò)程中會(huì)產(chǎn)生許多“邊緣案例”。因此，要想真正利用好AI的力量，必須努力確保在遵循原則和國(guó)際法律的情況下負(fù)責(zé)任地使用。

近年來(lái)，全球正在就推動(dòng)人與機(jī)器的和諧共生逐步達(dá)成共識(shí)。在我國(guó)，國(guó)家新一代人工智能治理專業(yè)委員會(huì)去年發(fā)布了以“發(fā)展負(fù)責(zé)任的人工智能”為主題的治理原則。此次論壇上，上海國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)專家咨詢委員會(huì)發(fā)布了“協(xié)同落實(shí)人工智能治理原則的行動(dòng)建議”。這是國(guó)內(nèi)首次提出的系統(tǒng)落實(shí)AI治理原則的綜合行動(dòng)方案，將為進(jìn)一步推進(jìn)AI治理提供參考。( 許琦敏)

標(biāo)簽： 人工智能 良芯