本報(bào)訊近日，歐盟委員會公布了嚴(yán)格監(jiān)管人工智能（ai）的計(jì)劃。據(jù)《科學(xué)》報(bào)道，該委員會將起草新的法律，包括禁止人類無法解釋的“黑匣子”ai系統(tǒng)，以控制該技術(shù)的高風(fēng)險(xiǎn)應(yīng)用，比如用于醫(yī)療設(shè)備和自動(dòng)駕駛汽車。

在宣布該計(jì)劃的新聞發(fā)布會上，歐盟委員會主席ursula von der leyen說，盡管監(jiān)管將比此前任何的歐盟規(guī)定都更廣泛、更嚴(yán)格，但其目標(biāo)是促進(jìn)信任，而不是恐懼。該計(jì)劃還包括更新歐盟2018年ai戰(zhàn)略的措施，以及在未來10年投入數(shù)10億歐元用于研發(fā)。但這并非最終定案，未來12周內(nèi)，即在起草具體法律的工作正式啟動(dòng)前，專家、游說團(tuán)體和公眾可對該計(jì)劃發(fā)表意見。

相比美國，歐洲對待ai的態(tài)度更謹(jǐn)慎，歐盟官員希望通過監(jiān)管贏得消費(fèi)者信任，推動(dòng)ai的更廣泛應(yīng)用。

歐盟委員會ai獨(dú)立顧問小組成員、歐洲政策研究中心ai政策研究員andrea renda表示：“歐盟試圖在最擅長的領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用，這是一個(gè)非常堅(jiān)實(shí)和全面的監(jiān)管框架。”

該委員會希望針對醫(yī)療、交通或刑事司法等領(lǐng)域的ai“高風(fēng)險(xiǎn)”使用，制定有約束力的規(guī)則。確定風(fēng)險(xiǎn)的標(biāo)準(zhǔn)將包括以下考慮因素：某人是否會受到傷害——被一輛自動(dòng)駕駛汽車或醫(yī)療設(shè)備傷害；或者一個(gè)人是否對機(jī)器決策的影響幾乎無發(fā)言權(quán)。

歐盟委員會還希望通過人工監(jiān)管來阻止不可預(yù)測的ai“黑匣子”。這些規(guī)則還將用于管理訓(xùn)練ai系統(tǒng)的大型數(shù)據(jù)集，以確保這些數(shù)據(jù)集是合法獲取的、可追溯的，并且足夠廣泛。

法律將確定誰對人工智能系統(tǒng)的行為負(fù)責(zé)——使用它的公司還是設(shè)計(jì)它的公司，高風(fēng)險(xiǎn)的應(yīng)用程序在部署到歐盟之前必須符合這些規(guī)則。

另外，歐盟委員會計(jì)劃提供一種“值得信賴的ai”認(rèn)證，以鼓勵(lì)在低風(fēng)險(xiǎn)使用中自愿遵守，而之后被發(fā)現(xiàn)有違規(guī)行為的認(rèn)證系統(tǒng)可能面臨罰款。

歐盟委員會還將就面部識別系統(tǒng)“在歐洲展開一場廣泛的辯論”。這是一種人工智能形式，可以在人群中未經(jīng)同意而識別個(gè)人。盡管德國等歐盟國家已公布了部署該系統(tǒng)的計(jì)劃，但官員們表示，這些系統(tǒng)經(jīng)常違反歐盟隱私法。

該委員會還將制訂一項(xiàng)“行動(dòng)計(jì)劃”，將ai整合到交通和醫(yī)療等公共服務(wù)中，并更新其2018年ai發(fā)展戰(zhàn)略，該戰(zhàn)略為研究投入了15億歐元。（文樂樂）

《中國科學(xué)報(bào)》 (2020-02-26 第1版 要聞)