近日，歐盟委員會(huì)(EC)任命的人工智能高級(jí)專(zhuān)家小組(AI HLEG)發(fā)布了AI開(kāi)發(fā)和使用的道德草案—可信賴(lài)AI的道德準(zhǔn)則草案(Draft Ethics Guidelines for Trustworthy AI)，內(nèi)容長(zhǎng)達(dá) 37 頁(yè)，提出可信賴(lài)AI應(yīng)具備兩大要素，以及AI不可為的基本原則。

可信賴(lài) AI 的兩大要素

AI HLEG 表示，AI無(wú)疑是這個(gè)時(shí)代最具變革性的力量之一，必將改變社會(huì)結(jié)構(gòu)，我們必須確保最大化AI的優(yōu)勢(shì)，同時(shí)降低風(fēng)險(xiǎn)，因此需要以人為本的人工智能方法，AI的開(kāi)發(fā)和使用不應(yīng)被視為一種手段，應(yīng)視為增加人類(lèi)福祉的目標(biāo)。“可信賴(lài)的AI”(Trustworthy AI)將成為人類(lèi)的北極星。

歐盟AI道德準(zhǔn)則草案指出，可信賴(lài)的AI有兩個(gè)組成要素：一、應(yīng)尊重基本權(quán)利，適用法規(guī)、核心原則和價(jià)值觀，以確保“道德目的”(ethical purpose)，二、兼具技術(shù)魯棒性(robust)和可靠性，因?yàn)榧词褂辛己玫囊鈭D，缺乏技術(shù)掌握也會(huì)造成無(wú)意的傷害。另外，AI技術(shù)必須足夠穩(wěn)健及強(qiáng)大，以對(duì)抗攻擊，以及如果AI出現(xiàn)問(wèn)題，應(yīng)該要有“應(yīng)急計(jì)劃”(fall-back plan)，例如在AI系統(tǒng)失敗了，必須要求交還由人類(lèi)接手。

另外，可信賴(lài)AI的不可為，包括不應(yīng)以任何方式傷害人類(lèi);AI不應(yīng)限制人的自由，換句話說(shuō)，人們不應(yīng)該被AI驅(qū)動(dòng)的機(jī)器征服或強(qiáng)迫;AI應(yīng)該公平使用，不得歧視或誣蔑;AI應(yīng)透明地運(yùn)作，也就是說(shuō)，人類(lèi)需要知道AI正在開(kāi)發(fā)的目的，以及如何使用它;AI應(yīng)該只為個(gè)人和整個(gè)社會(huì)的福祉而發(fā)展

草案也提出了框架，第一章闡述AI必須遵守的基本權(quán)利和價(jià)值觀，以確保AI符合道德目的。第二章則是實(shí)現(xiàn)可信賴(lài)AI的指導(dǎo)方針，同時(shí)兼顧道德目的和技術(shù)穩(wěn)健性，并列出可信賴(lài)AI的要求，包括技術(shù)和非技術(shù)方法。第三章則提供了具體但非窮舉的可信賴(lài) AI評(píng)估表。