未雨綢繆的防范

給人工智能戴上“緊箍咒”

霍金曾這樣評(píng)價(jià)人工智能：“它既可能成為人類迄今發(fā)生過的最好的事，也可能成為最糟糕的事”。我們既不能盲目樂觀，也不能因噎廢食，必須及早給未來人工智能的發(fā)展套上必要的安全、倫理等方面的“緊箍咒”，同時(shí)又不能阻礙技術(shù)創(chuàng)新和人類社會(huì)進(jìn)步的步伐。

從技術(shù)安全角度建立共同遵守的發(fā)展準(zhǔn)則。根據(jù)人工智能可預(yù)見的風(fēng)險(xiǎn)，建立世界范圍內(nèi)的人工智能發(fā)展準(zhǔn)則，對(duì)研究范圍、內(nèi)容、目的、用途等各個(gè)方面進(jìn)行規(guī)范，確保安全、可控地發(fā)展人工智能。比如，對(duì)于智能系統(tǒng)到底應(yīng)該實(shí)現(xiàn)到什么樣的自主程度，賦予其多大的自主權(quán)利以及哪些方面不能實(shí)現(xiàn)等進(jìn)行明確限制。2017年1月，在美國(guó)加利福尼亞州舉辦的阿西洛馬人工智能會(huì)議上，近千名人工智能和機(jī)器人領(lǐng)域?qū)＜乙崖?lián)合簽署了《阿西洛馬人工智能23條原則》，呼吁世界在發(fā)展人工智能時(shí)共同遵守，成為人工智能安全、有序發(fā)展的良好開端。

從道德倫理角度建立科學(xué)嚴(yán)格的評(píng)估機(jī)制。人工智能主要是基于算法，而算法在本質(zhì)上是“以數(shù)學(xué)方式或計(jì)算機(jī)代碼表達(dá)的意見”，是設(shè)計(jì)者、開發(fā)者的主觀創(chuàng)造，有可能將自己的偏見、價(jià)值觀嵌入算法系統(tǒng)，制造出不符合社會(huì)道德規(guī)范的智能機(jī)器，這就需要對(duì)其進(jìn)行嚴(yán)格評(píng)估以確保安全。2016年12月，美國(guó)電氣和電子工程師協(xié)會(huì)啟動(dòng)了人工智能倫理工程，提出對(duì)嵌入智能系統(tǒng)的規(guī)范和價(jià)值進(jìn)行評(píng)估，以確定其是否和現(xiàn)實(shí)中的道德價(jià)值體系相一致。我國(guó)在《新一代人工智能發(fā)展規(guī)劃》中也提出“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力”。

從規(guī)范運(yùn)用角度建立具有法律約束力的普遍性制度條約。任何一種先進(jìn)技術(shù)能否產(chǎn)生威脅，主要看使用者出于何種目的、如何運(yùn)用。誠(chéng)然，面對(duì)人工智能的巨大優(yōu)勢(shì)和潛在利益，特別是在涉及國(guó)家安全領(lǐng)域方面，直接禁止使用人工智能技術(shù)是不現(xiàn)實(shí)的。這正如國(guó)際上禁止或限制使用“致命性自主武器系統(tǒng)”一樣,至今無法取得任何實(shí)質(zhì)性進(jìn)展。因此，應(yīng)呼吁建立具有法律約束力的國(guó)際性條約，對(duì)某些特殊功能的智能系統(tǒng)風(fēng)險(xiǎn)和技術(shù)擴(kuò)散等進(jìn)行規(guī)范和預(yù)防。