首頁(yè) / 資訊中心 / 趨勢研究/人工智能該怎么管?八項原則來(lái)了!一文讀懂

人工智能該怎么管?八項原則來(lái)了!一文讀懂

發(fā)布時(shí)間:2019-06-24 分類(lèi):趨勢研究

斯蒂芬·霍金曾說(shuō)過(guò),人工智能的崛起,要么是人類(lèi)歷史上最好的事,要么是最糟的。人工智能在帶動(dòng)巨大技術(shù)進(jìn)步的同時(shí),也給經(jīng)濟社會(huì )治理帶來(lái)了新的挑戰。

最近一段時(shí)間,人們關(guān)于人工智能的討論可真不少——換臉、反換臉技術(shù)斗得不可開(kāi)交;無(wú)人駕駛引發(fā)事故如何追責讓人憂(yōu)心忡忡;智能機器人該不該有公民身份的爭論也已經(jīng)反復了好幾輪。

隨著(zhù)人工智能越來(lái)越滲透進(jìn)人類(lèi)生活的方方面面,全社會(huì )對人工智能的關(guān)注也從最開(kāi)始的懷揣美好期望,變成了期待之外有擔憂(yōu)。在人工智能迅速發(fā)展,深刻改變人類(lèi)社會(huì )生活、改變世界的背景下,我們在不斷尋求人工智能效益最大化時(shí),如何應對其倫理和監管問(wèn)題,成為新的焦點(diǎn)。

6月17日,國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》(以下簡(jiǎn)稱(chēng)《治理原則》),提出了人工智能治理的框架和行動(dòng)指南。(見(jiàn)《治理原則》全文)

清華大學(xué)蘇世民書(shū)院院長(cháng),國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )主任薛瀾參與了《治理原則》制定和出臺的全過(guò)程,他在接受科技日報采訪(fǎng)時(shí)表示,《治理原則》旨在更好協(xié)調人工智能發(fā)展與治理的關(guān)系,確保人工智能安全可控可靠,推動(dòng)經(jīng)濟、社會(huì )及生態(tài)可持續發(fā)展,共建人類(lèi)命運共同體。

各方共同擔責

“負責任”是主題

《治理原則》突出了發(fā)展負責任的人工智能這一主題,強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開(kāi)放協(xié)作、敏捷治理等八條原則。薛瀾說(shuō),這里的“負責任”是多方的責任——既有人工智能研發(fā)者,也有使用者、管理者等其他相關(guān)方,各方應具有高度的社會(huì )責任感和自律意識,嚴格遵守法律法規、倫理道德和標準規范。在這個(gè)基礎上建立人工智能問(wèn)責機制,明確研發(fā)者、使用者和受用者等的責任。人工智能應用過(guò)程中應確保人類(lèi)知情權,告知可能產(chǎn)生的風(fēng)險和影響。防范利用人工智能進(jìn)行非法活動(dòng)。

發(fā)展的眼光看問(wèn)題

敏捷治理是這個(gè)意思

人工智能的發(fā)展日新月異,技術(shù)更迭之快、新產(chǎn)品出現之頻繁遠超出人們的預期,所以過(guò)往在人工智能治理過(guò)程中最大的麻煩就是老政策解決不了新問(wèn)題,這一次《治理原則》推出了“敏捷治理”。

“這是一個(gè)全新的思路”,中科院自動(dòng)化所研究員,國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )委員曾毅向科技日報表示,《治理原則》針對人工智能獨特的發(fā)展規律,在推動(dòng)人工智能創(chuàng )新發(fā)展、有序發(fā)展的同時(shí),更應該具有前瞻性和預判性,這樣才能及時(shí)發(fā)現和解決可能引發(fā)的未知的風(fēng)險。

“敏捷治理”可以讓我們對未來(lái)更高級人工智能的潛在風(fēng)險持續開(kāi)展研究和預判,確保人工智能始終朝著(zhù)有利于人類(lèi)的方向發(fā)展。

尊重隱私

禁止濫用、惡用人工智能

這些年來(lái),我國的人工智能技術(shù)取得了長(cháng)足發(fā)展,中國的人工智能發(fā)展動(dòng)力從哪里來(lái)?坊間有過(guò)各種說(shuō)法。上海大學(xué)教授,國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )委員李仁涵表示,我國的人工智能發(fā)展得益于數據量的快速增長(cháng)、計算能力的大幅提升、機器學(xué)習算法的持續優(yōu)化,以及政府、企業(yè)對人工智能技術(shù)的大力支持。

曾毅表示,長(cháng)期以來(lái),我國對于人工智能發(fā)展中的安全問(wèn)題、隱私問(wèn)題都十分重視。因此在《治理原則》中,尊重隱私被放在一個(gè)十分重要的位置。要求充分保障個(gè)人的知情權和選擇權的同時(shí),在個(gè)人信息的收集、存儲、處理、使用等各環(huán)節應設置邊界,建立規范。

曾毅更強調,此次在《治理原則》中首提“個(gè)人數據授權撤銷(xiāo)機制”。他表示,我們反對任何竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為,基于此個(gè)人有權在同意個(gè)人信息授權后,有權利隨時(shí)撤銷(xiāo)授權,這一點(diǎn)在全世界也屬于領(lǐng)先。他認為,人工智能應以保障社會(huì )安全、尊重人類(lèi)權益為前提,避免誤用,禁止濫用、惡用。

共治共管

《治理原則》的誕生有點(diǎn)特別

《治理原則》的出臺,為的推動(dòng)我國人工智能行業(yè)的自律,凝聚全社會(huì )共識,促進(jìn)人工智能健康發(fā)展,所以“共治共管”的理念貫穿始終。早在《治理原則》起草前,科學(xué)技術(shù)部就在官方網(wǎng)站上發(fā)布消息,征求社會(huì )各界的意見(jiàn)。

“我們征集到了百余條十分有價(jià)值的意見(jiàn),其中一些意見(jiàn)被采納,還有許多提意見(jiàn)的人員被請來(lái)與我們一起探討”,薛瀾向科技日報介紹說(shuō)。

一位中醫科學(xué)院的專(zhuān)家提出以醫學(xué)倫理為鑒確定人工智能的監管思路,一位南開(kāi)大學(xué)的哲學(xué)專(zhuān)家建議以傳統文化中的哲學(xué)思路倡導人工智能向善的理念等等,這些意見(jiàn)和建議都被國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )的專(zhuān)家們廣泛聽(tīng)取。

曾毅告訴科技日報,《治理原則》出臺整個(gè)過(guò)程經(jīng)歷了網(wǎng)上建議征集、專(zhuān)家反復研討、多方征求意見(jiàn)等環(huán)節,凝聚了廣泛共識。值得一提的是,與許多國家先出草案再聽(tīng)意見(jiàn)不同,我們最初的意見(jiàn)征集階段完全是發(fā)散性的,所有人各抒己見(jiàn)不設方向、不設門(mén)檻。

薛瀾表示,《治理原則》是一個(gè)框架,后續將有更細化的政策法規、行業(yè)標準規范、區域共識等來(lái)規范人工智能的發(fā)展。他強調,人工智能的治理已經(jīng)不是某個(gè)地區或者國家的問(wèn)題,而是需要全球協(xié)同;人工智能發(fā)展應以增進(jìn)人類(lèi)共同福祉為目標,符合人類(lèi)的價(jià)值觀(guān)和倫理道德。中國的專(zhuān)家們盼著(zhù)與全世界的科學(xué)家一起建立共識、協(xié)同發(fā)展,為促進(jìn)人機和諧,服務(wù)人類(lèi)文明進(jìn)步共同努力。