人工智能該怎么管？八項原則來了！一文讀懂

斯蒂芬·霍金曾說過，人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。人工智能在帶動巨大技術(shù)進步的同時，也給經(jīng)濟社會治理帶來了新的挑戰(zhàn)。

最近一段時間，人們關(guān)于人工智能的討論可真不少——換臉、反換臉技術(shù)斗得不可開交；無人駕駛引發(fā)事故如何追責(zé)讓人憂心忡忡；智能機器人該不該有公民身份的爭論也已經(jīng)反復(fù)了好幾輪。

隨著人工智能越來越滲透進人類生活的方方面面，全社會對人工智能的關(guān)注也從最開始的懷揣美好期望，變成了期待之外有擔(dān)憂。在人工智能迅速發(fā)展，深刻改變?nèi)祟惿鐣睢⒏淖兪澜绲谋尘跋拢覀冊诓粩鄬で笕斯ぶ悄苄б孀畲蠡瘯r，如何應(yīng)對其倫理和監(jiān)管問題，成為新的焦點。

6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》（以下簡稱《治理原則》），提出了人工智能治理的框架和行動指南。（見《治理原則》全文）

清華大學(xué)蘇世民書院院長，國家新一代人工智能治理專業(yè)委員會主任薛瀾參與了《治理原則》制定和出臺的全過程，他在接受科技日報采訪時表示，《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體。

各方共同擔(dān)責(zé)

“負責(zé)任”是主題

《治理原則》突出了發(fā)展負責(zé)任的人工智能這一主題，強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。薛瀾說，這里的“負責(zé)任”是多方的責(zé)任——既有人工智能研發(fā)者，也有使用者、管理者等其他相關(guān)方，各方應(yīng)具有高度的社會責(zé)任感和自律意識，嚴格遵守法律法規(guī)、倫理道德和標準規(guī)范。在這個基礎(chǔ)上建立人工智能問責(zé)機制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過程中應(yīng)確保人類知情權(quán)，告知可能產(chǎn)生的風(fēng)險和影響。防范利用人工智能進行非法活動。

發(fā)展的眼光看問題

敏捷治理是這個意思

人工智能的發(fā)展日新月異，技術(shù)更迭之快、新產(chǎn)品出現(xiàn)之頻繁遠超出人們的預(yù)期，所以過往在人工智能治理過程中最大的麻煩就是老政策解決不了新問題，這一次《治理原則》推出了“敏捷治理”。

“這是一個全新的思路”，中科院自動化所研究員，國家新一代人工智能治理專業(yè)委員會委員曾毅向科技日報表示，《治理原則》針對人工智能獨特的發(fā)展規(guī)律，在推動人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時，更應(yīng)該具有前瞻性和預(yù)判性，這樣才能及時發(fā)現(xiàn)和解決可能引發(fā)的未知的風(fēng)險。

“敏捷治理”可以讓我們對未來更高級人工智能的潛在風(fēng)險持續(xù)開展研究和預(yù)判，確保人工智能始終朝著有利于人類的方向發(fā)展。

尊重隱私

禁止濫用、惡用人工智能

這些年來，我國的人工智能技術(shù)取得了長足發(fā)展，中國的人工智能發(fā)展動力從哪里來？坊間有過各種說法。上海大學(xué)教授，國家新一代人工智能治理專業(yè)委員會委員李仁涵表示，我國的人工智能發(fā)展得益于數(shù)據(jù)量的快速增長、計算能力的大幅提升、機器學(xué)習(xí)算法的持續(xù)優(yōu)化，以及政府、企業(yè)對人工智能技術(shù)的大力支持。

曾毅表示，長期以來，我國對于人工智能發(fā)展中的安全問題、隱私問題都十分重視。因此在《治理原則》中，尊重隱私被放在一個十分重要的位置。要求充分保障個人的知情權(quán)和選擇權(quán)的同時，在個人信息的收集、存儲、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。

曾毅更強調(diào)，此次在《治理原則》中首提“個人數(shù)據(jù)授權(quán)撤銷機制”。他表示，我們反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為，基于此個人有權(quán)在同意個人信息授權(quán)后，有權(quán)利隨時撤銷授權(quán)，這一點在全世界也屬于領(lǐng)先。他認為，人工智能應(yīng)以保障社會安全、尊重人類權(quán)益為前提，避免誤用，禁止濫用、惡用。

共治共管

《治理原則》的誕生有點特別

《治理原則》的出臺，為的推動我國人工智能行業(yè)的自律，凝聚全社會共識，促進人工智能健康發(fā)展，所以“共治共管”的理念貫穿始終。早在《治理原則》起草前，科學(xué)技術(shù)部就在官方網(wǎng)站上發(fā)布消息，征求社會各界的意見。

“我們征集到了百余條十分有價值的意見，其中一些意見被采納，還有許多提意見的人員被請來與我們一起探討”，薛瀾向科技日報介紹說。

一位中醫(yī)科學(xué)院的專家提出以醫(yī)學(xué)倫理為鑒確定人工智能的監(jiān)管思路，一位南開大學(xué)的哲學(xué)專家建議以傳統(tǒng)文化中的哲學(xué)思路倡導(dǎo)人工智能向善的理念等等，這些意見和建議都被國家新一代人工智能治理專業(yè)委員會的專家們廣泛聽取。

曾毅告訴科技日報，《治理原則》出臺整個過程經(jīng)歷了網(wǎng)上建議征集、專家反復(fù)研討、多方征求意見等環(huán)節(jié)，凝聚了廣泛共識。值得一提的是，與許多國家先出草案再聽意見不同，我們最初的意見征集階段完全是發(fā)散性的，所有人各抒己見不設(shè)方向、不設(shè)門檻。

薛瀾表示，《治理原則》是一個框架，后續(xù)將有更細化的政策法規(guī)、行業(yè)標準規(guī)范、區(qū)域共識等來規(guī)范人工智能的發(fā)展。他強調(diào)，人工智能的治理已經(jīng)不是某個地區(qū)或者國家的問題，而是需要全球協(xié)同；人工智能發(fā)展應(yīng)以增進人類共同福祉為目標，符合人類的價值觀和倫理道德。中國的專家們盼著與全世界的科學(xué)家一起建立共識、協(xié)同發(fā)展，為促進人機和諧，服務(wù)人類文明進步共同努力。