我國發(fā)布《治理原則》 發(fā)展負責任的人工智能

技術釋放巨大潛力，風險問題廣受關注，我國發(fā)布《治理原則》——
發(fā)展負責任的人工智能

我國數(shù)據(jù)資源豐富，應用場景需求迫切，基礎研究、技術開發(fā)的水平顯著提升，人工智能較快發(fā)展。與此同時，治理方面的問題也隨之出現(xiàn)。

國家新一代人工智能治理專業(yè)委員會發(fā)布《治理原則》，以“發(fā)展負責任的人工智能”為主題，希望“負責任”貫穿人工智能的研發(fā)和應用，促進技術的健康發(fā)展。

近年來，人工智能迅速發(fā)展，作為引領新一代科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，人工智能正深刻影響社會生活、改變世界，在引發(fā)巨大變革的同時，也帶來了諸多風險，人工智能該如何健康發(fā)展？

6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》（以下簡稱《治理原則》），提出了人工智能治理的框架和行動指南。這是我國促進新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理的一項重要成果。

治理問題引起廣泛關注，學界業(yè)界都在探索自律

“自2017年國家新一代人工智能發(fā)展規(guī)劃發(fā)布以來，我國人工智能與各行業(yè)各領域的融合日益深入，展現(xiàn)出巨大的發(fā)展?jié)摿??！鼻迦A大學蘇世民書院院長、國家新一代人工智能治理專業(yè)委員會主任薛瀾說，人工智能正在對政府管理經(jīng)濟模式、社會結構、國家安全甚至國際關系產(chǎn)生深刻的影響，隨著技術的發(fā)展和應用，治理方面的問題不斷出現(xiàn)，引起了科技界、產(chǎn)業(yè)界和社會的廣泛關注?！昂芏鄧H組織、產(chǎn)業(yè)聯(lián)盟和知名企業(yè)都在研究制定人工智能相關的準則，我國一些學術組織和產(chǎn)業(yè)聯(lián)盟在這方面非?；钴S，業(yè)界也在積極探索行業(yè)自律?！毖懻f。

為促進新一代人工智能健康發(fā)展，國家新一代人工智能治理專業(yè)委員會成立，統(tǒng)籌推進人工智能治理的相關工作，起草這份《治理原則》就是委員會今年的重點工作之一。

起草過程中，委員會注重廣泛聽取各方面意見?！拔覀冊诰W(wǎng)絡上公開動員公眾參與，形成了上百條重要建議?！毖懻f，委員會還多次召開有關高?？蒲性核推髽I(yè)代表參加的座談會，廣泛凝聚了學界、業(yè)界和社會的共識。

中國科學院自動化研究所研究員、國家新一代人工智能治理專業(yè)委員會委員曾毅介紹，目前全球各國政府、非政府組織和產(chǎn)業(yè)界機構已發(fā)布了超過40份人工智能準則，這些準則往往是在發(fā)布征求意見稿之后聽取意見?！啊吨卫碓瓌t》是在未發(fā)布任何內(nèi)容的情況下，收集從業(yè)人員甚至普通用戶對人工智能的期待和愿景，這是《治理原則》最主要的一個特點?！?/p>

“負責任”是主題，涵蓋人工智能的基礎研發(fā)到應用

“發(fā)展負責任的人工智能”成為《治理原則》的主題，在受訪專家看來，“負責任”涵蓋了人工智能的基礎研發(fā)層到應用層，更應成為貫穿人工智能發(fā)展的一條主線。薛瀾舉例說：“比如我們提出的‘和諧友好’等原則，強調(diào)無論是人工智能提供的產(chǎn)品還是服務，都應該是負責任的、全面的，應以增進人類共同福祉為目標，應該符合人類的價值觀和倫理道德，避免誤用，禁止濫用、惡用?！?/p>

《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關系，確保人工智能安全可控可靠，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體，這也構成了《治理原則》的4個主要亮點。

更好協(xié)調(diào)人工智能發(fā)展與治理的關系，實現(xiàn)“雙輪驅動”。上海大學教授、國家新一代人工智能治理專業(yè)委員會委員李仁涵說：“人工智能是一個新生事物，發(fā)展還是第一位的。推動我國人工智能的發(fā)展，也要在發(fā)展中解決問題?！彼J為，人工智能的健康發(fā)展，應該及時納入治理框架之中?？萍疾繎?zhàn)略規(guī)劃司副司長張旭表示，要平衡發(fā)展和治理的關系，對一些共性問題要加強標準和規(guī)范的制定，同時對于差異性的問題，要通過一些具體的規(guī)范把《治理原則》的內(nèi)容更好納入進來，使示范推廣和產(chǎn)品應用更好結合，推動《治理原則》的落地。

確保人工智能安全可控可靠，規(guī)避風險隱患。“人工智能的發(fā)展仍然存在技術和社會潛在影響的雙重‘不確定性’，因此我們要對更高級的人工智能潛在風險持續(xù)地開展研究和預判，確保人工智能健康穩(wěn)健發(fā)展。”曾毅指出，現(xiàn)在一些技術開發(fā)者沒有經(jīng)過這方面的專業(yè)訓練，通過創(chuàng)新為社會帶來正面效應的同時，對相關的風險不重視或無意識，給社會帶來了較大的隱患，希望《治理原則》的發(fā)布，推動“自適應”的治理，確保人工智能朝著對全人類、全社會及自然生態(tài)有益的方向發(fā)展。“我們現(xiàn)在是把這些原則寫在紙上，最終希望能寫到每一個人工智能開發(fā)人員和使用者的心里。”他說。

推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，促進包容共享。曾毅認為，人工智能作為一項使能技術，應與自然、社會和諧發(fā)展?！拔覈且粋€發(fā)展中國家，發(fā)展人工智能，更應該正視發(fā)展中的一些新情況、新問題。”他說，“人工智能應積極促進綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求，同時在發(fā)展中縮小地域差距，提升弱勢群體的適應性，努力消除數(shù)字鴻溝，這符合我國人工智能發(fā)展的現(xiàn)實需要?！?/p>

共建人類命運共同體，提倡開放協(xié)作?！昂芏鄧业陌l(fā)展階段不同，人工智能可能也面臨著不同的應用場景，這就需要在交流溝通的基礎上開展合作研究和對話。”薛瀾表示，只有在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治理框架和標準規(guī)范，才能增進人類共同福祉。

人工智能治理原則，今后還將根據(jù)變化進行調(diào)整

《中國新一代人工智能發(fā)展報告2019》顯示，我國人工智能論文發(fā)表量全球領先，企業(yè)數(shù)量等多項指標居全球第二位。在李仁涵看來，我國數(shù)據(jù)資源豐富，應用場景需求迫切，基礎研究、技術開發(fā)的水平都有顯著的提升，這些因素共同促進了我國人工智能的較快發(fā)展。

曾毅認為，我國人工智能技術快速發(fā)展的同時，人工智能治理的能力和水平也在提升?！霸跀?shù)據(jù)隱私、安全治理方面，相關部門和全社會都付出了巨大的努力，這一點是有目共睹的。”他舉例說，“以《治理原則》提出的‘個人數(shù)據(jù)授權撤銷機制’來說，在全球來看也是非常領先的一個概念。這說明，我們一直非常重視這方面的工作，并且是以非常負責任的態(tài)度來推進的?！?/p>

“考慮到人工智能發(fā)展的高度復雜性和不確定性，要按照漸進性的思路推進人工智能的治理?！毖懕硎?，《治理原則》是一份框架性文件，對人工智能健康發(fā)展主要發(fā)揮宏觀引導作用，今后還將根據(jù)形勢的變化和需要，不斷進行充實和調(diào)整。在薛瀾看來，人工智能的發(fā)展過程中也面臨著一些基礎性的工作，立法就是其中之一。“我們發(fā)布的《治理原則》，也為今后的立法工作提供了重要基礎。”他認為，人工智能發(fā)展非常快，而立法的周期較長，因此也很難只用法律框架來支撐人工智能的發(fā)展，“這就需要相關的原則準則、行業(yè)規(guī)范，包括從業(yè)者的自律，來協(xié)同推進其健康發(fā)展?！保ㄓ浾?谷業(yè)凱）