《新一代人工智慧治理原則——發展負責任的人工智慧》是為促進新一代人工智慧健康發展，更好協調發展與治理的關係，確保人工智慧安全可靠可控，推動經濟、社會及生態可持續發展，共建人類命運共同體，人工智慧發展相關各方應遵循的原則。由國家新一代人工智慧治理專業委員會於2019年6月17日印發實施。
基本介紹
- 中文名：新一代人工智慧治理原則——發展負責任的人工智慧
- 印發機構：國家新一代人工智慧治理專業委員會
- 印發日期：2019年6月17日
- 實施日期：2019年6月17日
檔案全文,內容解讀,
檔案全文
新一代人工智慧治理原則
——發展負責任的人工智慧
全球人工智慧發展進入新階段，呈現出跨界融合、人機協同、群智開放等新特徵，正在深刻改變人類社會生活、改變世界。為促進新一代人工智慧健康發展，更好協調發展與治理的關係，確保人工智慧安全可靠可控，推動經濟、社會及生態可持續發展，共建人類命運共同體，人工智慧發展相關各方應遵循以下原則：
一、和諧友好。人工智慧發展應以增進人類共同福祉為目標；應符合人類的價值觀和倫理道德，促進人機和諧，服務人類文明進步；應以保障社會安全、尊重人類權益為前提，避免誤用，禁止濫用、惡用。
二、公平公正。人工智慧發展應促進公平公正，保障利益相關者的權益，促進機會均等。通過持續提高技術水平、改善管理方式，在數據獲取、算法設計、技術開發、產品研發和套用過程中消除偏見和歧視。
三、包容共享。人工智慧應促進綠色發展，符合環境友好、資源節約的要求；應促進協調發展，推動各行各業轉型升級，縮小區域差距；應促進包容發展，加強人工智慧教育及科普，提升弱勢群體適應性，努力消除數字鴻溝；應促進共享發展，避免數據與平台壟斷，鼓勵開放有序競爭。
四、尊重隱私。人工智慧發展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。在個人信息的收集、存儲、處理、使用等各環節應設定邊界，建立規範。完善個人數據授權撤銷機制，反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為。
五、安全可控。人工智慧系統應不斷提升透明性、可解釋性、可靠性、可控性，逐步實現可審核、可監督、可追溯、可信賴。高度關注人工智慧系統的安全，提高人工智慧魯棒性及抗干擾性，形成人工智慧安全評估和管控能力。
六、共擔責任。人工智慧研發者、使用者及其他相關方應具有高度的社會責任感和自律意識，嚴格遵守法律法規、倫理道德和標準規範。建立人工智慧問責機制，明確研發者、使用者和受用者等的責任。人工智慧套用過程中應確保人類知情權，告知可能產生的風險和影響。防範利用人工智慧進行非法活動。
七、開放協作。鼓勵跨學科、跨領域、跨地區、跨國界的交流合作，推動國際組織、政府部門、科研機構、教育機構、企業、社會組織、公眾在人工智慧發展與治理中的協調互動。開展國際對話與合作，在充分尊重各國人工智慧治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智慧治理框架和標準規範。
八、敏捷治理。尊重人工智慧發展規律，在推動人工智慧創新發展、有序發展的同時，及時發現和解決可能引發的風險。不斷提升智慧型化技術手段，最佳化管理機制，完善治理體系，推動治理原則貫穿人工智慧產品和服務的全生命周期。對未來更高級人工智慧的潛在風險持續開展研究和預判，確保人工智慧始終朝著有利於社會的方向發展。
國家新一代人工智慧治理專業委員會
2019年6月17日
內容解讀
我國數據資源豐富，套用場景需求迫切，基礎研究、技術開發的水平顯著提升，人工智慧較快發展。與此同時，治理方面的問題也隨之出現。
國家新一代人工智慧治理專業委員會發布《治理原則》，以“發展負責任的人工智慧”為主題，希望“負責任”貫穿人工智慧的研發和套用，促進技術的健康發展。
近年來，人工智慧迅速發展，作為引領新一代科技革命和產業變革的戰略性技術，人工智慧正深刻影響社會生活、改變世界，在引發巨大變革的同時，也帶來了諸多風險，人工智慧該如何健康發展？
6月17日，國家新一代人工智慧治理專業委員會發布《新一代人工智慧治理原則——發展負責任的人工智慧》（以下簡稱《治理原則》），提出了人工智慧治理的框架和行動指南。這是我國促進新一代人工智慧健康發展，加強人工智慧法律、倫理、社會問題研究，積極推動人工智慧全球治理的一項重要成果。
治理問題引起廣泛關注，學界業界都在探索自律
“自2017年國家新一代人工智慧發展規劃發布以來，我國人工智慧與各行業各領域的融合日益深入，展現出巨大的發展潛力。”清華大學蘇世民書院院長、國家新一代人工智慧治理專業委員會主任薛瀾說，人工智慧正在對政府管理經濟模式、社會結構、國家安全甚至國際關係產生深刻的影響，隨著技術的發展和套用，治理方面的問題不斷出現，引起了科技界、產業界和社會的廣泛關注。“很多國際組織、產業聯盟和知名企業都在研究制定人工智慧相關的準則，我國一些學術組織和產業聯盟在這方面非常活躍，業界也在積極探索行業自律。”薛瀾說。
為促進新一代人工智慧健康發展，國家新一代人工智慧治理專業委員會成立，統籌推進人工智慧治理的相關工作，起草這份《治理原則》就是委員會今年的重點工作之一。
起草過程中，委員會注重廣泛聽取各方面意見。“我們在網路上公開動員公眾參與，形成了上百條重要建議。”薛瀾說，委員會還多次召開有關高校科研院所和企業代表參加的座談會，廣泛凝聚了學界、業界和社會的共識。
中國科學院自動化研究所研究員、國家新一代人工智慧治理專業委員會委員曾毅介紹，目前全球各國政府、非政府組織和產業界機構已發布了超過40份人工智慧準則，這些準則往往是在發布徵求意見稿之後聽取意見。“《治理原則》是在未發布任何內容的情況下，收集從業人員甚至普通用戶對人工智慧的期待和願景，這是《治理原則》最主要的一個特點。”
“負責任”是主題，涵蓋人工智慧的基礎研發到套用
“發展負責任的人工智慧”成為《治理原則》的主題，在受訪專家看來，“負責任”涵蓋了人工智慧的基礎研發層到套用層，更應成為貫穿人工智慧發展的一條主線。薛瀾舉例說：“比如我們提出的‘和諧友好’等原則，強調無論是人工智慧提供的產品還是服務，都應該是負責任的、全面的，應以增進人類共同福祉為目標，應該符合人類的價值觀和倫理道德，避免誤用，禁止濫用、惡用。”
《治理原則》旨在更好協調人工智慧發展與治理的關係，確保人工智慧安全可控可靠，推動經濟、社會及生態可持續發展，共建人類命運共同體，這也構成了《治理原則》的4個主要亮點。
更好協調人工智慧發展與治理的關係，實現“雙輪驅動”。上海大學教授、國家新一代人工智慧治理專業委員會委員李仁涵說：“人工智慧是一個新生事物，發展還是第一位的。推動我國人工智慧的發展，也要在發展中解決問題。”他認為，人工智慧的健康發展，應該及時納入治理框架之中。科技部戰略規劃司副司長張旭表示，要平衡發展和治理的關係，對一些共性問題要加強標準和規範的制定，同時對於差異性的問題，要通過一些具體的規範把《治理原則》的內容更好納入進來，使示範推廣和產品套用更好結合，推動《治理原則》的落地。
確保人工智慧安全可控可靠，規避風險隱患。“人工智慧的發展仍然存在技術和社會潛在影響的雙重‘不確定性’，因此我們要對更高級的人工智慧潛在風險持續地開展研究和預判，確保人工智慧健康穩健發展。”曾毅指出，現在一些技術開發者沒有經過這方面的專業訓練，通過創新為社會帶來正面效應的同時，對相關的風險不重視或無意識，給社會帶來了較大的隱患，希望《治理原則》的發布，推動“自適應”的治理，確保人工智慧朝著對全人類、全社會及自然生態有益的方向發展。“我們現在是把這些原則寫在紙上，最終希望能寫到每一個人工智慧開發人員和使用者的心裡。”他說。
推動經濟、社會及生態可持續發展，促進包容共享。曾毅認為，人工智慧作為一項使能技術，應與自然、社會和諧發展。“我國是一個開發中國家，發展人工智慧，更應該正視發展中的一些新情況、新問題。”他說，“人工智慧應積極促進綠色發展，符合環境友好、資源節約的要求，同時在發展中縮小地域差距，提升弱勢群體的適應性，努力消除數字鴻溝，這符合我國人工智慧發展的現實需要。”
共建人類命運共同體，提倡開放協作。“很多國家的發展階段不同，人工智慧可能也面臨著不同的套用場景，這就需要在交流溝通的基礎上開展合作研究和對話。”薛瀾表示，只有在充分尊重各國人工智慧治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智慧治理框架和標準規範，才能增進人類共同福祉。
人工智慧治理原則，今後還將根據變化進行調整
《中國新一代人工智慧發展報告2019》顯示，我國人工智慧論文發表量全球領先，企業數量等多項指標居全球第二位。在李仁涵看來，我國數據資源豐富，套用場景需求迫切，基礎研究、技術開發的水平都有顯著的提升，這些因素共同促進了我國人工智慧的較快發展。
曾毅認為，我國人工智慧技術快速發展的同時，人工智慧治理的能力和水平也在提升。“在數據隱私、安全治理方面，相關部門和全社會都付出了巨大的努力，這一點是有目共睹的。”他舉例說，“以《治理原則》提出的‘個人數據授權撤銷機制’來說，在全球來看也是非常領先的一個概念。這說明，我們一直非常重視這方面的工作，並且是以非常負責任的態度來推進的。”
“考慮到人工智慧發展的高度複雜性和不確定性，要按照漸進性的思路推進人工智慧的治理。”薛瀾表示，《治理原則》是一份框架性檔案，對人工智慧健康發展主要發揮巨觀引導作用，今後還將根據形勢的變化和需要，不斷進行充實和調整。在薛瀾看來，人工智慧的發展過程中也面臨著一些基礎性的工作，立法就是其中之一。“我們發布的《治理原則》，也為今後的立法工作提供了重要基礎。”他認為，人工智慧發展非常快，而立法的周期較長，因此也很難只用法律框架來支撐人工智慧的發展，“這就需要相關的原則準則、行業規範，包括從業者的自律，來協同推進其健康發展。”
