我國首部人工智能產業(yè)專項立法——《深圳經濟特區(qū)人工智能產業(yè)促進條例》(下稱《條例》)于近日發(fā)布。9月5日，深圳市人大常委會官網公布了《條例》全文，這部法規(guī)將于11月起施行。

南都記者注意到，《條例》不但首次從法律層面明確人工智能及人工智能產業(yè)的界定，還創(chuàng)新性地規(guī)定市政府應當設立人工智能倫理委員會。目前國內外人工智能倫理委員會主要由企業(yè)在內部設立，由政府主導的十分罕見。

多位專家對南都記者表示，《條例》一方面對國內其他地區(qū)乃至中央層面的人工智能立法有示范意義，另一方面跟國際上相關的法律政策框架接軌。其中探索由政府設立人工智能倫理委員會，將對產業(yè)起到示范、主導的作用，對于人工智能技術的社會影響和倫理問題可能會有更周全的考慮和更系統(tǒng)的調節(jié)機制。

*1*

首次從法律層面定義人工智能

當下，人工智能已經成為新一輪產業(yè)變革的核心驅動力，是經濟發(fā)展的新引擎，催生了許多新技術、新產品、新產業(yè)、新業(yè)態(tài)、新模式，對加速傳統(tǒng)產業(yè)升級換代、重塑經濟結構、實現社會生產力整體躍升有著重要推動作用。但截至目前，我國在國家層面尚無專項的人工智能產業(yè)立法。

2020年，中共中央辦公廳、國務院辦公廳印發(fā)《深圳建設中國特色社會主義先行示范區(qū)綜合改革試點實施方案(2020-2025年)》，要求深圳在人工智能、無人駕駛、大數據、生物醫(yī)藥、醫(yī)療健康、信息服務等新興領域先行探索。通過經濟特區(qū)立法方式在人工智能領域先行先試，正是深圳為落實上述方案走出的一大步。

為什么選中深圳?

中國社科院科技和社會研究中心主任段偉文認為，深圳在探索經濟發(fā)展和管理模式的過程中積累了本土化的經驗，涌現了一些本土的標桿企業(yè)。“就科創(chuàng)方面而言，目前深圳在大灣區(qū)已經有了龍頭作用。”他說，“如何利用好輻射至整個大灣區(qū)的影響力，對于深圳既是挑戰(zhàn)也是機遇。”

西南政法大學人工智能法教研室主任馮子軒則認為深圳具備產業(yè)和立法兩方面的優(yōu)勢。“深圳產業(yè)優(yōu)勢非常突出的。它是經濟特區(qū)，有產業(yè)集群，還有大量的應用場景”，另一方面，廣東在相關領域政策制定和立法上積累深厚，尤其是近年來在大數據、數字政府等相關領域立法表現亮眼，走在全國前列。

《條例》共設七章七十三條，包括總則、基礎研究與技術開發(fā)、產業(yè)基礎設施建設、應用場景拓展、促進與保障、治理原則與措施、附則等七個方面。值得注意的是，《條例》首次從法律層面明確了人工智能及人工智能產業(yè)的界定。

其中人工智能是“利用計算機或者其控制的設備，通過感知環(huán)境、獲取知識、推導演繹等方法，對人類智能的模擬、延伸或擴展”。

人工智能產業(yè)則指“與人工智能相關的軟硬件產品研究、開發(fā)和生產、系統(tǒng)應用、集成服務等核心產業(yè)，以及人工智能在民生服務、社會治理、經濟發(fā)展等領域融合應用帶動的相關產業(yè)”。

值得注意的是，《條例》規(guī)定深圳市工業(yè)和信息化部門為人工智能產業(yè)主管部門，負責實施、協調、督促本行政區(qū)域內人工智能產業(yè)發(fā)展工作;市教育、財政、住建等十余個部門在各自職責范圍內，負責人工智能產業(yè)發(fā)展相關工作。

中科院人工智能聯盟標準組成員吳焦蘇指出，人工智能作為計算機的高級階段，對社會的改造面“相當寬”，漏了哪一個部門都可能使人工智能發(fā)展不順暢——“作為地方立法，這個做法是非常有意義的。”

“現在主流的想法是要加快人工智能技術在城市治理的方面的應用”，但段偉文也提醒，如果要更廣泛地應用人工智能技術，就要更加審慎地考慮到它可能造成的傷害，并且要有預防措施。

對于這部全國首個人工智能產業(yè)專項立法，馮子軒注意到，《條例》對一些涉人工智能的核心概念進行了厘定，就人工智能應用場景及產業(yè)發(fā)展經驗進行了歸納，對于數據開放共享、算力算法和產業(yè)發(fā)展瓶頸等關鍵性問題都有破題。

因此，她認為《條例》“對于兄弟省市的相關立法有一定啟發(fā)意義，也對將來中央層面的人工智能政策法律制定有所供給……該條例部分內容還能跟國際法律政策框架接軌”。

在段偉文看來，除了目前在消費端的應用以外，人工智能技術在科技領域、城市治理等方面也有很廣泛的應用前景。因此，《條例》有利于人工智能發(fā)揮其普遍的、泛在的賦能作用，不僅會推動人工智能產業(yè)的發(fā)展，也會對城市管理等各個方面產生推動作用。

*2*

公共事務部門應率先使用人工智能產品和服務

上個月，科技部等六部門聯合印發(fā)《關于加快場景創(chuàng)新以人工智能高水平應用促進經濟高質量發(fā)展的指導意見》，提出鼓勵算力平臺、共性技術平臺、行業(yè)訓練數據集、仿真訓練平臺等人工智能基礎設施資源開放共享，以及在確保數據安全的前提下，為人工智能典型應用場景提供數據開放服務。

南都記者注意到，《條例》也有類似規(guī)定。具體來說，市政府應建設公共數據開放平臺、建立人工智能應用領域的公共數據共享目錄和共享規(guī)則，推動公共數據分類分級有序開放;推動人工智能領域數據的流通利用，促進數據要素資源化、資產化、資本化發(fā)展;建立面向產業(yè)的算力算法開放平臺，推動數據共享、算法匯聚及算力開放，培育共享協作的開源治理生態(tài)。

針對中央和地方均致力于推動人工智能產業(yè)的數據開放共享，段偉文表示，當前的人工智能主要是基于數據驅動的智能，數據就意味著精度和競爭優(yōu)勢，通過使用大量的數據來完善模型，就可以更好地做城市治理、預測產業(yè)發(fā)展趨勢，或者通過計算找到一些問題的最優(yōu)解。

不過，他也提到，以往在數據應用中存在著“數據孤島”的現象，很多數據分屬于不同的部門、領域，在城市治理中無法做到數據互通。而在產業(yè)創(chuàng)新方面，現在的數據共享和開放程度還不夠，不能適應推動人工智能產業(yè)創(chuàng)新的需求。

《條例》還規(guī)定，本市國家機關、法律法規(guī)授權的具有管理公共事務職能的組織以及公共企事業(yè)單位應當率先使用人工智能產品和服務，推動社會管理數字化、智能化。

“經濟學里面一個概念叫公共品(public goods)。政府部門率先采用人工智能產品或服務，就會形成人工智能的公共品。”吳焦蘇說，在其他地方沒有人工智能公共品的前提下，深圳可能會有一個巨大的先發(fā)優(yōu)勢，使得這個公共品更容易被公眾所接受。

段偉文則提醒，政府部門采購人工智能產品和服務可以在很大程度上推動相關產業(yè)的創(chuàng)新和發(fā)展，但同時也對這個產業(yè)提出了更高的要求——如果這個產品和服務的質量不好，它的負面影響也會更為深遠。

為了促進人工智能產業(yè)發(fā)展，《條例》提出在資金、產業(yè)用地、人才等方面對人工智能產業(yè)予以支持。針對企業(yè)，推動建設人工智能產業(yè)園區(qū)，探索建立寬松靈活的產業(yè)空間管理機制，對于符合條件的企業(yè)，合理確定開發(fā)強度和配套功能;針對高校，支持開設人工智能相關學科和交叉學科，鼓勵企業(yè)創(chuàng)辦研究機構、與學校聯合建設實驗室;針對引進人才，在企業(yè)設立、項目申報和出入境、住房、外匯管理、醫(yī)療保障、子女就學等方面，按照有關規(guī)定享受深圳人才政策待遇。

另外，還要探索完善適應人工智能產品和服務的專門性保險賠償體系，為人工智能產品和服務提供全鏈條的保險保障。對在人工智能基礎研究、關鍵核心技術攻關、科技成果推廣應用等方面取得成果或者做出貢獻的個人、組織給予獎勵。

*3*

由政府設立人工智能倫理委員會

作為有望引領未來變革的戰(zhàn)略性信息技術，人工智能在實現快速發(fā)展、廣泛應用的同時，也帶來了安全、隱私、公平等諸多新問題、新挑戰(zhàn)。據悉，《條例》旨在通過特區(qū)立法有序規(guī)范深圳人工智能產業(yè)，先行探索人工智能社會治理的中國方案。

《條例》確立了人工智能治理國際公認的和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八大治理原則，還提出建立和完善政府規(guī)范、行業(yè)自律、企業(yè)自治、社會監(jiān)督的人工智能治理機制，推動形成具有廣泛共識的人工智能治理框架和標準規(guī)范，促進產業(yè)多元主體協同共治。

南都記者注意到，《條例》首次從立法層面規(guī)定市政府應設立人工智能倫理委員會，履行研究制定人工智能領域的倫理安全規(guī)范、發(fā)布人工智能倫理安全實踐指南等多項職責。公開資料顯示，目前設立人工智能倫理委員會的基本都是企業(yè)，比如國外的谷歌、微軟等大型科技企業(yè)，國內的曠視也于2019年設立了人工智能道德委員會，但由政府設立的十分罕見。

在馮子軒看來，政府代表公共利益，倫理問題涉及一個社會的基本價值觀和底線問題，本身具備公共利益取向。“政府介入的方式多種多樣，深圳是創(chuàng)新性模式之一，”她說，“未來該機構運轉的過程當中，我們要注意組織機構設置、議事規(guī)則、專家構成、公眾參與等關鍵問題，這是一個系統(tǒng)性的工作。”

“現在很多企業(yè)的人工智能倫理委員會其實很大程度上只是在展現一個姿態(tài)、一種承諾，在企業(yè)進行技術研究、產品開發(fā)的過程中能否發(fā)揮實質性作用還取決于具體的落實情況。但如果由政府來設立，就會有示范甚至主導的作用……對于人工智能技術的社會影響和倫理問題可能會有更周全的考慮和更系統(tǒng)的調節(jié)機制。”段偉文表示。

另一方面，他認為由政府設立人工智能倫理委員會是政府承擔法律和倫理責任的體現。此外，人工智能是直接涉及人的技術，它的應用過程中很重要的一點就是協調不同主體之間的利益關系，讓大家覺得這項技術可以被接受。“政府作為一個具有行政權力的主體，在這方面具備一定優(yōu)勢，也擔負著更大的責任。”

吳焦蘇也認為，人工智能領域中，人工智能倫理作為推薦性社會標準，對于強制性社會標準——人工智能法律來說具有基礎性地位，是不能缺失的。他表示，人工智能倫理將來會形成全世界通用的國際標準。

《條例》還對公眾感知較深的算法、深度偽造等人工智能應用提出了具體要求。比如對于公共決策領域以及涉及公共利益的商業(yè)領域的算法，提供人工智能產品和服務的組織或者個人應當采取利于公眾理解的方式進行算法說明。開展人工智能研究和應用活動，不得利用算法技術根據用戶的習慣、偏好、支付能力實施價格歧視或者消費欺詐等侵害消費者權益的行為，也不得利用深度合成技術從事禁止行為。

《條例》還提到，深圳市政府及有關部門需根據人工智能應用的風險等級、應用場景、影響范圍等具體情境，實施分級、分類差異化監(jiān)管，完善人工智能領域監(jiān)管機制。據南都記者了解，深圳市政府將制定人工智能應用分級分類監(jiān)管辦法。

關鍵詞： 人工智能產業(yè)專項立法 深圳人工智能產業(yè)立法 什么是人工智能 人工智能定義和范圍