近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)作為驅(qū)動人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。

驗(yàn)證碼登陸、移動在線支付、人臉識別門禁……

隨著新一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為一種無形的資產(chǎn)。然而，技術(shù)是一把雙刃劍，在給我們生產(chǎn)生活帶來效率提升的同時(shí)，伴隨的安全問題也不可忽視。

近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)安全成為當(dāng)今數(shù)字化轉(zhuǎn)型時(shí)代的關(guān)鍵緊迫議題。

在7月8日至10日舉行的2021世界人工智能大會上，數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)絡(luò)安全等問題備受關(guān)注。業(yè)界認(rèn)為，在人工智能深入推進(jìn)城市數(shù)字化轉(zhuǎn)型過程中，企業(yè)應(yīng)積極主動接受監(jiān)管，推動產(chǎn)業(yè)健康持續(xù)發(fā)展。

數(shù)據(jù)安全治理面臨新的機(jī)遇和挑戰(zhàn)

近日，桔視記錄儀等25款A(yù)pp因存在嚴(yán)重違法違規(guī)收集使用個(gè)人信息問題，被國家互聯(lián)網(wǎng)信息辦公室依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》相關(guān)規(guī)定，通知應(yīng)用商店下架。

此前，在上海車展特斯拉車主維權(quán)事件中，特斯拉公布了維權(quán)車主車輛事發(fā)前半小時(shí)的行車數(shù)據(jù)。該行為引發(fā)了眾多爭議：車企該不該將行車數(shù)據(jù)公開?人們?nèi)绾未_定數(shù)據(jù)的可靠性?

沒有大數(shù)據(jù)的收集和基礎(chǔ)，人工智能是無本之木。數(shù)據(jù)作為驅(qū)動人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。

“大數(shù)據(jù)驅(qū)動業(yè)務(wù)的開展，讓數(shù)據(jù)安全對城市運(yùn)轉(zhuǎn)變得前所未有的重要，數(shù)據(jù)一旦遭到攻擊，就意味著業(yè)務(wù)會停轉(zhuǎn)，將造成嚴(yán)重的經(jīng)濟(jì)損失和社會后果。”360公司創(chuàng)始人、董事長兼CEO周鴻祎表示，最近幾年，360公司接到大量醫(yī)院的報(bào)警，稱醫(yī)院網(wǎng)站被勒索軟件攻擊之后不能進(jìn)行手術(shù)，不能給病人掛號看病。

近年來，城市也成為了網(wǎng)絡(luò)勒索的重要目標(biāo)，而且網(wǎng)絡(luò)攻擊的對象不僅限于電腦、手機(jī)、設(shè)備、系統(tǒng)，還逐漸擴(kuò)展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有極強(qiáng)的隱私性與領(lǐng)域擴(kuò)展性，關(guān)乎個(gè)人信息安全甚至國家信息安全。對政府、城市公共事業(yè)單位的數(shù)據(jù)勒索，會造成城市運(yùn)轉(zhuǎn)和服務(wù)陷入停擺。今年5月，美國最大的燃油輸送管線遭遇網(wǎng)絡(luò)攻擊被迫關(guān)停，導(dǎo)致美國東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

業(yè)界認(rèn)為，針對上述情況，要讓人工智能技術(shù)的頭頂上高懸一把達(dá)摩克里斯之劍。

數(shù)據(jù)輸入、分析等過程都存在相應(yīng)風(fēng)險(xiǎn)

數(shù)據(jù)非法跨境流通可能危害國家主權(quán)和國家安全;數(shù)字信息的過度采集和非法使用，可能侵犯公民的權(quán)利和隱私;算法的偏好可能加劇社會的偏見或歧視，威脅公平正義;無人駕駛汽車緊急避險(xiǎn)等智能決策可能威脅特定人群的生命……

全國政協(xié)社會和法制委員會副主任陳智敏在人工智能大會安全高端對話上指出，人工智能發(fā)展與安全發(fā)展風(fēng)險(xiǎn)同時(shí)并存，這不僅是一個(gè)技術(shù)問題，也是一個(gè)安全問題，同時(shí)還涉及倫理、法律和國際規(guī)則等相關(guān)問題。

國家工業(yè)信息安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ悄艽髸媳硎?，人工智能帶來的?shù)據(jù)安全問題一方面加速了傳統(tǒng)數(shù)據(jù)安全問題。

人工智能大規(guī)模的運(yùn)用使得過度采集數(shù)據(jù)安全問題進(jìn)一步加劇。另一方面，也帶來了新型數(shù)據(jù)安全的問題。人工智能的算法對數(shù)據(jù)具有較強(qiáng)的依賴性，可能會帶來數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。

算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)三大基石。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智能大會主題論壇上表示，以算法構(gòu)建過程中上下游的產(chǎn)業(yè)鏈來看，數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓(xùn)練、模型的決策、模型的上線部署應(yīng)用以及模型的改造過程當(dāng)中都存在相應(yīng)的風(fēng)險(xiǎn)。

例如，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制了數(shù)據(jù)來源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設(shè)備本身產(chǎn)生安全攻擊，最終將通過這個(gè)鏈條影響到算法模型。如通過超聲波影響陀螺儀，最終可以使無人機(jī)墜落。或者在模型決策階段，可以通過物理攻擊，使得自動駕駛車輛最終視覺識別系統(tǒng)出問題，這樣可能影響車輛自動行駛或者對行人的判斷。

隨著人工智能的應(yīng)用，技術(shù)的濫用帶來失控風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其沖。朱季峰介紹，早在2017年，地下的黑產(chǎn)就已經(jīng)開始用機(jī)器學(xué)習(xí)的方法做二維碼識別訓(xùn)練。資料表明，80%以上驗(yàn)證的準(zhǔn)確性都可以通過機(jī)器學(xué)習(xí)算法自動完成線上的注冊，這就產(chǎn)生了一系列的安全問題。

3大系統(tǒng)共筑數(shù)據(jù)安全防火墻

人臉識別技術(shù)依托于對海量視圖數(shù)據(jù)的分析，因而數(shù)據(jù)安全直接影響著人臉識別技術(shù)的實(shí)戰(zhàn)應(yīng)用。人工智能技術(shù)在安防領(lǐng)域的應(yīng)用是技術(shù)尋求落地進(jìn)程最快、應(yīng)用最早的訓(xùn)練場。

達(dá)闥創(chuàng)始人、董事長兼CEO黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，解決數(shù)據(jù)網(wǎng)絡(luò)安全問題有很多手段。從網(wǎng)絡(luò)和數(shù)據(jù)角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)絡(luò)隔離、應(yīng)用端到端的保護(hù)。

除了技術(shù)，我國利用法律武器在數(shù)據(jù)立法上也做出了探索。

今年6月，我國頒布了《數(shù)據(jù)安全法》，9月1日將開始正式實(shí)施。《數(shù)據(jù)安全法》提出以數(shù)據(jù)分級分類為核心，搭建數(shù)據(jù)安全的監(jiān)管制度，要求強(qiáng)化落實(shí)各級數(shù)據(jù)處理活動主體數(shù)據(jù)安全保護(hù)的義務(wù)與責(zé)任，為規(guī)范數(shù)據(jù)處理活動，保障數(shù)據(jù)安全提供法律依據(jù)。另外，《個(gè)人信息保護(hù)法(草案)》也即將進(jìn)入三審階段，兩項(xiàng)法案相輔相成，推動我國個(gè)人信息保護(hù)和數(shù)據(jù)安全治理進(jìn)入全新階段。

在人工智能大會“大愛無疆·共生”論壇上，清華大學(xué)蘇世民書院院長薛瀾回顧人工智能治理模式歷經(jīng)回應(yīng)式治理、集中治理和敏捷治理三個(gè)階段。“現(xiàn)在我們進(jìn)入了相對比較集中的治理模式。該模式明確了國家加強(qiáng)行業(yè)監(jiān)管，促進(jìn)制度落地的決心，對暴露出來的各種問題采取比較堅(jiān)決的措施落實(shí)監(jiān)管規(guī)則，同時(shí)觸及到需要進(jìn)一步研究的問題。”薛瀾說。

目前，上海正研究立項(xiàng)公共場所人臉識別分級分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn)，將成為全國首個(gè)立項(xiàng)的人臉識別的地方性標(biāo)準(zhǔn);開展全市人工智能數(shù)據(jù)立法調(diào)研，規(guī)范數(shù)據(jù)確權(quán)，數(shù)據(jù)共享等重要內(nèi)容，推動可信人工智能的研究。上海市人大也正在起草《上海市數(shù)據(jù)條例》。

此外，上海市數(shù)字證書認(rèn)證中心、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國家工程實(shí)驗(yàn)室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起籌建數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實(shí)驗(yàn)室，該實(shí)驗(yàn)室將基于數(shù)字信任技術(shù)的產(chǎn)學(xué)研生態(tài)合作，開展隱私計(jì)算、區(qū)塊鏈、前沿密碼等數(shù)字信任技術(shù)攻關(guān)和產(chǎn)業(yè)應(yīng)用，支撐城市數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素市場構(gòu)建和網(wǎng)絡(luò)安全體系建設(shè)。

記者獲悉，上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開發(fā)利用等方面進(jìn)行立法探索;臨港新片區(qū)將試點(diǎn)開展企業(yè)法人數(shù)據(jù)的跨境流通的安全評估和服務(wù)監(jiān)管，加強(qiáng)個(gè)人數(shù)據(jù)的全生命周期安全監(jiān)控和防護(hù)。

關(guān)鍵詞： 數(shù)智時(shí)代 數(shù)據(jù)安全 AI 數(shù)字化轉(zhuǎn)型