近年來，科技企業(yè)在推廣新一代信息技術產品時，數(shù)據安全、數(shù)據隱私等問題備受批評。數(shù)據作為推動人工智能快速發(fā)展的重要基礎，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據安全管理帶來了新的機遇和挑戰(zhàn)。

認證碼登錄，移動在線支付，人臉識別門禁…

伴隨著一代信息技術的發(fā)展，互聯(lián)網和人工智能技術的應用蓬勃發(fā)展，數(shù)據也被視為無形資產。然而，技術是一把雙刃劍。在提高我們生產生活效率的同時，安全問題也不容忽視。

近年來，科技企業(yè)在推廣新一代信息技術產品時，數(shù)據安全、數(shù)據隱私等問題備受批評。數(shù)據安全已經成為當今數(shù)字轉型時代的一個關鍵問題。

在7月8日至10日舉行的2021世界人工智能大會上，數(shù)據安全、數(shù)據管理、網絡安全等問題備受關注。業(yè)界認為，在人工智能深入推進城市數(shù)字化變革的過程中，企業(yè)應積極接受監(jiān)督，促進產業(yè)健康的可持續(xù)發(fā)展。

數(shù)據安全管理面臨著新的機遇和挑戰(zhàn)。

日前，桔視記錄儀等25個App因存在嚴重違法收集和使用個人信息的問題，被國家互聯(lián)網信息辦根據《中華人民共和國網絡安全法》的有關規(guī)定，通知應用商店下架。

此前，在上海車展特斯拉車主維權事件中，特斯拉公布了維權車主事件前半小時的行駛數(shù)據。這種行為引起了很多爭議:汽車公司應該公開行駛數(shù)據嗎？人們如何確定數(shù)據的可靠性？

沒有大數(shù)據的收集和基礎，人工智能是無根之木。數(shù)據作為推動人工智能快速發(fā)展的重要基礎，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據安全管理帶來了新的機遇和挑戰(zhàn)。

大數(shù)據驅動業(yè)務的發(fā)展，使得數(shù)據安全對城市運營變得前所未有的重要性。一旦數(shù)據受到攻擊，就意味著業(yè)務將停止，造成嚴重的經濟損失和社會后果。360公司創(chuàng)始人、董事長兼首席執(zhí)行官周表示，近年來，360公司接到大量醫(yī)院報警，稱醫(yī)院網站在被勒索軟件攻擊后不能進行手術，也不能掛號給患者看病。

近年來，城市也成為網絡恐嚇的重要目標，網絡攻擊的對象不僅是計算機、手機、設備、系統(tǒng)，還逐漸擴展到數(shù)據。人工智能數(shù)據的獲取、處理和應用具有很強的隱私性和領域擴展性，關系到個人信息安全和國家信息安全。政府、城市公共事業(yè)單位的數(shù)據恐嚇會導致城市運營和服務停止。今年5月，美國最大的燃料輸送管線遭到網絡攻擊，美國東海岸45%的汽油、柴油等燃料供應受到影響。

業(yè)內人士認為，針對上述情況，人工智能技術的頭頂應該懸掛一把達摩克里斯之劍。

數(shù)據輸入、分析等過程存在相應的風險。

非法跨境流通數(shù)據可能危及國家主權和國家安全；過度收集和非法使用數(shù)字信息可能會侵犯公民的權利和隱私。算法偏好可能會加劇社會偏見或歧視，威脅公平正義。無人駕駛汽車緊急避險等智能決策可能威脅特定人群的生命...

全國政協(xié)社會和法制委員會副主任陳智敏在人工智能大會安全高級對話中指出，人工智能發(fā)展與安全發(fā)展風險并存，不僅是技術問題，也是安全問題，還涉及倫理、法律、國際規(guī)則等問題。

國家工業(yè)信息安全發(fā)展研究中心副主任何小龍在人工智能會議上表示，人工智能帶來的數(shù)據安全一方面加速了傳統(tǒng)數(shù)據安全。

人工智能的大規(guī)模應用進一步加劇了過度收集數(shù)據的安全問題。另一方面，也帶來了新的數(shù)據安全問題。人工智能算法對數(shù)據有很強的依賴性，可能會帶來數(shù)據中毒等新的數(shù)據安全挑戰(zhàn)。

算法、模型和數(shù)據構成機器學習的三個基礎。騰訊朱雀實驗室首席AI安全專家朱季峰在人工智能大會主題論壇上表示，從算法構建過程中上下游產業(yè)鏈來看，數(shù)據輸入、數(shù)據分析、模型訓練、模型決策、模型在線部署應用和模型改造過程存在相應風險。

舉例來說，在數(shù)據輸入環(huán)節(jié)，如果攻擊者控制數(shù)據源，或者攻擊者能夠對收集數(shù)據的設備本身進行安全攻擊，最終會通過該鏈影響算法模型。比如超聲影響陀螺儀，最終會使無人駕駛飛機墜落?；蛟谀Ｐ蜎Q策階段，可通過物理攻擊，使自動駕駛車輛的最終視覺識別系統(tǒng)出現(xiàn)問題，從而影響車輛的自動駕駛或行人判斷。

隨著人工智能的應用，技術濫用帶來了失控的風險。驗證碼驗證機制首當其沖。朱季峰表示，早在2017年，地下黑產就已經開始通過機器學習進行二維碼識別訓練。數(shù)據顯示，80%以上的驗證準確性可以通過機器學習算法自動完成在線注冊，導致一系列安全問題。

三大系統(tǒng)共建數(shù)據安全防火墻。

人臉識別技術依靠海量視圖數(shù)據的分析，因此數(shù)據安全直接影響人臉識別技術的實際應用。人工智能技術在安全領域的應用是技術落地過程最快、應用最早的訓練場。

達美創(chuàng)始人、董事長兼首席執(zhí)行官黃曉慶表示，從數(shù)據采集到數(shù)據處理到數(shù)據傳輸，有許多解決數(shù)據網絡安全問題的方法。從網絡和數(shù)據的角度來看，有三個重要任務——物理隔離、網絡隔離和應用終端保護。

除技術外，我國還利用法律武器對數(shù)據立法進行了探索。

六月份，我國頒布了《數(shù)據安全法》，將于九月一日正式實施。提出以數(shù)據分類為核心，構建數(shù)據安全監(jiān)管體系，強化各級數(shù)據處理活動主體數(shù)據安全保護的義務和責任，為規(guī)范數(shù)據處理活動，確保數(shù)據安全提供法律依據。此外，《個人信息保護法(草案)》也即將進入三審階段，兩項法案相輔相成，推動我國個人信息保護和數(shù)據安全治理進入新階段。

清華大學蘇世民書院院長薛瀾在人工智能大會大愛無疆·共生論壇上回顧了人工智能治理模式，經歷了三個階段：回應式治理、集中式治理和敏捷式治理。如今，我們進入了一種相對集中的治理模式。這種模式明確了國家加強行業(yè)監(jiān)管、促進制度實施的決心，對暴露出來的各種問題采取了較為堅決的措施，同時也觸及了需要進一步研究的問題。

當前，上海正在研究制定公共場所人臉識別等級分類應用規(guī)范的地方標準，這將成為全國第一個制定公共場所人臉識別的地方標準；開展全市人工智能數(shù)據立法調查，規(guī)范數(shù)據確權、數(shù)據共享等重要內容，促進可信人工智能研究。同時，上海市人大也在起草《上海市數(shù)據條例》。

此外，上海數(shù)字證書認證中心、復旦大學計算機學院、上海交通大學電子信息與電氣工程學院、移動互聯(lián)網系統(tǒng)與應用安全國家工程實驗室、上海賽博網絡安全產業(yè)創(chuàng)新研究院共同發(fā)起數(shù)字身份與數(shù)據流通信任技術實驗室的建設，該實驗室基于數(shù)字信任技術的生產研究生態(tài)合作，開展隱私計算、塊鏈、尖端密碼等數(shù)字信任技術的開關和產業(yè)應用

上海浦東新區(qū)將在數(shù)據資源共享、數(shù)據交易、數(shù)據開發(fā)利用等方面進行立法探索；臨港新區(qū)將試行對企業(yè)法人數(shù)據跨境流通進行安全評估和服務監(jiān)管，加強對個人數(shù)據生命周期的安全監(jiān)控和保護。

成都融和實業(yè)排隊叫號系統(tǒng)廠家(lhnj.com.cn)是一家集研發(fā)、生產、營銷、服務于一體的高新技術企業(yè).主營智能排隊叫號系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊機、叫號機、評價器(好差評系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產品已廣泛應用于不動產登記、智慧醫(yī)療、智慧稅務、智慧政務、智慧金融、智慧通訊、智慧服務大廳、智慧機關單位等服務窗口行業(yè).咨詢電話：028-87438905。