AI解鎖無(wú)人時(shí)代 仍需數(shù)據(jù)安全保駕護(hù)航

　　近幾年，科技企業(yè)在推廣新一代資訊技術(shù)産品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題廣受詬病。數(shù)據(jù)作為驅(qū)動(dòng)人工智慧快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智慧的安全。人工智慧的加速發(fā)展給數(shù)據(jù)的安全治理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

　　驗(yàn)證碼登陸、移動(dòng)線上支付、人臉識(shí)別門禁……

　　隨著新一代資訊技術(shù)的發(fā)展，網(wǎng)際網(wǎng)路和人工智慧技術(shù)應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為一種無(wú)形的資産。然而，技術(shù)是一把雙刃劍，在給我們生産生活帶來(lái)效率提升的同時(shí)，伴隨的安全問(wèn)題也不可忽視。

　　近幾年，科技企業(yè)在推廣新一代資訊技術(shù)産品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題廣受詬病。數(shù)據(jù)安全成為當(dāng)今數(shù)字化轉(zhuǎn)型時(shí)代的關(guān)鍵緊迫議題。

　　在7月8日至10日舉行的2021世界人工智慧大會(huì)上，數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)路安全等問(wèn)題備受關(guān)注。業(yè)界認(rèn)為，在人工智慧深入推進(jìn)城市數(shù)字化轉(zhuǎn)型過(guò)程中，企業(yè)應(yīng)積極主動(dòng)接受監(jiān)管，推動(dòng)産業(yè)健康持續(xù)發(fā)展。

　　數(shù)據(jù)安全治理面臨新的機(jī)遇和挑戰(zhàn)

　　近日，桔視記錄儀等25款A(yù)pp因存在嚴(yán)重違法違規(guī)收集使用個(gè)人資訊問(wèn)題，被國(guó)家網(wǎng)際網(wǎng)路信息辦公室依據(jù)《中華人民共和國(guó)網(wǎng)路安全法》相關(guān)規(guī)定，通知應(yīng)用商店下架。

　　此前，在上海車展特斯拉車主維權(quán)事件中，特斯拉公佈了維權(quán)車主車輛事發(fā)前半小時(shí)的行車數(shù)據(jù)。該行為引發(fā)了眾多爭(zhēng)議：車企該不該將行車數(shù)據(jù)公開？人們?nèi)绾未_定數(shù)據(jù)的可靠性？

　　沒有大數(shù)據(jù)的收集和基礎(chǔ)，人工智慧是無(wú)本之木。數(shù)據(jù)作為驅(qū)動(dòng)人工智慧快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智慧的安全。人工智慧的加速發(fā)展給數(shù)據(jù)的安全治理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

　　“大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的開展，讓數(shù)據(jù)安全對(duì)城市運(yùn)轉(zhuǎn)變得前所未有的重要，數(shù)據(jù)一旦遭到攻擊，就意味著業(yè)務(wù)會(huì)停轉(zhuǎn)，將造成嚴(yán)重的經(jīng)濟(jì)損失和社會(huì)後果。”360公司創(chuàng)始人、董事長(zhǎng)兼CEO周鴻祎表示，最近幾年，360公司接到大量醫(yī)院的報(bào)警，稱醫(yī)院網(wǎng)站被勒索軟體攻擊之後不能進(jìn)行手術(shù)，不能給病人掛號(hào)看病。

　　近年來(lái)，城市也成為了網(wǎng)路勒索的重要目標(biāo)，而且網(wǎng)路攻擊的對(duì)象不僅限于電腦、手機(jī)、設(shè)備、系統(tǒng)，還逐漸擴(kuò)展到數(shù)據(jù)。人工智慧數(shù)據(jù)的獲取、處理和應(yīng)用具有極強(qiáng)的隱私性與領(lǐng)域擴(kuò)展性，關(guān)乎個(gè)人資訊安全甚至國(guó)家資訊安全。對(duì)政府、城市公共事業(yè)單位的數(shù)據(jù)勒索，會(huì)造成城市運(yùn)轉(zhuǎn)和服務(wù)陷入停擺。今年5月，美國(guó)最大的燃油輸送管線遭遇網(wǎng)路攻擊被迫關(guān)停，導(dǎo)致美國(guó)東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

　　業(yè)界認(rèn)為，針對(duì)上述情況，要讓人工智慧技術(shù)的頭頂上高懸一把達(dá)摩克裏斯之劍。

　　數(shù)據(jù)輸入、分析等過(guò)程都存在相應(yīng)風(fēng)險(xiǎn)

　　數(shù)據(jù)非法跨境流通可能危害國(guó)家主權(quán)和國(guó)家安全；數(shù)字資訊的過(guò)度採(cǎi)集和非法使用，可能侵犯公民的權(quán)利和隱私；演算法的偏好可能加劇社會(huì)的偏見或歧視，威脅公平正義；無(wú)人駕駛汽車緊急避險(xiǎn)等智慧決策可能威脅特定人群的生命……

　　全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏在人工智慧大會(huì)安全高端對(duì)話上指出，人工智慧發(fā)展與安全發(fā)展風(fēng)險(xiǎn)同時(shí)並存，這不僅是一個(gè)技術(shù)問(wèn)題，也是一個(gè)安全問(wèn)題，同時(shí)還涉及倫理、法律和國(guó)際規(guī)則等相關(guān)問(wèn)題。

　　國(guó)家工業(yè)資訊安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ腔鄞髸?huì)上表示，人工智慧帶來(lái)的數(shù)據(jù)安全問(wèn)題一方面加速了傳統(tǒng)數(shù)據(jù)安全問(wèn)題。

　　人工智慧大規(guī)模的運(yùn)用使得過(guò)度採(cǎi)集數(shù)據(jù)安全問(wèn)題進(jìn)一步加劇。另一方面，也帶來(lái)了新型數(shù)據(jù)安全的問(wèn)題。人工智慧的演算法對(duì)數(shù)據(jù)具有較強(qiáng)的依賴性，可能會(huì)帶來(lái)數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。

　　演算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)三大基石。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智慧大會(huì)主題論壇上表示，以演算法構(gòu)建過(guò)程中上下游的産業(yè)鏈來(lái)看，數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓(xùn)練、模型的決策、模型的上線部署應(yīng)用以及模型的改造過(guò)程當(dāng)中都存在相應(yīng)的風(fēng)險(xiǎn)。

　　例如，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制了數(shù)據(jù)來(lái)源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設(shè)備本身産生安全攻擊，最終將通過(guò)這個(gè)鏈條影響到演算法模型。如通過(guò)超聲波影響陀螺儀，最終可以使無(wú)人機(jī)墜落。或者在模型決策階段，可以通過(guò)物理攻擊，使得自動(dòng)駕駛車輛最終視覺識(shí)別系統(tǒng)出問(wèn)題，這樣可能影響車輛自動(dòng)行駛或者對(duì)行人的判斷。

　　隨著人工智慧的應(yīng)用，技術(shù)的濫用帶來(lái)失控風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其衝。朱季峰介紹，早在2017年，地下的黑産就已經(jīng)開始用機(jī)器學(xué)習(xí)的方法做二維碼識(shí)別訓(xùn)練。資料表明，80%以上驗(yàn)證的準(zhǔn)確性都可以通過(guò)機(jī)器學(xué)習(xí)演算法自動(dòng)完成線上的註冊(cè)，這就産生了一系列的安全問(wèn)題。

　　3大系統(tǒng)共築數(shù)據(jù)安全防火牆

　　人臉識(shí)別技術(shù)依託于對(duì)海量視圖數(shù)據(jù)的分析，因而數(shù)據(jù)安全直接影響著人臉識(shí)別技術(shù)的實(shí)戰(zhàn)應(yīng)用。人工智慧技術(shù)在安防領(lǐng)域的應(yīng)用是技術(shù)尋求落地進(jìn)程最快、應(yīng)用最早的訓(xùn)練場(chǎng)。

　　達(dá)闥創(chuàng)始人、董事長(zhǎng)兼CEO黃曉慶表示，從數(shù)據(jù)採(cǎi)集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，解決數(shù)據(jù)網(wǎng)路安全問(wèn)題有很多手段。從網(wǎng)路和數(shù)據(jù)角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)路隔離、應(yīng)用端到端的保護(hù)。

　　除了技術(shù)，我國(guó)利用法律武器在數(shù)據(jù)立法上也做出了探索。

　　今年6月，我國(guó)頒布了《數(shù)據(jù)安全法》，9月1日將開始正式實(shí)施。《數(shù)據(jù)安全法》提出以數(shù)據(jù)分級(jí)分類為核心，搭建數(shù)據(jù)安全的監(jiān)管制度，要求強(qiáng)化落實(shí)各級(jí)數(shù)據(jù)處理活動(dòng)主體數(shù)據(jù)安全保護(hù)的義務(wù)與責(zé)任，為規(guī)範(fàn)數(shù)據(jù)處理活動(dòng)，保障數(shù)據(jù)安全提供法律依據(jù)。另外，《個(gè)人資訊保護(hù)法（草案）》也即將進(jìn)入三審階段，兩項(xiàng)法案相輔相成，推動(dòng)我國(guó)個(gè)人資訊保護(hù)和數(shù)據(jù)安全治理進(jìn)入全新階段。

　　在人工智慧大會(huì)“大愛無(wú)疆婷婷色婷婷开心五月