給“演算法”立規(guī)矩！3月1日起，《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》正式實施。保護(hù)個人權(quán)益，維護(hù)國家安全。演算法不能變“算計”！《新聞1+1》連線中國資訊安全研究院副院長左曉棟，共同關(guān)注：演算法，須依法！

　　規(guī)範(fàn)演算法，聚焦五類應(yīng)用！

　　如何理解這次實施的規(guī)定，要從“生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類”這五類應(yīng)用去規(guī)範(fàn)演算法的“黑箱”操作？

　　中國資訊安全研究院副院長 左曉棟：因為這五類應(yīng)用有兩個特點。①大多數(shù)用戶使用網(wǎng)際網(wǎng)路，每天都會經(jīng)歷的這些應(yīng)用。比如我們訪問的資訊，新聞資訊是演算法推薦的，我們使用搜索引擎，搜索引擎呈現(xiàn)的搜索結(jié)果是演算法推薦的等等。②因為侵害公民個人權(quán)益乃至危害國家安全的事件在這些領(lǐng)域多發(fā)。因此要規(guī)範(fàn)演算法的使用，聚焦這五類應(yīng)用，才能很好地從根本上維護(hù)公民在網(wǎng)路空間的合法權(quán)益，維護(hù)國家安全和公共利益。

　　規(guī)範(fàn)演算法推薦，如何保障用戶的知情權(quán)和選擇權(quán)？

　　中國資訊安全研究院副院長 左曉棟：演算法規(guī)定文件要保證用戶的知情權(quán)和選擇權(quán)。但是在實踐中，的確平臺擁有者有可能會規(guī)避這些要求，比如應(yīng)當(dāng)給予用戶提供不使用演算法推薦的服務(wù)，或者給用戶提供關(guān)閉演算法推薦服務(wù)的選項等。如果用戶提出了這樣的申請，服務(wù)提供者可能就退出服務(wù)，用戶不能用了，這個是很有可能發(fā)生的。所以首先要在文件的層面上作出嚴(yán)格的規(guī)定，同時後續(xù)還要嚴(yán)格的執(zhí)法，對於違反政策規(guī)定的行為要進(jìn)行責(zé)任追究。

　　避免演算法變算計，平臺企業(yè)的開放、透明是關(guān)鍵

　　中國資訊安全研究院副院長 左曉棟：有的人説演算法是個“黑箱”問題，這的確給治理帶來了很大的挑戰(zhàn)。因此在3月1日實施的這份文件，包括此前的一些法律規(guī)定中，都明確了演算法一定要做到開放，一定要做到透明。包括給平臺企業(yè)提出的一些要求，也是要讓他們落實這方面的法律的責(zé)任義務(wù)。

　　對“具有輿論屬性或者社會動員能力的演算法推薦服務(wù)提供者”進(jìn)行監(jiān)督管理

　　中國資訊安全研究院副院長 左曉棟：《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》中特別對“具有輿論屬性和社會動員能力的演算法推薦服務(wù)提供者”作出了要求，主要體現(xiàn)在兩個方面。

　　①履行備案手續(xù)。3月1日是這個文件正式實施的日子，在2月28日國家網(wǎng)信部門已經(jīng)正式公佈了備案的網(wǎng)址。

　　②開展安全評估。2018年國家網(wǎng)信部門聯(lián)合有關(guān)部委就已經(jīng)發(fā)佈《具有輿論屬性或社會動員能力的網(wǎng)際網(wǎng)路資訊服務(wù)安全評估規(guī)定》，演算法推薦服務(wù)提供者自然屬於這類，應(yīng)該由此進(jìn)行管理，所以要進(jìn)行安全評估。

　　對演算法推薦管理規(guī)定施行的期待

　　中國資訊安全研究院副院長 左曉棟：演算法推薦是一個綜合性、全局性問題，還涉及平臺治理、數(shù)據(jù)安全保護(hù)等多方面。因此3月1日這份文件的實施，的確是一個重大進(jìn)步，但這也僅僅是一個開頭，今後還要繼續(xù)加強(qiáng)工作。比如大家現(xiàn)在反映比較多的，網(wǎng)際網(wǎng)路企業(yè)制定的平臺規(guī)則，實施演算法是不是應(yīng)當(dāng)徵得社會同意？在2021年11月國家網(wǎng)信部門向社會公開意見的《網(wǎng)路數(shù)據(jù)安全管理條例》中就提到平臺運營者應(yīng)當(dāng)對平臺規(guī)則、隱私政策和演算法徵求社會意見，如果是特大型的網(wǎng)際網(wǎng)路平臺，那麼所涉及的規(guī)則、隱私政策和演算法還應(yīng)當(dāng)徵得主管部門批準(zhǔn)，這些動作都體現(xiàn)了主管部門在解決演算法推薦問題上所做的積極的努力，這些工作還會持續(xù)下去。總的來講，通過一系列的努力，一段時間內(nèi)不懈地治理，期待這份規(guī)定能夠切實保證公民在網(wǎng)路中的合法權(quán)益，積極有效的維護(hù)國家安全和公共利益。

　　如何看待演算法誘導(dǎo)未成年人沉迷網(wǎng)路的危害性？

　　沉迷網(wǎng)路並不是一個“新鮮詞”，但當(dāng)演算法加入，進(jìn)行誘導(dǎo)，後果會怎樣？

　　中國資訊安全研究院副院長 左曉棟：演算法推薦有一個特點，就是你喜歡什麼，它給你推送什麼。青少年往往涉世未深，而且自製力不夠，如果服務(wù)提供者專門針對青少年的個人喜好，甚至是一些不健康的喜好，專門推送定制資訊，比如某種題材的小説或者遊戲，就更容易使青少年沉溺其中不能自拔，後果很嚴(yán)重。

　　監(jiān)管演算法，是否會影響技術(shù)發(fā)展？

　　中國資訊安全研究院副院長 左曉棟：首先需要明確一點，技術(shù)的發(fā)展是中立的，也就是演算法推薦有它存在的必要性。比如説我們在網(wǎng)上買衣服的時候，穿上衣服效果怎麼樣，通過虛擬試衣，提供一張照片，形象效果就可以展示出來了，這是好的應(yīng)用。但是也的確存在著一些濫用的情況，有些對社會危害還是比較大，所以要讓演算法運作在法律的軌道上，我們鼓勵它正確、合理地向上向善應(yīng)用，而需要規(guī)範(fàn)監(jiān)管的是不當(dāng)?shù)膽?yīng)用，這個工作必須要進(jìn)行下去。

　　如何理解演算法作惡可能會影響到國家安全？

　　中國資訊安全研究院副院長 左曉棟：因為演算法有一種功能，就是社會動員能力。如果服務(wù)提供者針對一批特定的人，專門定制一批特定的政治性資訊定向推送，從而影響他們的政治判斷，甚至去動員他們從事某種社會活動，這個後果就可能比較嚴(yán)重。因為會嚴(yán)重影響這些人客觀正確的判斷和認(rèn)知。事實上，在世界很多地方的政治選舉中，演算法推薦都有它的影子，甚至有一些演算法推薦的應(yīng)用導(dǎo)致政治選舉結(jié)果被直接改變了。

　　全球首批針對演算法進(jìn)行的綜合性立法

　　中國資訊安全研究院副院長 左曉棟：演算法推薦中的“黑箱”算計問題，是一個全球各國面臨的共同問題，而且是一個發(fā)展中的問題，各國都在採取措施加以解決。從全球範(fàn)圍看，我們國家制定這樣一個演算法管理的規(guī)定，是處於全球首批。制定這個規(guī)定是基於我們國家網(wǎng)際網(wǎng)路産業(yè)發(fā)展的實際情況，同時也基於我們國家對網(wǎng)際網(wǎng)路治理的具體經(jīng)驗，而這些産業(yè)發(fā)展的情況，這些治理經(jīng)驗往往體現(xiàn)了中國特色，所以制定這個規(guī)定，實際上是我們國家對全球網(wǎng)際網(wǎng)路治理、網(wǎng)路空間治理所做的中國貢獻(xiàn)，體現(xiàn)了中國智慧。