目前，人類社會的資訊化進程正在快速從數(shù)字化、網(wǎng)路化進入智慧化階段。隨著人工智慧、大數(shù)據(jù)等新型資訊技術(shù)的發(fā)展，演算法廣泛應(yīng)用於網(wǎng)際網(wǎng)路資訊服務(wù)，為用戶提供個性化、精準化、智慧化的資訊服務(wù)。與此同時，演算法的不合理應(yīng)用也影響了正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來了嚴峻挑戰(zhàn)。

　　為規(guī)範網(wǎng)際網(wǎng)路資訊服務(wù)演算法應(yīng)用，國家網(wǎng)際網(wǎng)路信息辦公室、工業(yè)和資訊化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)佈《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），為網(wǎng)際網(wǎng)路資訊服務(wù)演算法綜合治理提供了重要法治保障。《規(guī)定》的出臺，是進一步提升網(wǎng)路綜合治理能力的應(yīng)時應(yīng)勢之舉，具有很強的探索性和前瞻性，也標誌著我國網(wǎng)路空間治理邁入新的發(fā)展階段。同時，我們需要清晰地認識到演算法綜合治理的複雜性和長期性，明確演算法治理的邊界，完善演算法安全監(jiān)管體系，推進演算法自主創(chuàng)新，促進演算法健康、有序、繁榮發(fā)展。

　　“演算法”本身是一個技術(shù)概念，顧名思義是指“計算的方法”，體現(xiàn)為一系列解決問題的步驟或電腦指令。隨著電子電腦的普及，“演算法”一詞逐漸為人們所熟知，演算法在人們的最初印象中只是在“不折不扣”地執(zhí)行人的指令，對演算法的探討也主要停留在其時間複雜度和空間複雜度等技術(shù)層面，演算法安全風險尚未引起廣泛關(guān)注。後來，隨著人工智慧、大數(shù)據(jù)等新型資訊技術(shù)快速發(fā)展，演算法的內(nèi)涵逐漸演變?yōu)椤坝脭?shù)據(jù)訓練的模型”，演算法不再一成不變，而是在不斷被投喂數(shù)據(jù)的過程中持續(xù)進化。演算法在變得越來越“智慧”的同時，也給人們帶來了日益強烈的“不適應(yīng)感”，演算法安全風險逐步進入公眾視野，引起越來越多的關(guān)注。本質(zhì)上講，智慧和風險是演算法的一體兩面，這也是技術(shù)從誕生到應(yīng)用的必經(jīng)階段。總體來看，演算法安全風險既包括演算法自身存在的演算法漏洞、演算法脆弱性、演算法黑箱等“技術(shù)風險”，也包括演算法不合理應(yīng)用帶來的演算法偏見、演算法霸淩、演算法共謀等“社會風險”。

　　網(wǎng)際網(wǎng)路資訊服務(wù)演算法綜合治理著眼于管理好使用好發(fā)展好演算法應(yīng)用，引導演算法應(yīng)用公平公正、透明可釋，充分保障網(wǎng)民合法權(quán)益。為此，《規(guī)定》首先從演算法分級分類管理的角度出發(fā)，有效識別出網(wǎng)際網(wǎng)路資訊服務(wù)中的高風險類演算法，重點關(guān)注生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等五大類網(wǎng)際網(wǎng)路資訊服務(wù)中廣泛使用的演算法。進而，《規(guī)定》從資訊服務(wù)規(guī)範和用戶權(quán)益保護兩個方面明確了演算法推薦服務(wù)提供者的主體責任，在鼓勵充分發(fā)揮演算法服務(wù)正能量傳播作用的同時，重點明確了演算法應(yīng)用應(yīng)當遵循的準則和不得存在的行為，最大限度地保護網(wǎng)民在使用演算法推薦服務(wù)時的知情權(quán)、選擇權(quán)以及未成年人、老年人、勞動者、消費者等群體的合法權(quán)益。總之，網(wǎng)際網(wǎng)路資訊服務(wù)演算法綜合治理的著眼點不僅是演算法自身的技術(shù)風險，還在於防範演算法不合理應(yīng)用影響正常的傳播秩序、市場秩序和社會秩序。

　　網(wǎng)際網(wǎng)路資訊服務(wù)演算法綜合治理著眼于標本兼治，關(guān)鍵是構(gòu)建完善演算法安全監(jiān)管體系。國家網(wǎng)際網(wǎng)路信息辦公室等九部委印發(fā)的《關(guān)於加強網(wǎng)際網(wǎng)路資訊服務(wù)演算法綜合治理的指導意見》，明確了演算法安全監(jiān)管體系，規(guī)定了演算法備案、演算法監(jiān)督檢查、演算法風險監(jiān)測、演算法安全評估等四項舉措。其中，演算法備案是演算法安全監(jiān)管的抓手和基石；演算法監(jiān)督檢查和演算法風險監(jiān)測相輔相成、互為補充，檢查是現(xiàn)場監(jiān)測，監(jiān)測是線上檢查；演算法安全評估是出口，是演算法安全監(jiān)管的落腳點。演算法自身的複雜性和演算法安全風險的隱蔽性，給演算法安全監(jiān)管體系各項舉措的實施提出了挑戰(zhàn)。從實施角度，這四項舉措的落實關(guān)鍵在於：

　　一是演算法備案工作。《規(guī)定》要求具有輿論屬性或者社會動員能力的演算法推薦服務(wù)提供者通過網(wǎng)際網(wǎng)路資訊服務(wù)演算法備案系統(tǒng)履行演算法備案手續(xù)，並在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程式等的顯著位置標明其備案編號。演算法備案是演算法安全監(jiān)管體系的重要一環(huán)，推薦演算法備案工作首先需要明確演算法備案的範圍，即哪些演算法需要進行備案、演算法的哪些資訊需要備案。從備案“登記備查”的目的來看，備案資訊應(yīng)當涵蓋演算法推薦服務(wù)的基本原理、目的意圖和主要運作機制，包括演算法所使用的數(shù)據(jù)描述、基礎(chǔ)模型、應(yīng)用場景、服務(wù)形式、人工干預等。從備案實施層面來看，演算法備案工作應(yīng)當以用戶可以感知到的網(wǎng)際網(wǎng)路資訊服務(wù)或功能為入口，對支撐服務(wù)或功能的演算法進行備案；演算法推薦服務(wù)提供者作為備案演算法的責任主體，負責完成演算法備案，並保證備案資訊的真實性。演算法種類繁多、形式多樣，給演算法備案工作帶來了諸多困難，推進備案工作的關(guān)鍵是將演算法和服務(wù)作為有機整體來看，“以服務(wù)為入口、以演算法為載體”，綜合考慮備案工作的有效性和實施難度，穩(wěn)步推進演算法備案工作。

　　二是演算法監(jiān)督檢查。《規(guī)定》中明確了網(wǎng)信、電信、公安、市場監(jiān)管等有關(guān)部門對演算法推薦服務(wù)依法開展演算法監(jiān)督檢查工作的職責，並對發(fā)現(xiàn)的問題及時提出整改意見並限期整改。一方面，演算法監(jiān)督檢查工作著眼于督促企業(yè)落實演算法安全主體責任、完善相關(guān)管理制度和技術(shù)措施、配備與演算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐；另一方面，演算法監(jiān)督檢查工作從網(wǎng)民反映強烈的網(wǎng)際網(wǎng)路資訊服務(wù)演算法亂象入手，剖析演算法亂象的成因，現(xiàn)場檢查網(wǎng)際網(wǎng)路資訊服務(wù)提供者是否存在涉演算法違法違規(guī)行為，通過檢查督促企業(yè)提高演算法安全風險意識，防範和排除潛在的演算法安全風險。

　　三是演算法風險監(jiān)測。演算法風險監(jiān)測是一個常態(tài)化的工作，包括企業(yè)開展的演算法風險監(jiān)測、公眾監(jiān)督舉報、監(jiān)管部門巡查等多個方面。從演算法安全監(jiān)管體系的角度來看，演算法風險監(jiān)測致力於對演算法的數(shù)據(jù)使用、應(yīng)用場景、影響效果等開展日常監(jiān)測，感知演算法應(yīng)用帶來的網(wǎng)路傳播趨勢、市場規(guī)則變化、網(wǎng)民行為等資訊，預警演算法應(yīng)用可能産生的不規(guī)範、不公平、不公正等隱患，發(fā)現(xiàn)演算法應(yīng)用安全問題。從實施層面看，演算法風險監(jiān)測包括人工巡查和技術(shù)巡查兩種方式，發(fā)展趨勢是加強演算法風險監(jiān)測的系統(tǒng)建設(shè)，持續(xù)提高網(wǎng)際網(wǎng)路資訊服務(wù)演算法運作時風險監(jiān)測能力，增強技術(shù)治網(wǎng)水準。

　　四是演算法安全評估。演算法安全評估工作包括分析演算法機制機理，評估演算法設(shè)計、部署和使用等環(huán)節(jié)的缺陷和漏洞，研判演算法應(yīng)用過程中産生的安全風險，提出針對性應(yīng)對措施。《規(guī)定》中明確的演算法安全評估包括演算法推薦服務(wù)提供者定期開展的自評估和監(jiān)管部門對演算法推薦服務(wù)依法開展的安全評估兩個方面。對於網(wǎng)際網(wǎng)路企業(yè)而言，演算法安全評估是防範和應(yīng)對演算法安全風險的重要舉措，企業(yè)的自評估報告也是演算法備案的重要組成部分。對於監(jiān)管部門而言，演算法安全評估是演算法備案、演算法風險監(jiān)測和演算法監(jiān)督檢查等工作的落腳點。

　　構(gòu)建網(wǎng)際網(wǎng)路資訊服務(wù)演算法安全監(jiān)管體系需要在技術(shù)支撐和能力建設(shè)方面進一步加強。國家科研機構(gòu)應(yīng)加大演算法安全方面的科技攻關(guān)，建設(shè)演算法安全評估和風險監(jiān)測的科研創(chuàng)新平臺，探索共建新型研發(fā)機構(gòu)，形成引領(lǐng)演算法安全基礎(chǔ)研究的戰(zhàn)略力量。組織建立專業(yè)技術(shù)評估隊伍，研究演算法安全內(nèi)生機理、演算法安全風險評估、演算法全生命週期安全監(jiān)測等關(guān)鍵技術(shù)。加強基礎(chǔ)科研設(shè)施建設(shè)，完善演算法安全治理人才隊伍培養(yǎng)體系，提升演算法自主創(chuàng)新和安全可控能力。推進演算法安全的科學普及工作，提升企業(yè)和社會公眾的演算法安全風險意識，引導社會各界積極參與社會監(jiān)督，共同推進演算法綜合治理。(作者：沈華偉，中國科學院計算技術(shù)研究所)