保護(hù)個(gè)人資訊，護(hù)航數(shù)字經(jīng)濟(jì)發(fā)展

　　給“演算法應(yīng)用”立規(guī)矩(網(wǎng)上中國)

　　使用某個(gè)應(yīng)用程式後，它就能“猜”到你喜歡什麼，並且精準(zhǔn)推送相關(guān)內(nèi)容，滋生“資訊繭房”、大數(shù)據(jù)“殺熟”等問題。這樣的情況最近終於開始有了改變。隨著國家網(wǎng)信辦等4部門聯(lián)合發(fā)佈的《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》近日正式施行，很多APP先後上線演算法關(guān)閉鍵，允許用戶在後臺(tái)一鍵關(guān)閉“個(gè)性化推薦”。專家表示，要繼續(xù)壓實(shí)平臺(tái)責(zé)任，促進(jìn)演算法應(yīng)用向上向善，讓演算法更好地為用戶服務(wù)，推動(dòng)資訊服務(wù)行業(yè)長遠(yuǎn)、健康發(fā)展。

　　可一鍵關(guān)閉“個(gè)性化推薦”

　　通過參考網(wǎng)際網(wǎng)路上的“攻略”，北京的王女士最近終於將一款社交應(yīng)用中的“個(gè)性化推薦”服務(wù)選項(xiàng)關(guān)閉，“再打開這個(gè)APP，感覺安心不少”。

　　王女士之所以下決心關(guān)掉“個(gè)性化推薦”服務(wù)，源於此前遇到的一些糟心經(jīng)歷。她在這款應(yīng)用裏曾發(fā)表過皮膚乾燥的言論，此後便在各個(gè)平臺(tái)不斷收到面部“保鮮”秘笈的文章、美容産品的推銷廣告，讓王女士不堪其擾。

　　在移動(dòng)網(wǎng)際網(wǎng)路時(shí)代，每一個(gè)人都在生産“數(shù)據(jù)”。此前，這些“數(shù)據(jù)”被平臺(tái)以各種方式採集，然後通過演算法分析出用戶行為、習(xí)慣和喜好，進(jìn)而精準(zhǔn)地提供資訊、娛樂、消費(fèi)等各類服務(wù)。這種基於演算法的技術(shù)創(chuàng)新在為用戶提供精準(zhǔn)資訊服務(wù)的同時(shí)，也滋生出不少問題。

　　《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》(以下簡稱《管理規(guī)定》)近日正式施行，將演算法推薦服務(wù)全面納入監(jiān)管。《管理規(guī)定》提出，演算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特徵的選項(xiàng)，或者向用戶提供便捷的關(guān)閉演算法推薦服務(wù)的選項(xiàng)。

　　《管理規(guī)定》出臺(tái)後，多家平臺(tái)先後上線演算法關(guān)閉鍵，允許用戶在後臺(tái)一鍵關(guān)閉“個(gè)性化推薦”。用戶關(guān)閉“個(gè)性化推薦”後，平臺(tái)會(huì)根據(jù)內(nèi)容的熱門程度進(jìn)行分發(fā)，推送內(nèi)容更加體現(xiàn)應(yīng)用特色。很多網(wǎng)友表示，以前總是被“安排”看一些內(nèi)容，關(guān)閉“個(gè)性化推薦”後，感覺看到了更廣闊的世界。

　　記者在體驗(yàn)後發(fā)現(xiàn)，目前多數(shù)APP還是默認(rèn)打開“個(gè)性化推薦”，要找到“個(gè)性化推薦”關(guān)閉鍵並不太容易。以一款電商應(yīng)用為例，需先後點(diǎn)擊進(jìn)入數(shù)個(gè)頁面，然後在呈現(xiàn)的10多個(gè)選項(xiàng)裏找到“個(gè)性化推薦”的關(guān)閉按鈕。有用戶認(rèn)為，這樣的設(shè)置方式難言“便捷”，其目的是讓用戶“知難而退”。

　　關(guān)閉個(gè)性化推薦，是否意味著演算法推薦技術(shù)走到盡頭？中國人民大學(xué)資訊學(xué)院教授程絮森分析，隨著新規(guī)實(shí)施，如何使個(gè)性化推薦更加規(guī)範(fàn)，是很大的挑戰(zhàn)，但也相應(yīng)促進(jìn)了各網(wǎng)際網(wǎng)路平臺(tái)的技術(shù)發(fā)展進(jìn)步，有利於加速推進(jìn)相關(guān)行業(yè)的數(shù)字化轉(zhuǎn)型與平臺(tái)經(jīng)濟(jì)的健康發(fā)展。

　　合力推動(dòng)産品向善

　　同樣的訂單，熟客比新客多付錢，被用戶質(zhì)疑平臺(tái)利用演算法模型進(jìn)行大數(shù)據(jù)“殺熟”。《管理規(guī)定》提出，演算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特徵，利用演算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

　　中國資訊安全研究院副院長左曉棟認(rèn)為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個(gè)人資訊導(dǎo)致的。解決這類問題首先要在治理違法違規(guī)收集用戶個(gè)人資訊上下功夫，其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。

　　“刷短視頻、玩遊戲的時(shí)候，沒感覺時(shí)間過得很快，但每次放下手機(jī)，發(fā)現(xiàn)已經(jīng)幾個(gè)小時(shí)過去了。”在上海一家企業(yè)工作的陳先生感慨，每次拿起手機(jī)娛樂時(shí)，感覺像中毒一樣停不下來。另有不少網(wǎng)友抱怨，當(dāng)自己反覆瀏覽某件商品時(shí)，平臺(tái)就會(huì)顯示一連串促銷優(yōu)惠資訊，很多人因此盲目下單。

　　《管理規(guī)定》提出，演算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證演算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的演算法模型。

　　北京大學(xué)中國社會(huì)與發(fā)展研究中心主任邱澤奇對(duì)記者説，社會(huì)學(xué)把人們偏好的內(nèi)容區(qū)分為兩個(gè)理想類型，一類是理性的，類似于對(duì)人對(duì)事物的觀點(diǎn)，這種對(duì)“自我”的偏好是人類認(rèn)知偏好的一部分，容易形成“資訊繭房”效應(yīng)或“回音壁”效應(yīng)；另一類是感性的，類似于對(duì)人對(duì)事物的情感，人們?cè)谇楦猩先菀资艿剿说母腥荆桩b生“情緒傳染”效應(yīng)。

　　邱澤奇認(rèn)為，在數(shù)字時(shí)代，諸多産品都是動(dòng)態(tài)産品，需要根據(jù)交互數(shù)據(jù)對(duì)産品不斷進(jìn)行優(yōu)化迭代，通過産品升級(jí)、演算法升級(jí)以滿足用戶需求。基於人類認(rèn)知偏好的複雜性，企業(yè)除了承擔(dān)産品責(zé)任，還要承擔(dān)起相應(yīng)社會(huì)責(zé)任，把用戶納入産品的開發(fā)、生産與服務(wù)中，通過政府、企業(yè)和用戶共同參與、建立相應(yīng)規(guī)則，不斷推動(dòng)産品向善、科技向善。

　　實(shí)現(xiàn)負(fù)責(zé)任的創(chuàng)新

　　近年來，一些企業(yè)利用演算法註冊(cè)虛假賬號(hào)、雇傭網(wǎng)路“水軍”，鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng)；操縱干預(yù)熱搜、榜單或檢索結(jié)果排序；向未成年人推送不良內(nèi)容……針對(duì)這些問題，《管理規(guī)定》提出“建立健全演算法機(jī)制機(jī)理審核、科技倫理審查、用戶註冊(cè)、資訊發(fā)佈審核等管理制度”“提供演算法推薦服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德”等措施。

　　從更深層意義看，因演算法技術(shù)創(chuàng)新而衍生的一系列問題涉及科技倫理。中共中央辦公廳、國務(wù)院辦公廳近日印發(fā)的《關(guān)於加強(qiáng)科技倫理治理的意見》提出，加強(qiáng)源頭治理，注重預(yù)防，將科技倫理要求貫穿科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)全過程，促進(jìn)科技活動(dòng)與科技倫理協(xié)調(diào)發(fā)展、良性互動(dòng)，實(shí)現(xiàn)負(fù)責(zé)任的創(chuàng)新。

　　中國社科院資訊化研究中心主任姜奇平表示，從技術(shù)創(chuàng)新層面看，應(yīng)推動(dòng)演算法技術(shù)回到正常軌道，比如單純基於人們的偏好推薦閱讀內(nèi)容，錯(cuò)誤之處在於對(duì)人的理解不足，把人理解成機(jī)器，沒有考慮到人還具有自由意志。從價(jià)值倫理層面看，哲學(xué)上的善和倫理的本質(zhì)都源於自由意志，因此應(yīng)該在技術(shù)創(chuàng)新過程中把人之為人的一面、人和人的關(guān)係擺進(jìn)技術(shù)裏考慮。

　　專家認(rèn)為，數(shù)字時(shí)代的演算法技術(shù)創(chuàng)新應(yīng)是一種負(fù)責(zé)任的創(chuàng)新，要進(jìn)一步壓實(shí)平臺(tái)責(zé)任，確保科技活動(dòng)符合科技倫理。只有堅(jiān)持把消費(fèi)者對(duì)資訊服務(wù)的評(píng)判權(quán)置於採集權(quán)之上，才能更好把握個(gè)性化資訊服務(wù)業(yè)態(tài)的發(fā)展方向，促進(jìn)數(shù)字經(jīng)濟(jì)高品質(zhì)發(fā)展。

　　本報(bào)記者 彭訓(xùn)文