算法“野蠻生長”被叫停,如何把好“方向盤”?
不想再被怎么關也關不掉的APP彈窗廣告困擾?不愿再在朋友圈看到自動推送的購物鏈接?厭倦了在手機上反復收到大量的、類似題材的新聞消息?近日,國家網信辦發布《互聯網信息服務算法推薦管理規定(征求意見稿)》(以下簡稱為《意見稿》),劍指算法治理痛點。不少人歡呼,終于看到了擺脫算法推薦“綁架”的曙光。
算法推薦的“是”與“非”
據不完全統計,基于算法的個性化內容推送已超過整個互聯網信息內容分發的70%。推薦算法已經在不知不覺中融入了我們工作、生活中的方方面面。然而,業界對推薦算法的評論始終褒貶不一。
一方面,進入數字時代,算法成為挖掘數據價值的重要手段。其核心價值是把“人找信息”轉變為“信息找人”,高效完成人與信息的匹配。算法越精準,平臺對用戶行為習慣、興趣喜好的了解越深入,分發的內容也就越符合用戶需求,而對于平臺而言,通過這種“投其所好”的方式也可以快速獲取商業價值,實現“雙贏”。也正因如此,推薦算法成為了主流的內容分發方式,也是各大平臺的“技術標配”。
另一方面,算法的重要特征是程序化和量化,從技術角度看是用一套分析數據和處理問題的程序指令或量化決策系統來協助用戶準確、快捷地尋找問題解決方案,其背后往往隱含著程序設計者的某種“期望”。大量碎片化、快餐化、圈層化的信息流涌入,會使人逐漸喪失主動、獨立思考的能力,迷失于“信息繭房”之中,并引發信息暴食、情緒傳染、視野局限、大數據殺熟、隱私風險等諸多問題。
有業界人士曾表示,“算法容易讓人去走極端,會把人搞得非常分裂?!辈贿^,賽迪顧問大數據產業研究中心高級分析師姚學超對《中國電子報》記者表示:“實際上,算法本身是中立的科學計算模型,并無善惡之分?!闭嬲膯栴}在于如何把握好其中的“度”,找出算法使用與用戶權利保障之間那個微妙的平衡點。
要讓算法真正得其所用、用得其所,治理非常關鍵?!八惴ㄖ卫淼碾y點在于如何平衡自動化與人工干預之間的關系?!卑埠阈畔⑹紫茖W家、高級副總裁劉博在接受《中國電子報》記者采訪時指出?!兑庖姼濉返耐瞥稣菫榱颂剿魉惴ㄖ卫砺窂?,推動互聯網信息服務行業健康、有序發展。
《意見稿》將給行業帶來哪些改變?
此次發布的《意見稿》中明確提出“算法推薦服務提供者應當向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務的選項”;“不得實施流量造假、控制熱搜等影響網絡輿論”;“外賣及網約車平臺對勞動者、消費者的雙重算法需規范,保證勞動者算法的公正透明”;“抵制算法對消費者‘大數據殺熟’”等相關管理規定,為解決當下廣受社會公眾矚目的焦點問題提供了指導意見。
“《意見稿》極大地提升了用戶對互聯網內容的自主選擇權利,也會在一定程度降低平臺對用戶精準廣告、精準營銷既得利益?!眲⒉┍硎荆斑@將對于依據算法提供服務的作為商業模式的公司產生巨大影響?!?/p>
滴滴、美團、餓了么等將算法服務作為核心商業模式的平臺將受到強監管。同時,有輿論屬性和社會動員能力的算法推薦服務商也是重點監管對象,比如微博、算法推薦新聞類APP、短視頻平臺等。此外,電商和向勞動者提供工作調度服務的平臺類算法推薦服務提供者同樣會受到監管,比如打車、外賣平臺等。
上海財經大學商學院數字經濟研究中心主任鐘鴻鈞同樣認為,《意見稿》的出臺,將對互聯網數字經濟的商業模式產生較大影響?!盎ヂ摼W平臺基于用戶數據的‘野蠻生長’紅利期已經過去了,需要在更加合規的環境下,進行調整和反思?!?/p>
姚學超指出:“對算法推薦服務提供者而言,《意見稿》明確提出了30項‘應當如何做’和11項‘不得做什么’的具體要求,細化了算法推薦服務提供者的行為邊界、底線和紅線,將塑造算法需向善的主流價值觀。對用戶而言,該意見稿將有效規范互聯網企業應用算法的行為,有利于用戶避免長期沉迷于某些推薦內容,也為用戶合法權益保護提供了可靠的制度保障?!?/p>
盡管《規定》還處于征求意見的階段,具體的施行日期還未確定,但可以預見的是,隨著國家監管趨嚴,網絡環境很快將迎來新一輪“凈化”。值得關注的是,據字節跳動相關負責人透露,“意見稿”發布后,抖音和今日頭條已進行系統升級,為用戶明確提供了個性化推送的關閉選擇。后續,字節跳動將不斷優化產品功能,提高用戶信息保護水平。
如何把好算法推薦的“方向盤”
當前,算法推薦服務已經構建起一條完整的服務鏈,包括內容生產、數據采集分析、平臺推薦及服務反饋等。有觀點認為,此次意見稿中是從推薦形式和服務終端即用戶層面出發,去打破算法推薦“圍城”,但這還不夠。下一步,仍需進一步細化相關管理制度,把好算法服務的“方向盤”。
一方面,算法推薦應轉變設計思路,從“平臺主導”轉變為“用戶選擇”模式。多位業內專家指出,以技術制約技術、以平臺限制平臺,應成為保護用戶利益的思路。應當鼓勵第三方機構通過數據技術測評各大平臺的算法推薦,彌補用戶的技術缺陷。姚學超也談到:“作為擁有海量用戶數據和強大算法能力的互聯網巨頭,除了利用算法和數據進行商業變現,更應該利用算法和數據進行科技創新?!?/p>
另一方面,應該從算法提供、使用、監督三個方面全面推動行業健康發展,為互聯網信息服務營造良好的氛圍。劉博指出:“算法推薦服務提供者應當配合有關主管部門依法實施的安全評估和監督檢查工作,并提供必要的技術、數據等支持和協助。同時,應當落實算法安全主體責任,定期審核、評估、驗證算法機制機理、模型、數據和應用結果,加強信息內容管理,建立健全用于識別違法和不良信息的特征庫,加強算法推薦服務版面頁面生態管理;用戶應該積極通過投訴渠道和制度,投訴舉報違法行為,切實保障自身合法權益;相關行業組織應加強行業自律,建立健全自律制度和行業準則,組織制定行業標準,督促指導算法推薦服務提供者建立健全服務規范、依法提供服務并接受社會監督?!?/p>
-
2021數據中臺TOP50[2021-05-07]
-
湘潭市大數據中心調度重點項目復工復產[2021-02-25]
-
中國信通院聯合發布《工業互聯網標識解析 VAA編碼導則》[2021-11-08]
-
歐盟醫藥機構發布2021-2023年大數據工作計劃[2021-09-01]
-
大數據應用場景:除了“殺熟”,還能干點啥?[2021-05-11]
-
“大數據殺熟”“虛假種草”如何避坑?消費維權大咖支招[2022-03-15]
-
流量造假?大數據殺熟?國家網信辦重拳出擊[2021-08-30]
-
避免“大數據殺熟” 如何打破“信息繭房”?[2020-11-27]
-
AI換臉、合成語音大爆發!清華《深度合成十大趨勢報告(2022)》發布[2022-02-28]