算法模型|聚焦《互聯網信息服務算法推薦管理規定》五大看點

新華社北京1月6日電 題:聚焦《互聯網信息服務算法推薦管理規定》五大看點
新華社“新華視點”采訪人員
通過大數據“殺熟”實施不合理差別待遇 , 利用算法誘導用戶沉迷網絡、過度消費……當前 , 算法技術廣泛滲入互聯網應用 , 在給用戶帶來一定程度便利的同時 , 由算法引發的侵害用戶權益問題也屢屢出現 。
算法推薦是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等技術向用戶提供信息 。
近日 , 國家網信辦等四部門出臺《互聯網信息服務算法推薦管理規定》 , 針對被詬病已久的問題提出明確要求 。
大數據“殺熟”如何解?不得實施差別待遇
同樣的送餐時間、地點、訂單、外賣平臺 , 會員卻比非會員多付錢;同時同地打同類型車到同一目的地 , 某打車平臺曾被用戶發現熟客反而收費更高 。
當前 , 越來越多的企業利用大數據分析評估消費者的個人特征用于商業營銷 。但也有一些企業利用個人信息搞大數據“殺熟” , 對不同群體進行差別定價 , 實行“價格歧視” 。
【算法模型|聚焦《互聯網信息服務算法推薦管理規定》五大看點】規定提出 , 算法推薦服務提供者向消費者銷售商品或者提供服務的 , 應當保護消費者公平交易的權利 , 不得根據消費者的偏好、交易習慣等特征 , 利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為 。
去年10月 , 騰訊、華為等20余家App運營企業承諾將嚴守用戶個人隱私邊界 , 保護用戶公平交易權 , 不利用大數據“殺熟” 。
中國信息安全研究院副院長左曉棟認為 , 大數據“殺熟”等頑疾歸根結底是濫用用戶個人信息導致的 。解決這類問題 , 首先要在治理違法違規收集用戶個人信息上下功夫 , 其次要保障用戶的選擇權、刪除權等權益 。例如 , 要向用戶提供不針對其個人特征的選項 , 或向用戶提供便捷的關閉算法推薦服務的選項 , 并提供選擇或刪除針對其個人特征的用戶標簽的功能 。
誘導用戶沉迷、過度消費?促進算法應用向上向善
設置誘導用戶沉迷、過度消費的算法模型 , 已成為備受詬病的網絡消費和娛樂現象 。
“有的游戲你玩不過去它就給你放點水 , 導致你像中毒一樣停不下來;或者看你反復瀏覽某件商品 , 它就顯示兩件八折、三件七五折這樣的優惠 , 讓你盡可能多買 。”中國電子技術標準化研究院網安中心測評實驗室副主任何延哲說 。
規定提出 , 算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等 , 不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型 。
算法模型|聚焦《互聯網信息服務算法推薦管理規定》五大看點
文章圖片

中國政法大學數據法治研究院教授王立梅認為 , 算法推薦服務提供者應當堅持主流價值導向、促進算法應用向上向善的基本要求 。規定提出不得設置誘導用戶沉迷、過度消費等算法模型 , 正是將科技向善理念落實為具體業務要求的體現 。
“規定提出了要防范出現此類情形 , 需要相關企業切實做好算法的評估工作 , 從算法推薦的邏輯、面向的用戶群體、瀏覽和消費行為等多個角度出發進行綜合分析 ?!焙窝诱芙ㄗh , 為防止算法導致的沉迷或過度消費 , 必要時還應引入第三方進行評價和評議 , 以保證評估的中立性 。

猜你喜歡