互联网企业用算法“绑架”消费者行不通
来源:中国贸易报 作者:本报记者 穆青风
浏览商品后,网页的广告都变成了最近浏览的商品信息;和朋友聊天提到了某商品后,迅即就收到相关产品的打折信息。互联网时代,算法推荐为广告、推广提供了新方向,被越来越多的企业所青睐。但推荐算法技术所涉及的信息收集、数据分析、广告推送等步骤均蕴含着法律风险。在日前举办的知识产权保护与新技术发展论坛上,武汉科技大学法学与经济学院法学系主任、副教授梁东新表示,算法推荐技术广泛渗入互联网应用,为经济发展提供了强大动力,促进了社会生活的便捷化,但同时也引发了侵害用户权益、传播不良信息、操纵社会舆论等乱象,用算法“绑架”消费者的行为已经行不通了。
2022年3月,国家网信办等部门联合发布《互联网信息服务算法推荐管理规定》,提出对算法推荐服务进行分级分类规制的思路,但如何分级分类,尚需细化标准和方案。因此企业需要了解风险治理政策的出发点,进而对算法推荐行为进行规范,从而实现主动防御并化解风险的目标。
在梁东新看来,算法推荐行为的风险要素在于应用层面的设计基础与目的,以及技术层面的内部结构与决策方式。例如运用哪些用户数据、部署怎样的场景、具体的算法结构、如何着手解决等。
至于如何防范这类风险,梁东新表示,应用风险存在于算法的数据收集与场景匹配阶段,企业应该对风险内容进行备案。首先,扩充算法备案客体内容,将中高应用风险算法纳入备案范围。其中高应用风险算法就数据来源、数据存放、算法功能以及舆论属性或社会动员能力进行全面备案。其次,明确算法的备案也是企业风险治理机制的备案,在对风险及其预防措施、处理规则等内容进行备案的同时,企业可以进行自查。再次,用风险评估制度限制高应用风险算法,突出对其数据处理的前置性审查、架构的完整功能分析以及增加合理的运行测试,确保更安全、经考验的高风险推荐算法才能被部署应用。最后,在特殊监管方面,针对具有舆论属性或社会动员能力的高应用风险算法,应基于建立专门的备案系统以及算法模型封存系统,对其用户画像的匿名化与敏感信息的脱敏化处理进行严格要求,确保数据使用的无害化,同时对其使用场域以及功能进行严格限定。
对于日益增长的算法推荐服务乱象,梁东新认为,政府需要完善相关制度,进行全方位、全流程的监管。但对较低风险的算法推荐行为应相对放开限制,以助力数据要素的流通、市场经济的发展以及便利市民生活。而企业需要对高风险算法进行全流程的严格规制,以公民权利保护与社会秩序维护为盈利前提。