互联网企业用算法“绑架”消费者行不通

浏览商品后，网页的广告都变成了最近浏览的商品信息；和朋友聊天提到了某商品后，迅即就收到相关产品的打折信息。互联网时代，算法推荐为广告、推广提供了新方向，被越来越多的企业所青睐。但推荐算法技术所涉及的信息收集、数据分析、广告推送等步骤均蕴含着法律风险。在日前举办的知识产权保护与新技术发展论坛上，武汉科技大学法学与经济学院法学系主任、副教授梁东新表示，算法推荐技术广泛渗入互联网应用，为经济发展提供了强大动力，促进了社会生活的便捷化，但同时也引发了侵害用户权益、传播不良信息、操纵社会舆论等乱象，用算法“绑架”消费者的行为已经行不通了。

2022年3月，国家网信办等部门联合发布《互联网信息服务算法推荐管理规定》，提出对算法推荐服务进行分级分类规制的思路，但如何分级分类，尚需细化标准和方案。因此企业需要了解风险治理政策的出发点，进而对算法推荐行为进行规范，从而实现主动防御并化解风险的目标。

在梁东新看来，算法推荐行为的风险要素在于应用层面的设计基础与目的，以及技术层面的内部结构与决策方式。例如运用哪些用户数据、部署怎样的场景、具体的算法结构、如何着手解决等。

至于如何防范这类风险，梁东新表示，应用风险存在于算法的数据收集与场景匹配阶段，企业应该对风险内容进行备案。首先，扩充算法备案客体内容，将中高应用风险算法纳入备案范围。其中高应用风险算法就数据来源、数据存放、算法功能以及舆论属性或社会动员能力进行全面备案。其次，明确算法的备案也是企业风险治理机制的备案，在对风险及其预防措施、处理规则等内容进行备案的同时，企业可以进行自查。再次，用风险评估制度限制高应用风险算法，突出对其数据处理的前置性审查、架构的完整功能分析以及增加合理的运行测试，确保更安全、经考验的高风险推荐算法才能被部署应用。最后，在特殊监管方面，针对具有舆论属性或社会动员能力的高应用风险算法，应基于建立专门的备案系统以及算法模型封存系统，对其用户画像的匿名化与敏感信息的脱敏化处理进行严格要求，确保数据使用的无害化，同时对其使用场域以及功能进行严格限定。

对于日益增长的算法推荐服务乱象，梁东新认为，政府需要完善相关制度，进行全方位、全流程的监管。但对较低风险的算法推荐行为应相对放开限制，以助力数据要素的流通、市场经济的发展以及便利市民生活。而企业需要对高风险算法进行全流程的严格规制，以公民权利保护与社会秩序维护为盈利前提。