原标题：算法推荐法律规制的域外考察及审思

为人工智能技术应用进行立法已经成为世界趋势，相关立法在为新兴技术发展保驾护航的同时，也对其在一定范围内进行了规制。算法推荐作为与现实生活深度融合的智能技术，对它进行法律规制也不例外。本文以《欧盟数据保护通用条例》为代表，对域外数据法律制度中算法推荐的法律规制进行梳理，探讨算法推荐的规制监管问题。

算法推荐服务提供者提供算法推荐服务行为的逻辑可细分为算法匹配行为、算法推送行为和算法决策行为，故从这三个方面对域外的相关法律规制进行分类考察。在此基础上，分析以《欧盟数据保护通用条例》为代表的域外数据保护立法对算法推荐法律规制的不足及其原因。

算法推荐法律规制的考察 算法匹配行为法律规制

对算法匹配行为的法律规制，主要体现在以下三方面：

首先，相关法律制度将一些算法匹配的具体行为纳入了规制范围。《欧盟数据保护通用条例》中第4条第4款规定，为评估自然人的某些条件而对个人数据进行的任何自动化处理，特别是为了评估自然人的经济状况、个人偏好、健康状况、工作表现、可靠程度、行为方式、位置或行踪等进行的处理，应受《欧盟数据保护通用条例》管辖，即《欧盟数据保护通用条例》将算法匹配行为之一——用户画像纳入了规制范围。

其次，相关制度通过赋予数据主体对用户画像、数据处理等行为的反对权，以实现法律对算法匹配行为的规制。例如欧盟2017年出台的《电子隐私条例》第21条规定，当处理数据主体的数据包括用户画像时，数据主体有权随时反对；当因直接营销的目的而处理个人数据包括与此相关的用户画像时，数据主体有权随时反对。《欧盟数据保护通用条例》也明确，数据主体有权反对数据控制者或处理者的特定数据处理活动，其中包括以直接营销为目的的数据处理、数据画像等。

最后，通过明确个人数据主体对算法匹配行为的知情权，以进一步实现对算法匹配行为的规制。《欧盟数据保护通用条例》第12条规定了数据处理的透明度原则，明确了数据主体有权要求数据控制者，以易于获取和理解的方式及时提供数据处理相关信息；第13条和第14条列举了个人数据主体在个人数据被直接和间接收集场景下知情权的范围，数据控制者应当为数据主体提供信息的具体内容。

算法推送行为法律规制

《欧盟数据保护通用条例》主要以赋予个人数据主体知情权的方式，对算法行为进行规制。在《欧盟数据保护通用条例》实施后，欧盟要求用户的行为信息被进一步处理且被用来进行个性化推荐、自动化决策等用途时，企业应当告知用户对数据处理的事实、原因、基本算法逻辑、预期分析后果和可能产生的风险。当然，更为严格的《欧洲Cookie指令》要求个人数据主体采用明示同意的方式，才可获得个性化推荐，要求网站默认关闭Cookie，只有获得用户明确同意后，网站才能启用Cookie功能，进而进行用户追踪与个性化推荐。

算法决策行为法律规制

对算法决策行为的法律规制，主要体现在以下三方面：

首先，相关法律制度从可人为干预算法自动化决策的角度对其进行规制。《欧盟数据保护通用条例》第22条第3款规定，要求数据控制者应当采取合适的措施，保护数据主体的权利、自由与合法权益，数据主体至少应当获得对数据控制者一方实施人为干预、表达自身观点和同意决定的权利。

其次，相关法律制度从数据主体免受算法自动化决策结果制约的角度对其进行规制。《欧盟数据保护通用条例》第22条直接规定了数据主体有权免受完全基于算法对数据的自动化处理（包括用户画像）作出的具有法律效力或可能产生重大影响决定的制约。

最后，相关法律制度从规定算法决策透明度的角度对其进行规制。虽然《欧盟数据保护通用条例》没有对算法自动决策的可解释权进行规定，但是，由欧洲隐私监管机构组成的独立咨询顾问机构——第29条工作组发布了相关指南，即算法决策经营者虽无必要进行复杂的算法解释，但有必要让其用户知晓算法背后自动决策基本的逻辑及应用标准。

对算法推荐法律规制的审思

以《欧盟数据保护通用条例》为代表的域外数据保护立法，在对算法推荐的规制方面，采用个体赋权和严格统一立法的规制模式，以数据主体对自身数据、信息的控制权利为核心，对信息及数据的处理行为进行规制。综合来看，其较少关注算法推荐的相关伦理问题，例如算法推荐可能导致用户网络沉迷和引诱用户产生过度消费等等。

以《欧盟数据保护通用条例》为代表的域外数据保护制度，之所以在算法推荐伦理问题上立法匮乏，主要原因是：

对算法推荐相关伦理问题的规制，可能会阻碍商业创新与大数据行业发展

在流量角逐竞争和平台商业利益的双重驱动下，通过算法推荐尽一切可能吸引用户注意力，进而获取用户流量，成为一切工作的逻辑起点。所以对算法推荐诱导用户沉迷等相关伦理问题进行规制，将极大可能地阻碍数据平台创新和数据产业发展，进而使其在大数据行业的国际赛道上丧失领先地位。

因立法技术原因所致的算法推荐相关伦理标准模糊

法律语言的清晰性是法律表达的基本要求，立法者应尽量避免使用模糊性词汇，特别是有关权利义务的法律规定。而大多数蕴含某种精神的伦理性规范天生具有这种模糊性，与算法推荐相关的伦理规范也不例外。某项具体伦理问题权利义务式的立法表达所致的模糊性的存在，使其不是适格的法律权利义务的表达，因为其无法为权利义务的履行提供确定性指引，这是权利义务的虚置，进而也对权利的行使和义务的履行造成困境。

而与算法推荐相关伦理问题已在现实中凸显。据Facebook内部文件显示，其八分之一的用户报告反映，使用这款应用程序影响了他们的睡眠、工作和人际关系。据研究，这些问题影响了超过29亿使用该应用程序用户中的12.5%、相当于3.6亿多人。

2022年7月，美国妇女布兰妮·多芬在美国俄勒冈州地区法院梅德福分院对其女儿M.K.所使用的社交媒体产品制造公司提起诉讼。布兰妮·多芬提出，被告创造了复杂的算法，旨在使未成年人极度上瘾，促使他们过度使用其社交媒体产品，进而导致自己的女儿精神健康受到影响，并因这款社交媒体产品引发精神病发作后，三次被送往俄勒冈州梅德福的一家医疗机构治疗。

基于此，相关数据保护制度亟须对算法推荐的伦理问题进行立法规制。一方面，随着利用流量、算法机制推荐的软件使得互联网平台对用户需求的“知晓度”越来越高，无形中侵占了青少年乃至成年人的大量时间，导致不同年龄阶段的群体出现不同程度的网络沉迷。

另一方面，随着以人机互融、虚实同构、算法主导为主要逻辑的数智化平台的进一步发展，消费者生活与网络所联结的领域不断拓展，以算法推荐为基础的社交互动平台、短视频层出不穷，导致用户产生沉迷的可能性大大增强。所以，需要对算法推荐所致的沉迷、过度消费等伦理问题进行立法规制。另外，需要正确厘定算法推荐伦理问题的边界，在保障消费者合法权益的同时，也要顺应商业的发展，保护商业创新行为。

（李雨益，作者单位：西南政法大学经济法学院）