2022年3月1日,国家互联网信息办公室、工业和信息化部、公安部以及国家市场监督管理总局联合发布的《互联网信息服务Luật chơi xì dách nhà cái推荐管理规定》(以下简称“《规定》”)正式生效。同日,互联网信息服务Luật chơi xì dách nhà cái备案系统正式上线运行。
下文将简述Luật chơi xì dách nhà cái推荐技术合规要点以及备案指引。
一、背景
《互联网信息服务Luật chơi xì dách nhà cái推荐管理规定》发布以前,国内Luật chơi xì dách nhà cái规制初见端倪,例如,《电子商务法》第18条首次规定了禁止“大数据杀熟”;《个人信息保护法》第24条参照欧盟GDPR将反自动化决策权纳入个人信息保护体系;《国务院反垄断委员会关于平台经济领域的反垄断指南》首次明确规制“Luật chơi xì dách nhà cái共谋”导致的垄断行为,具体法条如下:
法律名称 | 法条 |
《电子商务法》 | 第十八条电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。 |
《个人Luật chơi xì dách nhà cái保护法》 | 第二十四条个人Luật chơi xì dách nhà cái处理者利用个人Luật chơi xì dách nhà cái进行自动化决策,应当保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇。 通过自动化决策方式向个人进行Luật chơi xì dách nhà cái推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。 通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人Luật chơi xì dách nhà cái处理者予以说明,并有权拒绝个人Luật chơi xì dách nhà cái处理者仅通过自动化决策的方式作出决定。 |
《国务院反垄断委员会关于平台经济领域的反垄断指南》 | 第五条平台经济领域垄断协议是指经营者排除、限制竞争的协议、决定或者其他协同行为。协议、决定可以是书面、口头等形式。其他协同行为是指经营者虽未明确订立协议或者决定,但通过数据、Luật chơi xì dách nhà cái、平台规则或者其他方式实质上存在协调一致的行为,有关经营者基于独立意思表示所作出的价格跟随等平行行为除外。 …… |
此外,2021年下半年,《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》发布,意见明确指出“网络餐饮平台要发挥数据技术优势,进一步完善订单分派机制,优化外卖送餐员往返路线,降低劳动强度”。随后,美团外卖平台公开骑手配送时间Luật chơi xì dách nhà cái,并积极推进落实“Luật chơi xì dách nhà cái取中”。在此背景下,《规定》应运而生。
二、何为Luật chơi xì dách nhà cái推荐技术
根据《规定》第二条,该规定适用于在中华人民共和国境内应用Luật chơi xì dách nhà cái推荐技术提供互联网信息服务的行为。
Luật chơi xì dách nhà cái推荐技术指生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等Luật chơi xì dách nhà cái技术。
该《规定》未对Luật chơi xì dách nhà cái推荐技术明确定义,仅以枚举法的方式列举了哪些Luật chơi xì dách nhà cái技术可能构成Luật chơi xì dách nhà cái推荐技术。参考《互联网信息服务深度合成管理规定(征求意见稿)》第2条,生成合成类Luật chơi xì dách nhà cái是利用以深度学习、虚拟现实为代表的生成合成类Luật chơi xì dách nhà cái制作文本、图像、音频、视频、虚拟场景等信息的技术。综合“深度合成”定义及《规定》全文,我们理解的《规定》规制的Luật chơi xì dách nhà cái推荐技术所具备的共性如下:
1.基于深度学习,即程序输出结果与用户行为紧密结合,Luật chơi xì dách nhà cái设计者也无法准确预测程序输出结果;
2.对呈现给用户的Luật chơi xì dách nhà cái进行了筛选与选择;
3.这些Luật chơi xì dách nhà cái行为会影响用户或他人权益(例如可能带来错误信息,引诱消费等)。
我们结合公开资料,将《规定》明确提及的Luật chơi xì dách nhà cái概念、应用场景及合规要求总结如下:
Luật chơi xì dách nhà cái类型 | 定义 | 场景 | 合规要求 |
生成合成类 | 指利用以深度学习、虚拟现实为代表的生成合成类Luật chơi xì dách nhà cái制作文本、图像、音频、视频、虚拟场景等信息的技术 | 自动生成文章、视频、音乐等内容; VR技术(虚拟人、虚拟场景等) |
《网络Luật chơi xì dách nhà cái内容生态治理规定》第23条,不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。 |
《网络音视频Luật chơi xì dách nhà cái服务管理规定》第13条,基于深度学习、虚拟现实等新技术新应用的应进行安全评估、显著标识非真实视频、发现违规内容及时停止传输并上报有关部门,且不得传播虚假Luật chơi xì dách nhà cái。 | |||
《民法典》第1019及1023条,不得利用Luật chơi xì dách nhà cái技术手段伪造等方式侵害他人的肖像权及声音有关权益。 | |||
《规定》第13条,不得生成合成虚假新闻Luật chơi xì dách nhà cái。 | |||
《互联网Luật chơi xì dách nhà cái服务深度合成管理规定(征求意见稿)》进行全面规制。 | |||
个性化推送类 | 利用用户属性及行为数据实现个性化分发的Luật chơi xì dách nhà cái | 短视频、音乐等网站的内容推送;电商商品定向推送;广告精准营销 | 《电子商务法》第18条规定,提供不针对消费者个人的选项。 |
《App违法违规收集使用个人Luật chơi xì dách nhà cái行为认定方法》规定,提供非定向推送的选项,且不得仅以定向推送Luật chơi xì dách nhà cái为由,强制要求用户同意收集个人Luật chơi xì dách nhà cái。 | |||
《规定》第10条,应加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良Luật chơi xì dách nhà cái关键词记入用户兴趣点或者作为用户标签并据以推送Luật chơi xì dách nhà cái。 | |||
《网络数据安全管理条例(征求意见稿)》第49条,利用个性化推送向用户提供个人Luật chơi xì dách nhà cái时,应取得个人的单独同意;设置便于用户访问、重置、关闭个性化推荐的选项;允许个人删除定向推送Luật chơi xì dách nhà cái收集产生的个人Luật chơi xì dách nhà cái。 | |||
排序精选类 | 以客观或主观因素为依据,设置、调整网络信息内容排列顺序的Luật chơi xì dách nhà cái | 社交、新闻、音乐、短视频等首页推荐内容(如微博热搜等);电商平台热销商品榜单等 | 《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第9、10条,《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第6条,人民法院依据民法典第一千一百九十七条认定网络服务提供者是否“知道或者应当知道”,应当综合考虑下列因素:(一)网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理;……即应用排序精选类Luật chơi xì dách nhà cái的平台将无法适用避风港原则。 |
《规定》第10、14条规定,应建立完善人工干预和用户自主选择机制;不得利用Luật chơi xì dách nhà cái屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。此外,根据《规定》第24条,该类Luật chơi xì dách nhà cái可能需要至Luật chơi xì dách nhà cái平台备案。 | |||
检索过滤类 | 包括检索Luật chơi xì dách nhà cái与过滤Luật chơi xì dách nhà cái,其中检索Luật chơi xì dách nhà cái是按照输入条件或匹配需求匹配相应网络信息内容的Luật chơi xì dách nhà cái;过滤Luật chơi xì dách nhà cái是指按照给定的条件识别并筛选相应网络信息内容的Luật chơi xì dách nhà cái | 搜索引擎等使用的去重、垃圾信息过滤及关联推荐Luật chơi xì dách nhà cái | 《互联网Luật chơi xì dách nhà cái搜索服务管理规定》第11条规定, 如涉及付费搜索Luật chơi xì dách nhà cái服务,应当依法查验客户有关资质,明确付费搜索Luật chơi xì dách nhà cái页面比例上限,显著区分付费搜索与自然搜索结果。 |
《规定》第12条规定,综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。 | |||
调度决策类 | 自动或辅助生成供需匹配、供需调节、路径规划等决策调度结果,或提供调度决策依据的Luật chơi xì dách nhà cái | 外卖订单配送、最优驾驶路线规划、打车平台自动接单等 | 《个人Luật chơi xì dách nhà cái保护法》第24条规定,保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇; 通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人Luật chơi xì dách nhà cái处理者予以说明,并有权拒绝个人Luật chơi xì dách nhà cái处理者仅通过自动化决策的方式作出决定。 |
《国务院反垄断委员会关于平台经济领域的反垄断指南》规定,禁止通过Luật chơi xì dách nhà cái共谋,实施反垄断行为。 | |||
《规定》第18-20条规定,Luật chơi xì dách nhà cái决策应保障弱势群体权益。 |
三、合规要点
(一)Luật chơi xì dách nhà cái安全责任
Luật chơi xì dách nhà cái安全合规维度 | 注意事项 |
Luật chơi xì dách nhà cái机制机理审核 | l不得危害国家安全或公共利益,扰乱经济秩序和社会秩序,侵犯他人合法权益;不得利用Luật chơi xì dách nhà cái推荐服务传播法律、行政法规禁止的信息;不得侵害弱势群体利益等 l定期审核、评估、验证Luật chơi xì dách nhà cái机制机理、模型、数据和应用结果 |
科技伦理审查 | 目前对于科技伦理暂无系统性规定,企业可参照《关于加强科技伦理治理的指导意见(征求意见稿)》明确的科技伦理治理的基本原则,并结合自身商业模式制定科技伦理审查规则,该等基本原则如下: l增进人类福祉 l尊重生命权利 l坚持公平公正 l合理控制风险 l保持公开透明 |
用户注册 | 除满足现有法律要求的实名注册外,Luật chơi xì dách nhà cái推荐技术还应: l不得利用Luật chơi xì dách nhà cái技术虚假注册 l不得利用Luật chơi xì dách nhà cái技术交易账户或操纵账户 |
Luật chơi xì dách nhà cái发布审核 | 参考《网络信息内容生态治理规定》等相关规定,落实内容治理义务。此外,《规定》还对Luật chơi xì dách nhà cái推荐技术的信息发布审核做出额外要求: l健全用于识别违法和不良Luật chơi xì dách nhà cái的特征库 l发现未作显著标识的Luật chơi xì dách nhà cái生成合成信息的,应当作出显著标识后,方可继续传输 l发现违法Luật chơi xì dách nhà cái的,应当立即停止传输,采取消除等处置措施,防止Luật chơi xì dách nhà cái扩散,保存有关记录,并向网信部门和有关部门报告 |
数据安全和个人Luật chơi xì dách nhà cái保护 | 参照《个人Luật chơi xì dách nhà cái安全法》、《网络安全法》、《数据安全法》等相关法律,全面落实数据合规义务 |
反电信网络诈骗 | 依法开展涉电信网络诈骗Luật chơi xì dách nhà cái的监测、识别和处置 |
安全评估监测 | 加强Luật chơi xì dách nhà cái安全管理 |
安全事件应急处置 | l制定应急处理预案 l进行安全事件应急演练 l如发生安全事件按照法律规定及时上报主管部门 |
Luật chơi xì dách nhà cái推荐服务规则 | l公示Luật chơi xì dách nhà cái推荐服务的基本原理、目的意图和主要运行机制 l提供便捷关闭Luật chơi xì dách nhà cái服务的选项 l提供选择或删除用于Luật chơi xì dách nhà cái推荐服务的针对个人特征的用户标签的功能 |
市场公平竞争机制 | 不得利用“Luật chơi xì dách nhà cái共谋”方式形成垄断,排除市场竞争,遵循反垄断、反不正当竞争相关法律规定 |
(二)用户权益保障责任
用户权益保障合规要点 | 注意事项 |
基本要求 | l告知用户其提供Luật chơi xì dách nhà cái推荐服务的情况,并以适当方式公示Luật chơi xì dách nhà cái推荐服务的基本原理、目的意图和主要运行机制等 l供不针对其个人特征的选项,并提供关闭渠道 l不得滥用大数据分析等技术手段,基于用户消费记录、偏好等设置不公平的交易条件,侵犯用户合法权益 |
劳动者权益保护机制 | l建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关Luật chơi xì dách nhà cái |
未成年人权益保护机制 | 结合规定及《未成年人保护法》、《儿童个人Luật chơi xì dách nhà cái网络保护规定》,针对未成年保护应注意以下合规事项 l不得收集以及处理与提供的服务无关的未成年个人Luật chơi xì dách nhà cái l儿童个人Luật chơi xì dách nhà cái发生或者可能发生泄露、毁损、丢失的,应当立即启动应急预案,采取补救措施 l不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的Luật chơi xì dách nhà cái l不得利用Luật chơi xì dách nhà cái推荐服务诱导未成年人沉迷网络 |
老年人权益保护机制 | l应当充分考虑老年人出行、就医、消费、办事等需求,提供智能化适老服务 l依法开展涉电信网络诈骗Luật chơi xì dách nhà cái的监测、识别和处置 |
四、系统备案
根据《规定》第24条,具有舆论属性或者社会动员能力的Luật chơi xì dách nhà cái推荐技术服务提供者应当履行备案手续。备案主体应通过互联网信息服务Luật chơi xì dách nhà cái备案系统(官方网址为 https://beian.cac.gov.cn)履行备案手续,填报信息包括三部分,分别是Luật chơi xì dách nhà cái主体信息、Luật chơi xì dách nhà cái信息、产品及功能信息。
(一)Luật chơi xì dách nhà cái主体信息
企业在进行注册账号时,需要特别注意同一个备案主体只需注册一个账号。主体信息填报:Luật chơi xì dách nhà cái备案填报人员应按照备案主体的实际情况准确填写主体基本信息、证件信息、法定代表人信息、Luật chơi xì dách nhà cái安全责任人信息等,并下载附件模板,严格按照模板要求填写并上传。
(二)Luật chơi xì dách nhà cái信息
Luật chơi xì dách nhà cái信息填报分为四个步骤:一是填写Luật chơi xì dách nhà cái基础属性信息,值得注意的是,在填写Luật chơi xì dách nhà cái基础信息时,企业需上传Luật chơi xì dách nhà cái自评估报告及拟公示内容。二是填写Luật chơi xì dách nhà cái详细属性信息,三是填写产品及功能信息,四是确认提交。
(三)产品及功能Luật chơi xì dách nhà cái
产品及功能Luật chơi xì dách nhà cái填报:根据实际情况填报产品及功能Luật chơi xì dách nhà cái。需完成三个步骤:一是添加产品Luật chơi xì dách nhà cái,二是添加产品功能访问路径,三是添加路径下的功能Luật chơi xì dách nhà cái。
五、总结与展望
随着《个人信息保护法》、《数据安全法》等数据保护层面的相关法律初步出台,我国个人信息与数据保护法律体系初步建成。监管部门、企业等正积极推动数据合法流动。在此背景下,Luật chơi xì dách nhà cái治理首次正式纳入监管范畴,与此前的“数据合规”相似,企业(特别是互联网企业)又需再次摸石过河,积极采取与现行监管相匹配的合规措施。在此过程中,我们也将努力协助,探索与企业经营模式相匹配的合规之路。
参考:
【1】网信中国:《互联网信息服务Luật chơi xì dách nhà cái推荐管理规定》系列专家解读(一)
【2】国家互联网Luật chơi xì dách nhà cái办公室:关于《互联网Luật chơi xì dách nhà cái服务深度合成管理规定(征求意见稿)》公开征求意见的通知
【3】法治网:Luật chơi xì dách nhà cái面临更强监管 禁止“大数据杀熟”立法进程加快反杀“大数据杀熟”面临认定难举证难等困境
【4】新华社:聚焦《互联网信息服务Luật chơi xì dách nhà cái推荐管理规定》五大看点
【5】OECD:《Algorithms and collusion: Competition policy in the digital age》
【6】国务院反垄断委员会:《国务院反垄断委员会关于平台经济领域的反垄断指南》
【7】人力资源社会保障部国家发展改革委 交通运输部应急部市场监管总局 国家医保局最高人民法院全国总工会:关于维护新就业形态劳动者劳动保障权益的指导意见
【8】中国互联网络Luật chơi xì dách nhà cái中心(CNNIC):第49次《中国互联网络发展状况统计报告》
【10】国家统计局:《第七次全国人口普查主要数据情况》