◎聚焦算法推荐乱象问题构建算法安全治理体系
杨建军
中国电子技术标准化研究院党委书记
随着大数据和人工智能技术的快速发展，算法推荐技术在互联网信息服务中得到广泛应用，与此同时算法应用中存在的违法和不良信息传播、侵害用户权益、操纵社会舆论等乱象问题也屡次出现。年12月31日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）。作为互联网信息服务领域贯彻落实《网络安全法》《数据安全法》《个人信息保护法》的重要举措，《规定》聚焦算法推荐服务乱象问题，构建算法安全治理体系，有效规范了互联网信息服务算法推荐活动。
一、《规定》为应对算法推荐乱象提供指引和规范
（一）聚焦违法和不良信息传播问题，引导算法应用合理规范
当前，算法推荐服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时，存在传播违法和不良信息的乱象：一是利用生成合成类算法自动合成新闻、帖子等，未作显著标识造成虚假信息夸大传播；二是采用定向推送类算法在首页首屏、弹窗等，扎堆推送恶性案件、灾难事故等负面信息诱发社会恐慌；三是利用排序精选类算法生成热搜、榜单等，片面追求流量，大肆炒作娱乐八卦、低俗恶俗等有悖社会主义核心价值观内容。
针对违法和不良信息传播问题，《规定》明确算法推荐服务向上向善的原则，提出算法推荐服务提供者应建立健全用于识别违法和不良信息的特征库、显著标识算法生成合成信息、加强版面页面生态管理、重点环节积极呈现主流价值导向信息等多项措施，鼓励符合主流价值导向的正能量传播。
（二）聚焦侵害用户权益乱象，引导算法应用公正公平
当前，算法推荐服务提供者在开展调度决策、个性化推荐等活动时，存在侵害用户权益的乱象：一是大数据杀熟问题，即根据消费者的偏好、交易习惯等特征，在交易价格等交易条件上实行不合理的差别待遇；二是诱导沉迷网络问题，即设置诱导用户沉迷、过度消费的算法模型，尤其是利用算法推荐诱导未成年人沉迷网络；三是劳动权益保障问题，采用调度决策类算法进行工作调度时，未保障平台内劳动就业者（如网约配送员、网约车驾驶员等）在劳务报酬、休息休假等方面的劳动权益；四是偏见歧视问题，将违法和不良信息关键词记入用户兴趣点，或者设置歧视性、偏见性用户标签来推送信息内容；五是未成年人和老年人权益保障问题，向未成年人推送可能影响身心健康的信息，未充分考虑老年人适老化需求等。
针对侵害用户权益乱象，《规定》明确算法推荐服务公正公平的原则，提出算法推荐服务提供者应定期审核评估算法、加强用户模型和用户标签管理、公开算法推荐服务相关规则、保障用户选择或退出使用算法推荐服务的权利、建立用户申诉渠道等多种措施，保障未成年人、老年人、劳动者权益，引导算法应用遵守社会公德和伦理，遵守商业道德和职业道德。
（三）聚焦操纵社会舆论乱象，引导算法应用公开透明
当前，算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时，存在操纵社会舆论乱象：一是采用个性化推荐算法按照用户偏好频繁推荐感兴趣的内容，久而久之形成用户意见极化的“信息茧房”；二是利用算法注册虚假账号、雇佣网络水军，实施虚假点赞、转发等流量造假，或者鼓动“饭圈”粉丝互撕谩骂、刷量控评等饭圈乱象；三是利用算法屏蔽信息、过度推荐，操纵干预热搜、榜单或检索结果排序；四是实施自我优待，影响网络舆论、规避监管，如恶意屏蔽其他企业的网址链接等。
针对操纵社会舆论乱象，《规定》明确算法推荐服务公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略、增强规则透明度和可解释性；明确规定算法推荐服务禁止行为，如不得利用算法对其他互联网信息服务提供者进行不合理限制等，保障国家安全、公共利益及组织和个人合法权益。
二、《规定》为国家建立算法安全治理体系打下制度基础
（一）强化企业主体责任，建立多方参与的算法推荐服务治理机制
《规定》围绕算法推荐服务，建立政府、企业、行业组织和网民多方参与的治理机制。一是明确政府监管职责。《规定》明确国家网信部门负责统筹协调全国算法推荐服务治理和监督管理工作，工信、公安、市场监管等有关部门依据各自职责负责监督管理工作，同时通过《关于加强互联网信息服务算法综合治理的指导意见》建立网信、宣传、教育、科技等多部门协同联动长效机制，共同开展算法安全治理工作；二是强化企业主体责任。《规定》要求算法推荐服务提供者应当落实算法安全主体责任，建立健全算法安全管理制度和技术措施，配备相应的专业人员和技术支撑；三是鼓励行业自律。《规定》鼓励相关行业组织加强行业自律，建立健全行业准则，督促指导算法推荐服务提供者接受社会监督；四是倡导社会监督。《规定》鼓励广大网民积极参与算法安全治理工作，要求算法推荐服务提供者设置公众投诉举报入口，及时处理网民投诉举报请求。
（二）创新技术监管模式，建立事前事中事后的算法推荐服务监管措施
《规定》提出贯穿算法推荐服务事前事中事后的监管体系。一是分级分类安全管理。《规定》根据算法推荐服务的舆论属性或者社会动员能力、用户规模、处理的数据敏感程度等对服务提供者实施分级分类管理，并对具有舆论属性或者社会动员能力的算法推荐服务提供者提出更严格的管理要求；二是建立算法备案制度。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者在提供服务之日起十个工作日内，对服务提供者的名称、服务形式、应用领域等信息进行备案；三是建立算法安全评估机制。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者应按照国家有关规定开展安全评估；四是开展算法监督检查。《规定》规定网信部门会同有关部门开展算法安全评估和监督检查工作，同时严厉打击算法推荐违法违规行为。
三、小结
互联网信息服务算法安全管理以《规定》为基础，打造政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面，在促进算法健康、有序、繁荣发展，营造风清气正的网络空间，弘扬社会主义核心价值观的道路上迈出了重要的一步。下一步为贯彻落实《规定》可开展以下措施：
一是大力加强《规定》宣传贯彻培训。做好《规定》宣传推广、普及培训，面向互联网企业、人工智能企业、重点行业企业等开展针对性宣传解读，形成共识；鼓励行业组织制定行业自律规则，指导会员加强算法推荐行业自律；针对广大网民当前最关心、反映最强烈的算法安全问题，积极开展算法安全科普培训，形成国家、企业、个人共同参与算法安全治理工作的良好局面。
二是建立算法安全检查评估机制。尽快建立《规定》配套的算法安全检查评估机制，推动算法推荐服务提供者开展算法安全自评估，督促具有舆论属性或者社会动员能力的算法推荐服务者按照国家有关规定开展算法安全评估，建设安全检查评估力量，支撑有关部门对算法推荐服务进行安全检查，督促算法推荐服务提供者及时发现和整改相关问题。
三是开展算法安全技术能力建设。算法推荐技术作为一种新技术模式，面临一些新型技术安全、应用安全甚至伦理安全风险，为支撑《规定》落地实施，亟需加强算法安全技术能力建设，深入研究生成合成、个性化推荐、排序精选、检索过滤、调度决策等算法的安全问题，建设算法推荐服务备案、算法安全评估、算法安全风险监测等平台，提升互联网信息服务算法推荐技术监管能力。
四是加强算法安全标准化工作。基于问题导向、急用先行原则，加快推动算法相关技术标准发布，研究制定算法安全评估、算法分级分类安全管理等标准，进一步发挥标准对算法安全评估等工作的支撑作用；积极开展新技术新应用标准化前瞻研究，围绕人工智能、区块链等新技术新应用带来的安全问题和风险挑战，开展标准化前沿研究和标准化技术文件研制，不断提升标准化工作的引领性、前瞻性。
◎加强算法治理建设未成年人友好型的网络空间
林维
中国社会科学院大学副校长、教授、互联网法治研究中心主任
习近平总书记指出：网络空间是亿万民众共同的精神家园，网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益。未成年人的网络生态建设是这一精神家园建设中的重要任务之一。
十余年来，未成年网民的规模呈现不断增长的趋势。据中国互联网络信息中心第48次《中国互联网络发展状况统计报告》显示，截至年6月，我国网民规模为10.11亿，6－19岁网民占15.7％，共1.58亿人。同时根据第十次中国未成年人互联网运用调查显示，我国未成年人互联网普及率为99.2％，显著高于71.6％的全国平均普及率。
网络为未成年人带来了崭新的生存方式，也引发了未成年人网络保护的挑战问题，未成年人的网络生活、交往成为其生活交往中无法摆脱、无法分割的一部分，线上线下的二元化生活加快了一元融合的节奏。未成年人的网络参与行为成为社会网络行为的重要构建内容，其在网络生态建设中的主体地位势必应当得到承认和确立。网络强国的未来主体必定是一代又一代成长中的未成年人。无论是网络新技术的发展，还是网络新生活的构建，乃至网络新文化的传承，都依赖一代又一代已经成为网络原住民的未成年人的发展与成长。因此，网络生态建设的任务之一就是要建设一个未成年人友好型的网络空间。
《互联网信息服务算法推荐管理规定》（以下简称《规定》）的制定和实施，为我国未成年人网络权益保护的制度框架提供了重要的组成部分，继《未成年人保护法》《儿童个人信息网络保护规定》《网络信息内容生态治理规定》等法律文件之后，在算法领域构建了未成年人网络权益保护的基本纲领，提供了保护和发展并行的中国方案。
首先，《规定》制定了未成年人保护专条（第十八条），专门针对未成年人权益保护规定了算法推荐服务提供者的一系列义务，要求向未成年人提供服务时，“应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。”在具体禁止性义务层面，该条进一步规定，“算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德的行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。”
未成年人保护专条从积极义务和消极义务两个方面，构建了算法推荐服务提供者的未成年人保护义务体系。这意味着，算法推荐服务提供者不仅需要筑起保护未成年人免受不良信息侵害的防护墙，还需要为未成年人获取有益信息承担积极主动的社会责任，通过在未成年人模式等专门模式下，建设并不断充实健康向上、适合未成年人身心特点、具备良好使用体验和充分吸引力的内容池，保护和发展并重，为未成年人积极构建风清气朗的网络空间，保证未成年人可以通过网络继续拓展视野、发展自我，建设未成年人友好型的网络空间。
特别需要指出的是，《规定》强调了《未成年人保护法》网络保护专章中确认的不得诱导未成年人沉迷网络的规定。算法作为移动互联网时代的重要技术创新，算法推荐服务的重要特点即在于能够通过判断和预测用户偏好，向用户推送个性化的服务内容。未成年人存在认知、判断能力较弱，价值观尚未成型等特点，针对性过强的算法推送内容有可能引发各种不良效果，亦可能导致沉迷网络现象。针对这一重点问题做出明确的强调和规定，体现了《规定》强化落实算法领域防沉迷义务的坚定态度。
其次，在未成年人保护专条之外，《规定》从内容生态治理、用户标签管理、用户权益保护多个层面对于算法推荐服务构建全流程、深层次的监管框架，为未成年人权益保护构建了多重屏障。
从内容生态治理角度，《规定》不仅提出了原则性要求，更是对于算法技术实现的全过程进行重点环节干预，例如要求“建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序”，以及对于算法生成合成信息的显著标识义务，从源头对于信息内容的技术控制提出要求（第九条）。从用户标签管理角度，《规定》要求“加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”，这对于防范未成年人接触违法和不良信息尤其重要。与之相对应的是用户权益保护领域，《规定》在《个人信息保护法》关于自动化决策的规定基础之上，进一步要求算法推荐服务提供者“应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”（第十七条）。这一规定在行业合规中需要结合不同场景和服务功能进行分别落实，在未成年人保护领域则应采取最为严格的落实水准，应当为未成年人和其监护人提供充分了解、选择、删除的机制，使其对于针对未成年人自身个人特征的用户标签掌握较为全面的控制和干预的权利，确保未成年人不会因为不恰当的标签设置以及据此进行的算法推荐服务而遭受侵害。
《规定》作为中国首个针对算法推荐服务制定的专门规定，在算法治理领域为国际社会提供了中国道路和方案，在未成年人网络保护领域，也构建了保护和发展并重的双重路径，强化和完善了体系化的制度构建，有助于提升网络空间治理体系和治理能力现代化，为建设未成年人友好型的网络空间提供了重要的制度基石。
◎健全算法推荐治理机制推动新技术安全可信发展
王爱华
中国信息通信研究院副总工程师
近年来，大数据、物联网、云计算等新一代信息技术快速发展，数字化、网络化、智能化加速推进，新技术新应用新业态蓬勃兴起。作为数字经济时代的重要底层架构，算法逐步成为影响内容分发、服务提供、资源配置的基础性力量，与此同时，算法也引发了群体歧视、算法合谋、信息茧房等一系列问题，给公众利益、社会稳定和国家安全带来巨大挑战。习近平总书记多次强调，要依法加强网络社会管理，加强网络新技术新应用的管理，确保互联网可管可控。年12月31日，国家网信办联合工业和信息化部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称《规定》），针对当前突出问题，全面搭建了算法综合治理机制，迈出我国新技术新应用立法的重要一步。
一、坚持问题导向，聚焦人民群众反映强烈的算法问题
坚持以人民为中心，是习近平新时代中国特色社会主义思想的重要内容，贯穿于习近平新时代中国特色社会主义思想的各个方面。全面贯彻落实以人民为中心，要求突出问题导向、目标导向，积极回应群众强烈诉求和急难愁盼问题。当前，算法技术广泛渗入互联网应用，深入贴近人民生活，由算法引发的信息茧房、算法歧视、未成年人网络沉迷、骑手安全、不正当竞争等新问题层出不穷，引发社会广泛