为进一步深化互联网信息服务算法综合治理,中央网络安全与信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅近日联合印发通知,部署开展“清朗·网络平台算法典型问题治理”专项行动,专项行动自即日起至2025年2月14日。
通知提出,专项行动聚焦网民关切,重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,逐步提升算法安全能力。
深入整治“信息茧房”、诱导沉迷问题。构建“信息茧房”防范机制,提升推送内容多样性丰富性。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人隐私信息用于内容推送。规范设置“不感兴趣”等负反馈功能。比如,平台应向用户更好的提供“不感兴趣”等功能选项,如“对话题不感兴趣”“对内容质量不满意”“此类内容过多”“重复推荐”等。用户操作后,平台应减少同类内容推送频率。
提升榜单透明度打击操纵榜单行为。全面公示热搜榜单算法原理,提升榜单透明度和可解释性。完善榜单日志留存,提高榜单算法原理可验证性。健全水军刷榜、水军账号等违反相关规定的行为、账号检测识别技术方法,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。比如,平台应留存榜单相关网络日志,日志内容有时间、榜单排名、热度值计算有关数据等信息,配合有关部门的监督检查工作。
防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道,及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。比如,平台应统计算法升级后订单超时率、平均配送超时率、交通事故发生率等有关数据,留存有关数据及日志,配合有关部门的监督检查工作。
严禁利用算法实施大数据“杀熟”。严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,比如,领取截止时间、领取要求等,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。
增强算法向上向善服务保护网民合法权益。持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优秀品质的内容传播、违背法律规定的行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力,及时有效地发现处理违法违规生成合成信息。比如,平台应及时总结防范未成年人网络沉迷、过度消费所采取的优化算法推荐服务措施及成效,配合有关部门的监督检查工作。
落实算法安全主体责任。健全算法机制机理审核、数据安全的管理制度和技术措施。确保算法的训练数据具有合法来源,及时检测修复代码安全漏洞和算法逻辑缺陷,定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估。
通知从5方面明确了专项行动的工作目标,包括算法导向正确、算法公平公正、算法公开透明、算法自主可控和算法责任落实。
算法导向正确。健全完善正能量优秀品质的内容池,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善;建立健全用于识别违法和不良信息的特征库,积极探索应用于识别违法和不良信息的算法、技术,防范和传播不良信息。不可以设置诱导用户沉迷、过度消费等的算法模型。不得利用算法干预信息呈现,实施影响网络舆论或者规避监督管理行为。
算法公平公正。不得利用算法实施垄断和不正当竞争行为。保护劳动者合法权益,完善平台订单分配、报酬构成及支付、上班时间、奖惩等相关算法。保护消费者公平交易的权利,不得利用算法在交易价格等条件上实施不合理的差别待遇。
算法公开透明。优化检索、排序、推送等规则的透明度和可解释性,预防和减少争议纠纷。以适当方式公示算法推荐服务的基础原理、目的意图、主要运行机制等,确保简单、清晰、可理解。
算法自主可控。关闭算法推荐服务的选项操作便捷、功能有效。向用户更好的提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能,便利用户自主选择兴趣领域。
算法责任落实。建立健全算法安全管理制度和技术措施。定期审核、评估、验证算法机制机理、模型、数据和应用结果等,常态化开展算法安全自评估。算法“应备尽备”,备案信息发生变更的及时办理变更或者注销手续。
通知要求,各地网信部门要发挥统筹协调作用,牵头开展专项行动。要依法依规对违反有关法律和法规的网站平台做处置处罚,精准区分违反法律法规情形、影响、性质,实现宽严相济、过罚相当、有力有效。要常态化开展算法服务安全风险监测防范工作,及时有效地发现网站平台违规问题线索,并综合运用督促整改、现场检查、处置处罚等措施,提升算法常态化治理水平。 据新华社