近日,中央网信办、工信部、公安部、市场监管总局四部门联合印发通知,部署开展“清朗·网络平台算法典型问题治理”专项行动。主要任务包括整治“信息茧房”、诱导沉迷问题,严禁利用算法实施大数据“杀熟”等。
实际上,这并非国内首次对算法问题进行规范。不仅是中国,对算法应用的规制,也已成为全球共同的难解之题。算法治理,全球苦其久矣。对其治理之难,究竟难在何处?此次四部门联合出手,将带来哪些改变?
重点关切亟待解决
此次专项行动共包含六个治理任务:
第一,深入整治“信息茧房”、诱导沉迷问题;
第二,提升榜单透明度,打击操纵榜单行为;
第三,严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题;
第四,严禁利用算法实施大数据“杀熟”;
第五,增强算法向上向善服务保护网民合法权益;
第六,落实算法安全主体责任。
经济学者、工信部信息通信经济专家委员会委员盘和林接受中新社国是直通车采访时表示,算法推荐带来的问题很多,但有轻重缓急。这六个方面是现阶段算法领域较为突出的问题,已经受到全社会广泛关切。
“这六大问题事关消费者权益、社会信任、市场公平竞争和社会公共安全,比较关键,需要优先治理。”盘和林强调。
随着大数据和人工智能技术的快速迭代,算法技术在平台得到了广泛应用,与此同时也带来一系列问题。目前,算法治理已经成为行业共识,此次四部门联合出手整治,将有望推动算法治理迈出重要一步。
上海师范大学副教授、教育大数据与教育决策实验室研究员吴玄对国是直通车指出,此次专项行动有三大亮点:
其一,针对社会关注高、用户集中反映的问题,突出重点;
其二,工作目标覆盖算法应用全流程,不仅涉及算法设计和运行环节,也关注到算法责任和救济阶段;
其三,采取了多方参与的工作机制,推动了长效机制的形成。
受访专家表示,对算法应用的规制已成为世界各国共同面临的难题。算法的复杂使得算法治理任重道远,目前全球尚未形成成熟的解决方案。
盘和林指出,此次通知后将会有一轮具体的行动,独立专业的第三方机构和成熟统一的评估标准可能会在不久后逐步完善。但还需要时间,也需要政府配备相关人才等资源。
治理之难,难在何处?
近年来,针对算法应用带来的一系列问题,国内已出台多项法律规定对此进行规范。
2021年9月,《关于加强互联网信息服务算法综合治理的指导意见》出台;2021年11月,《互联网信息服务算法应用自律公约》发布;同年12月,《互联网信息服务算法推荐管理规定》发布;2024年7月,《互联网信息服务算法推荐合规自律公约》发布。
吴玄指出,我国早在《电子商务法》中即对相关问题予以关注。随着《个人信息保护法》《关于加强互联网信息服务算法综合治理的指导意见》等法律文件出台,相关问题得到一定遏制,但算法治理依然存在较大难度。
其一,算法技术更新迭代速度快。随着机器学习、深度学习、量子计算等方面突破,技术驱动的算法红利影响愈加广泛,但看似理性、中立的算法背后,也存在一定的技术偏见;
其二,算法运用覆盖面广。目前,算法技术已经实现了线下全行业、全业态覆盖,相关应用的场景十分复杂,适用的规范标准更加多元,增加了监管难度;
其三,算法侵权隐蔽性强。算法技术具有高度专业性和不透明性,算法“黑箱”普遍存在。由于不掌握相关信息,用户取证举证难、维权成本高。
除了算法本身复杂度高、隐蔽性强,盘和林认为,目前相关法律法规相对滞后、跨领域合作难度大,也为算法治理增添了难度。
如何破局?
算法治理面临多重挑战,如何破解治理之难?
复旦大学管理学院信息管理与商业智能系教授张成洪撰文表示,算法治理首先需要国家主管部门制定相关政策法规,并给予指导;其次要依法展开检查和监管,可由行业或国家成立专门监管机构;最后需要开发出合规合法的算法,这对开发人员、算法工程师提出了一定要求。
在盘和林看来,算法推荐并不适用于避风港原则,不可单纯通过该原则封闭自身算法规则机制。此前法律已要求各大平台有责任对平台数据采集和算法进行备案。通过对推荐算法进行报备,由监管部门对算法的合理性进行审查。
“专项行动是在实践中落实我国法律法规的具体要求,将对未来算法治理提供经验积累和方式探索。”吴玄表示。此外,针对问题对症下药,有助于真正做到维护公共利益、促进市场公平,也有益于人工智能产业健康发展。
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】