行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和( 六 ) 张凌寒北京科技大学文法学院

算法预测准确率无法保证，一旦出错可能造成无法挽回的损失。 2017年12月，美国伊利诺伊州儿童和家庭服务部宣布，终止评估儿童安全和风险的预测系统，因为算法预测不准确造成了父母与子女错误分离的后果。同年早些时候，美国洛杉矶郡也由于预测型算法的黑箱问题与高误报率终止了预测型算法用于儿童受虐风险的评估项目。
算法深度学习与相关可能存在的预测失真问题由于算法自动化决策无法提供理由说明，算法决策缺乏有效的法律程序控制，易于不断自我肯定与强化，造成行政行为持续性错误与相对人权利受损。
文章插图
三基于行政信息公开原则增强算法自动化决策透明度
（一）算法嵌入行政活动背景下行政信息公开原则的回归
现有算法自动化参与的行政活动中，我国法律作出了一定调整，但仍在某些领域需要行政信息公开规则的回归。例如，在算法自动化决策参与行政许可行为中，我国《行政许可法》第 33 条规定了以数据电子方式提出行政许可，应在行政机关的网站公布许可事项。作为行政信息公开在算法治理时代的因应性调整。然而，在算法自动化决策参与的行政活动中，尚有行政信息公开原则的一些基本规则尚未得到满足。
首先，应增强算法自动化决策的可见性，作为行政信息公开的基本要求。我国政府部门中，算法自动化决策系统多以“秒批”“智能交通”“智慧司法”为名。我国不仅对于人工智能算法应用于政府部门并无清晰的规划与分类，现有的电子政务的公示与通知也并不完善。 2018年第十七届中国政府网站绩效评估显示，超过15%的政府网站的办事指南存在权力清单与行政事项不对应， 35%的政府网站办事内容不准确， 80%存在办理材料详单不清晰。政府不应仅将算法系统看作是办公辅助系统，而是应公布政府部门自动化决策清单，让公众知晓哪些行政活动有自动化决策的参与，了解算法自动化决策可能带来的权利影响。
其次，算法作出决策的基本规则和因素权重，应该对公众与社会公开。形式的改变并不能豁免政府信息公开的义务。算法参与的行政行为并不会因为缺乏意思表示要素而不受行政法的拘束。原因在于，各类智能机器、评估模型等自动化设备的设置及启用以及运作方式，都是由行政机关发踪指示，行政机关仍是行政程序的主宰，所作出的表示或决定，都是行政机关的行为，具有法效意思及规制效力，性质上仍为具体行政行为。如果政府机构采用一条规则，仅仅以为算法运行不能直观地作出解释，就拒绝向公众公开，则违反了行政行为应公开透明的基本原则。早在1992年的案件中，美国联邦公路管理局拒绝披露用于计算运营商安全评级的算法，但法庭认为这违反了《信息自由法》中政府披露政府记录和数据的要求，判决联邦公路管理局必须披露计算中所用因素的权重。
以上是行政信息公开原则对算法自动化决策应用于行政活动的基本要求。除此之外，行政信息公开原则面临着“算法黑箱”的挑战，需作出相应的调整。
（二）行政信息公开原则在算法数据收集环节的贯彻
算法治理时代，人类将被降格为信息存在，以便接受机器的计算，方便企业获得利润和政府监督管理。行政机关可大量收集公民数据，不仅基于公共利益豁免“知情同意”规则的限制，还可要求私营公司报送数据。这就导致，行政相对人并无机会知晓，嵌入在行政活动中的算法自动化决策通过哪些个人数据作出了决定。为遵循行政信息公开原则：
首先，行政机关收集数据同样受到“合法、正当、必要”原则限制，应在行政活动中逐渐将此类规则细化。从行为性质上梳理，行政机关对个人信息的收集行为属于内部行政程序，仅仅作为后续行政行为的必要前置活动，并不受到具体行政行为的相关法律限制。但是，作为数据收集行为，仍需严格遵循正当目的原则与必要原则。以2020年新冠疫情防控为例，无论是健康码对个人敏感数据的大规模收集与使用，大数据对公民的追踪定位，包括社区出入居民的信息登记，均应有公共卫生紧急状态作为正当性基础。在紧急状态恢复成日常状态之后，即使疫情状态防控常态化，也应避免对公民个人数据的收集与追踪常态化。
其次，尽管基于公共利益考虑无法要求政府再次获得数据个体的知情同意，但起码应在平台向个体收集数据时，作出“不利行为”通知。即如果政府可能根据第三方的信息做出行政的自动化决策，对行政相对人有负面不利影响，则应要求平台在收集数据之时就告知数据个体。例如，应提示行政相对人，自动化决策结果参考了个人的公开信息、犯罪记录、信息记录，甚至社交媒体使用情况。美国学者欧内斯特·格尔霍恩所指出的，政府机构实施的不利公布行为之基本功能就是通知，目的在于告知公布对象相关政策或情况，以便他们再行为选择时可以利用这些信息。