行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和( 五 ) 张凌寒北京科技大学文法学院

公众参与原则的核心理念是“听取公众意见” 。具体而言，包括两个层面：第一，公众应有权利参与行政活动，这体现了正当程序的公共意志形成功能；第二，在具体行政行为中，应充分听取当事人的陈述和申辩。在公众参与的过程中，要设置专门的程序如听证保证公众能够参与，并要保证参与各方信息的对称性。公民的有效参与，意在通过自己的行为影响某种结果的形成，而不是作为一个消极的客体被动地接受某一结果。在算法广泛嵌入行政活动的背景下，公众参与原则面临多重障碍。
第一，公众参与行政活动面临私营企业技术垄断的障碍。算法自动化决策本质是对于行政资源的分配，但这一过程改变了政府资源分配和监督行政相对人的一贯做法，转而由私营企业承担核心角色。在此次疫情防控期间，各地政府依靠私营公司的技术力量进行健康码的设计和运行工作，并大有将健康码运用于社区、企业、群体评价等社会公共活动中的趋势。 “智慧城市”也极好地体现了“公共权力私有化”这一趋势。政府部门的数据、权力和私营公司的技术力量结合，发展出了主宰城市运行的智能系统。技术公司垄断了硬件与算法系统的开发、设计和使用，却拒绝对公众公布算法收集处理数据的权限和过程。如迈阿密市政府与照明技术公司签订为期30年的合同，使该公司可以免费安装装有摄像头和牌照读取器的灯杆，为迈阿密警察局收集和处理信息，而该公司可以使用这些数据。政府大多数情况下需要以技术服务合同的方式向私营企业购买算法系统的设计和运营服务，因此算法自动化决策（例如专家系统、自动行政）的采购和设计处于完全不透明的状态，缺乏公众参与的听证环节。公众没有机会在行政活动中融入自身的价值判断和权利主张，更无法实现对行政权力滥用的程序性控制。
第二，自动化（半自动）行政行为根据算法设定的规则运行，这一过程由行政机关与技术公司垄断，没有为行政相对人提供陈述与申辩的机会。由于缺乏有意义的通知，并且政府倾向于预设算法结论是正确的，这共同造成了相对人陈述与申辩环节的缺失。当反应型算法应用于行政处罚等可能产生不利于行政相对人法律后果的行政行为时，缺乏陈述与申辩环节是严重的程序瑕疵。
由此可见，算法自动化决策既回避了行政决策的公众参与和听证，也消解了具体行政行为层面的当事人陈述和申辩的程序，造成了公众参与原则的缺失。如果一项技术是服务于社会中的大多数群体，政府的作用就不可替代，无论作为社会系统的设计者还是行业领域技术创新的监管者，政府都应承担起责任，打破技术中心主义的局限。
（四）算法黑箱无法提供理由说明
正当程序中的说明理由制度是指公权力机关在做出决定或者裁决时，应向其他利害关系人说明法律依据和事实状态，及通过相关法律和事实状态进行推理或裁量而做出结论的过程，从而表明理由与最终该决定的内在联系。尤其是行政机关作出不利于行政相对人的行政行为时，除非有法定保密的要求，都必须说明理由。我国《行政处罚法》《行政许可法》等法律法规均明确规定了行政行为说明理由的要求。说明理由制度是正当程序中的重要构成要素，违反说明理由义务可能直接影响到决定或者裁决的效力。
预测型算法作出行政决策的时点是在行政对象作出行为之前，依据是大数据的相关关系而非因果关系，因此无法提供理由说明。由于大部分深度学习推荐算法将数据变换到一个隐含空间，可以计算如何无限接近算法设定的目标，但是很难提供直接的决策理由。尤其是预测型算法在行政治理中的应用，将行政对象的目标与既有数据对比，应用数据分析来发现特征和结果之间的相关性，并利用这个分析来生成可能不容易解释或理解的预测。一个正当的行政行为要求理由的公开，并公布作出行政行为的证据。而由于预测型算法的时间点在事件发生之前，所以尚无证据存在。这种先验性使得合法正当行为所需要的具有证明力的证据不可能存在。
【行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和】算法预测指导的行政活动对行政对象挑选并进行甄别，却无法提供实质性证据。这实际上构成了对行政对象区别性的不利对待，可能违反法律面前人人平等的原则。典型的预测型算法应用为“预测警务” ，如北京市公安局怀柔分局的 “犯罪数据分析和趋势预测系统”收录了怀柔9年来一万余件犯罪案件数据。 2014 年 5 月，该系统预测提示：近期泉河派出所辖区北斜街发生盗窃案的可能性较高，派出所加大对该区域的巡逻，并于5月7日抓获一名盗窃汽车内财物的嫌疑人。预测型算法会在治安高风险地区时会相应投入更多警力，使得该地区的治安违法行为更容易被查到，导致风险级别进一步提高，可能形成一个失真的回馈环路。