行政|张凌寒：算法自动化决策与行政正当程序制度的冲突与调和( 四 ) 张凌寒北京科技大学文法学院

第三，正当程序制度包括行政行为后的“信息纠正”工具。例如，要求行政机关事后为相对人提供相应的救济途径，其目的是为了防止行政行为错误，给相对人获得“信息纠正”的机会。以上种种正当程序制度的要求，都是力图解决行政机关与相对人信息不对称的情况。而只有符合正当程序的行政行为方为合法有效，也充分说明了信息工具的缺失会直接影响行政行为的法律效力。尽管行政机关与相对人之间的信息不对称无法最终消除，但通过正当程序“发送信息”是法律对行政行为的基本合法性要求。
从这个角度去理解正当程序制度，会发现政府信息公开制度、行政听证制度、说明理由制度、公众参与制度等本质上均为信息工具。通过程序来强制性要求政府对公众披露行政活动中的信息，达到控制公权力保障公民权利的目的。 20世纪中期以后，随着各国行政程序立法的发展，正当程序原则在世界许多国家如奥地利、意大利、西班牙、德国等得到了确立和广泛使用。从程序控权取代实体控权，从注重行政行为的合乎实体法规则向注重行政行为的合乎程序性转变，以正当程序模式的行政法来弥补严格规则模式之不足，已经成为当代行政法的主流。其背后的考量，是行政行为所需的信息越来越庞杂，依靠实体法规则已经无法囊括，只能退而要求在程序法规则上满足“发送信息”的要求，交由具体行政活动中相对人获得的信息来保障公权力在合法范围内运行。
行政正当程序的信息发送功能由于算法自动化决策阻碍无法实现。无论是反应型算法压缩行政程序各个环节造成行政正当程序的缺省，还是预测型算法直接作为内部决策规避行政正当程序，最终均导致行政相对人无法接收到行政机关通过行政正当程序发送的信息。具体而言，尤其以行政公开原则、公众参与原则与说明理由规则为甚。
（二）算法不透明遮蔽行政公开原则
20世纪中期以后，公开、透明、公众参与已构成现代正当法律程序的基本的、甚至是不可或缺的内容。美国、欧盟诸多成员国及世界其他国家与地区等近50个国家和地区，都在20世纪60年代以后或本世纪初陆续制定了信息公开法和与美国“阳光法”类似的透明政府法。行政公开指的是行政机关的活动要坚持信息公开，除国家秘密、商业秘密与个人隐私的内容，应由行政机关向社会公众进行公开。
算法导致的行政公开原则缺失可分为两类原因：不愿公开与公开不能。具体而言，第一类原因是算法的采购、设计与运行，甚至算法的存在本身，政府基于各种考虑可公开而不愿公开。私营公司主张公开算法侵害商业秘密，政府官员可能会担心公开披露的算法会被篡改或规避，阻碍行政目的实现。 2017年年底纽约市政府开展的世界首次算法监管活动堪称典型。纽约市算法监管工作组召开了三次会议，直到2019年4月仍未就“算法自动化决策”的定义与范围达成共识，各政府部门也拒绝提供使用的算法清单，仅肯提供示例。此次监管活动也因未取得成效受到了广泛批评。
第二种是“算法黑箱”造成的公开不能。 “算法黑箱”是指在算法决策数据输入、计算和输出的三个环节中，分别面临着三个难题：数据收集由于公共利益豁免知情同意规则而不透明、算法决策过程由于商业秘密保护而不公开、数据分析结果与决策之间转换不公布。
算法不透明可由于政府严重的技术依赖关系形成一个恶性循环。政府不仅需要购买算法系统，还需要私营公司提供长期技术支持以便对算法系统运行进行维护和改造。私营公司为了垄断相关技术领域，会更加排斥将算法软件技术开源或公布。这进一步导致了某个专门的算法系统长期垄断某行政部门的行政活动技术支持，更加缺乏来自社会公众的监督。 2014年美国一项针对政府工作人员的调查显示：“联邦政府工作人员没有足够的数据分析技能将复杂的数据集转化为决策者所需要的信息……高达96%的受访者认为他们所在部门存在数据技能短板。 ”因此，调和算法自动化决策与行政信息公开的原则需平衡的三组利益：要求企业披露算法的相关信息，同时又不损害商业秘密和竞争优势，同时又能够确保公众监督。
（三）技术垄断架空公众参与原则
行政正当程序中的公众参与原则极为重要， “某种形式的听证”被认为是程序正当性过程最基本的要求，是行政机关提供正当程序的最低限度。然而，算法自动化决策系统由私营公司“技术垄断” ，公众的参与权难以得到保障。