陈根，从价格歧视到算法偏见，随着人工智能的第三次勃兴( 三 ) 文/陈根不论承认与否

其次，将个人敏感数据排除在人工智能的自动化决定之外。这些敏感数据包括政治倾向、信仰、健康、性取向的数据，或者可唯一性识别自然人的基因数据、生物数据等。这些数据一旦遭到泄露、修改或不当利用，就会对个人造成不良影响。而法律首先要做的，就是更加小心和负责地收集、使用、共享可能导致歧视的任何敏感数据。
再次，要识别和数据应用中的歧视和偏见， “数据透明”就不可或缺。换言之，它要求在数据生产和处理日趋复杂的形势下，增强个人的知情权，从而修复信息的对称性。比如，在银行收集个人数据时，应当告知其可能使用人工智能对贷款人资质进行审核，而审核的最坏结果（如不批贷）也应一并披露。此外，由于我们都不是技术专家，因此，这里的“有用信息”不但应浅显易懂，为每个人理解，而且要有助于每个人主张自己在法律下的权利。
除了对数据的规制，对于算法的规制，需要强制实施算法技术标准和可追溯。目前的算法本质上还是一种编程技术，对技术最直接的规范方式是制定标准，而标准也是国家相关部门进行的最直接依据。

文章图片
对于人工智能算法要全面提高标准认识和理念，提高新产业制度成本的可预见性，减少新技术的混乱发展。如在国际层面，技术规范体系通常表现为“技术法规+技术标准+技术认证”的体系。
其中，技术法规有强制力，规定不同行业的描述性技术要求；技术标准是针对具体技术指标的要求，其主要功能是支撑技术法规，其效力在我国实际对应的是团体标准。但该标准在我国没有法律地位，政府、企业和社会中的很多人还没有标准意识，更缺乏标准投入。
另一方面，要统筹现有法律制度规定的形式。考察《电子商务法》《网络安全法》《计算机信息安全保护条例》等有关法律法规，规制算法的方式主要有两种：一则，直接针对算法程式设计者和算法服务者进行规制，如《网络安全法》明确规定网络服务要符合国家强制标准、不得设置恶意程序，如果发生问题要及时补救漏洞和保障安全。
二则，设定相关行政部门的职责从而间接遏制算法侵权现象的发生。例如，《电子商务法》主要规制了电子商务经营者的行为并设定了其相关，包括信息披露和保护、搜索与广告、服务和交易等方面的算法规则规制；《网络安全法》则主要全方位地规定行政机关的监测、维护和职责，包括监测预警和应急处置、网络运行与信息安全维护等。
当然，任何社会规则的更迭与技术的发展总是相伴而行的，而面对日新月异的新技术，特别是人工智能的发展，我们能做的，就是把算法纳入法律之治的涵摄之中，从而打造一个更加和谐的大数据时代。
本文相关词条概念解析：
算法
【陈根，从价格歧视到算法偏见，随着人工智能的第三次勃兴】算法是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制；它是求解问题类的、机械的、统一的方法，常用于计算、数据处理（英语：Dataprocessing）和自动推理。可以理解为有基本运算及规定的运算顺序所构成的完整的解题步骤。或者看成按照要求设计好的有限的确切的计算序列，并且这样的步骤和序列可以解决一类问题。算法中的指令描述的是一个计算，当其运行时能从一个初始状态和（可能为空的）初始输入开始，经过一系列有限而清晰定义的状态，最终产生输出并停止于一个终态。一个状态到另一个状态的转移不一定是确定的。随机化算法在内的一些算法，包含了一些随机输入。