大数据杀熟、隐私泄露……金融安全隐患关山难越，新概念“可信AI”能否破局

数字化转型的大浪潮之下，人工智能、云计算、区块链等新兴技术发挥着重要作用。日新月异的发展背后，离不开海量用户数据，而这也引发了业内对该类技术安全性的新担扰。 6月7日，北京商报采访人员注意到，在人工智能领域，可信赖的人工智能（即“可信AI“）概念开始兴起。可信AI又将如何打破现阶段技术的限制、兼顾用户对数据安全保护的诉求，如何补齐算法短板突破安全难题？

本文插图
可信AI打破数据孤岛
北京商报采访人员多方了解到，可信AI实际上是通过底层技术框架解决人工智能应用过程中可能存在的多类问题，由此建立可靠的人工智能生态。事实上，近年来，AI换脸被黑产盯上、买卖隐私信息等各类围绕用户个人隐私数据产生的安全问题屡见报端，公众对于隐私保护、数据安全等问题关注程度也在不断提高。
在6月7日举办的2021全球人工智能技术大会可信AI专题论坛上，科技部高技术研究发展中心研究员、ACM中国理事会常务理事嵇智源指出，可信AI就是确保人工智能的公平性、可解释性、健壮性和透明性，确保算法可被人信任。
针对这些乱象，一方面监管频频出手，在用户数据收集、使用方面做出明确要求，从法律层面为数据安全提供保障；另一方面，北京商报采访人员注意到，多家从事人工智能相关业务的科技公司针对构建可信AI也在不断推陈出新。
以同盾科技提出的“知识联邦”为例， “知识联邦” 通过将数据转化成为模型策略知识，再对分散的知识聚合，最终实现智能决策。同时，围绕可信AI ，同盾科技开发了天启智能开放操作系统，并进一步开放了联邦市场，提供数据商店、模型商店和应用商店，方便数据生产要素的充分流通和使用。
同盾人工智能研究院院长李晓林告诉北京商报采访人员，数据孤岛是制约人工智能发展的重要阻碍，知识联邦以更合规的方式来打破数据孤岛，在利用数据的同时，做到保护数据隐私。 “通过数据安全交换协议来有效利用多方的数据，进行知识共创、共享和推理，实现数据可用不可见。 ”
隐私计算作为人工智能的底层支撑技术之一，其对于构建可信AI也有贡献。隐私计算全栈技术与基础设施提供商星云Clustar于2021年4月发布了“星云隐私计算全栈解决方案” ，进一步帮助合作机构实现数据安全共享与流通。
星云Clustar创始人陈凯指出，星云隐私计算平台集成了主流隐私计算技术，包括联邦学习、多方安全计算等，重点关注安全和效率问题。以目前星云Clustar为某国有大型银行构建的全行级隐私计算平台为例，星云Clustar结合该银行需求进行了定制化开发，为其提供基于联邦学习的多方安全建模平台，帮助该银行以“可用不可见”的方式打通全行内外部的数据共享，优化流程标准与降低管理成本，充分盘活了不同业务板块的数据价值，也为该银行未来进行数据开放提供了技术基础。