Odaily星球日报|联邦学习的下一代技术趋势：无第三方和组件化近日

近日，杨强教授在SDBD2020·算力在线论坛中指出联邦学习不仅仅是技术，更是开源生态的建立。作为打开数据岛的桥梁，联邦学习在满足数据隐私、安全和监管要求的前提下，让人工智能系统能够更加高效、准确的共同使用各自的数据。
开门见山，本期算力隐私数据安全专栏特邀郭嘉，抛出3大问，大胆构想无第三方和组件化的联邦学习技术未来。
这一年，有幸零距离接触数百家客户，我想以一种更直接的方式来说一说联邦学习是否能落地银行的问题。（《阿凡达2》会讲一个什么样的故事呢？十年磨一剑，敬请期待。）
三个问题
1）联邦学习的第三方协调器难道不是诟病吗？
2）进银行这样的机构，如果是敲命令行的产品，怎么可能说服领导？
3）机构采购了建模平台甚至建模方案，是不是意味着自己的工程师成为鸡肋？
这是我在富数做联邦学习客户解决方案遇到的数十个问题中的，挑选的其中3个比较另类的疑问。
无第三方才“中立”
目前市场上的隐私计算产品，大多是有第三方存在，或者由其中某一方兼任第三方的。
第三方C在最开始为计算（数据）双方A和B分配同一份公钥，第三方C持有对应的私钥；A方和B方分别就自己的数据作相应的计算，将基于己方数据的中间结果用公钥加密，并将密文发送给第三方C；第三方C使用私钥解密来自各方的中间结果密文获得各方的中间结果明文，并汇总得到完整的中间结果。这一过程会反复迭代，直至满足结束条件。
从最终结果来看，有第三方C在参与过程之中，获得了自己本不该获得的信息。而这些信息是否暴露其他参与方的隐私数据，与运行的算法本身结构有关：例如在逻辑回归算法中，参与方计算出基于己方数据的内积，并将其加密发送给协调方，协调方得到该内积结果并不能得到原来的数据，这是因为内积数据很好地掩盖了原有数据。
但是，并不是所有算法的中间结果都能像逻辑回归问题一样——不暴露参与方的原始数据。

文章图片
【Odaily星球日报|联邦学习的下一代技术趋势：无第三方和组件化】第三方的协调，确实为协议的设计和实现带了很大的便利。但是实际上第三方本身的建立是需要较大成本。而所谓的兼任第三方，虽然整个过程中只有两方参与，但并没有从实际上解决有第三方的方案中存在的问题——其中一方的信息仍存在暴露的危险。
相比有第三方参与的方案，基于MPC无第三方参与的方案从协议设计之初就摒弃了协调方。
MPC协议在理论上要求参与方除了己方输入和己方计算结果输出之外，并不能获得额外的信息。 MPC只有参与方之间的信息交互，并且协议执行期间的交互过程不会泄漏参与方的隐私数据。这是由协议设计的底层来保证的。例如，在混淆电路中，参与方会将各自的输入映射成为随机密钥，同时用混淆真值表来保持参与方输入、输出之间。各方交互的只是关于真值表对应的密文，而不包含任何输入、输出数据。

文章图片
总的来说，基于MPC无第三方参与的方案对于参与方的隐私数据的保护更加彻底，而有第三方参与的方案需要依赖于第三方的可信性或者中间结果的结构才能保证数据的隐私性。也就是说，当双方无法建立可信第三方时，基于MPC无第三方参与的方案将会是安全的首要选择。
富数即将推出的Avatar2.0大版本，基于MPC的核心思想，从底层的基本算子和简易函数的计算开始，最终完成无第三方的产品升级。