松鼠热点|强大的AI如何治理？中科院研究员曾毅：企业要为长远愿景做准备( 二 ) 人工智能作为一项颠覆性技术

文章图片
图片来源：摄图网
曾毅一直在倡导人工智能企业关注可持续发展，建议相关企业要为长远愿景做准备。 “当GDPR（通用数据保护条例）发布时，欧洲几乎没有人工智能企业欢迎，因为他们觉得这需要花费大量额外的工作，也看不到直接的收益。所以，几乎所有的人工智能大公司都反对，小公司也反对。 ”曾毅对《每日经济新闻》采访人员表示，在GDPR实施了以后，帮助企业符合规范，企业开始发现用户大量增长。在这个阶段，用户会选择更加相信符合标准的企业的互联网应用。
GDPR从隐私保护与安全角度出发，对违反者的罚款，最高可达其全球年营业额的4%或2000万欧元，取两者中较高值。
企业的AI治理一直都是各方关注的焦点。只有企业的落地和实践，才能让各种社会层面的监管或共识得到切实推进。在国际上， 2016年，亚马逊、微软、谷歌、IBM和Facebook联合成立了一家非营利性的人工智能合作组织（PartnershiponAI），苹果于2017年1月加入该组织。在科技巨头们的共识里，与其靠外界强加约束AI发展，不如先成立伦理委员会自主监督。
旷视则在2019年8月成立了“旷视人工智能道德委员会” ，作为公司人工智能治理事项最高的决策机构，这也是中国首家成立该项组织的AI企业。
曾毅总结称，这两年的经验表明，人工智能伦理这件事情一定不是单单某一方就能推动的。它既不能完全由企业来推动，也不能完全由学界推动，它一定是共同的，包括媒体、公众、专家以及政府层面。它需要真正协同的机制，在这个机制里，企业需要发挥一个主观能动和更积极的角色。
“它不是就技术讲技术的问题，涉及伦理、经济学、法学等诸多领域，是真正的交叉学科的领域，而且需要海内外协同。 ”徐云程赞同曾毅的观点，她说：“我们并不会把人工智能技术的发展、商业应用和法律制定、标准制定对立起来，相反，越多的交流越能让这个产业良性化、健康化、可持续化发展。 ”
6月15日， “中国人脸识别第一案”在浙江杭州市富阳区法院开庭审理，引发公众关注。对簿公堂的是浙江理工大学副教授郭兵和杭州野生动物世界。因动物园改装系统，明确若不注册人脸识别将无法入园，也无法办理退卡退费。因不愿意使用人脸识别，持有年卡的郭兵将其告上法庭。
郭兵的诉讼无前例可循。曾毅对《每日经济新闻》表示，之前已经有了《人工智能北京共识》和科技部《新一代人工智能治理原则》，中国提出的人工智能原则和西方的冲突并没有那么大。全球各个地区在讨论人工智能的伦理和治理形成共识时，联合国在其中发挥了重要作用。
曾毅介绍道：“世界卫生组织也成立了健康领域人工智能伦理治理的专家组，我代表中国参加了这个专家组，这个专家组的主要目标是针对广泛的健康领域，制定人工智能伦理和治理的WHO原则。 ”曾毅表示，在疫情期间，该组织的主要工作是制定关于密切追踪者应用，类似健康码系统相关的伦理原则，这在5月底发布了。
AI治理是个深刻的话题，之前并没有成熟的模式可以遵循。在曾毅看来， AI治理是多方利益相关方的责任和问责的问题，涉及每一个人工智能产品的全生命周期，涉及设计、研发、使用、部署各个层面。
在国内层面，曾毅向采访人员透露，从前沿研究的角度来讲，人工智能立法在科技部等机构都有专门的研究计划部署，相关的高校和产业都在协作制定，北京市也在推动和人工智能相关的立法工作。
从互联网时代开始，为了追赶风口，国内众多互联网应用似乎都经历过野蛮生长阶段，牺牲了用户众多权益，最后在监管层的管控下逐渐归于理性。现在人工智能行业的发展又站到了新起点，如何规范好前沿技术成为所有人工智能企业面对的命题。