G20框架下的全球人工智能治理理性|塑料|看待|可降解|全面推

人工智能的发展已与国家发展、社会治理、国际竞争等息息相关，其带来的机遇和风险共存。全球都在思考如何整合利益相关方，秉承互利互惠原则推进共同治理，实现人工智能风险最小化、效益最大化。
太和智库一直在关注人工智能的全球治理问题，于2020年向G20提交了人工智能全球治理建议方案，并阐述了在G20框架下协同治理的理念、方式和机制。对此，该方案牵头人、太和智库欧洲中心主任托斯登·耶里尼克(Thorsten Jelinek)先生回答了相关提问。
人工智能两面性日益凸显，机遇与风险共存
问：技术的使用有好有坏，很多革命性的技术从根本上改变了人与人之间的关系，权力和机会可能被扩大，也可能被削弱。人工智能这种革命性技术的两面性体现在哪些方面?
托斯登·耶里尼克：从正面作用看，作为创新、增长和竞争力的新源泉，人工智能可提高几乎所有行业和部门的生产力和效率，因而广受赞誉。智能化也有望解决一些最紧迫的全球挑战，实现可持续发展目标。人工智能创新的潜在经济和社会效益可能是巨大的。对大多数人来说，人工智能的兴起已经提高了日常便利性。
从负面作用看，人工智能的快速发展也引发了较多忧虑，许多专家告诫，人工智能可能为世界带来前所未有的安全和隐私风险，加剧社会、经济、政治和国际关系失衡。历史证明，人类颠覆性技术的应用大多利大于弊，但这往往以一段时间内的错误和事故为代价，使得民众或政府要求进一步改进和规范。由于人工智能不会只是人类的代理，更可能发展成为自主决策的独立代理人本身，我们不能基于历史经验安枕无忧。
技术并不能脱离人类行为单独存在，其本质上是人类行为的结果。未来几十年，主要的风险并不是人工智能本身会造成的直接伤害和长期失衡，而是对现有人际关系、社会惯例和人类自身目标的冲击甚至瓦解。因此如何应用人工智能才是主要的决定性因素。人类历史正经历螺旋下行，变得更加碎片化和不可持续，而人工智能很可能加速人类现有的发展轨迹，所引致的风险则可能愈发增加、恶化。
问：具体而言，人工智能的风险有哪些方面，对我们的生活可能会造成怎样的危害呢?
托斯登·耶里尼克：我认为，人工智能的风险可以分为两大类：
一、在特定领域遭遇的直接威胁
人工智能技术或将极大改变甚至加剧网络安全威胁。当前，传统的网络安全漏洞和网络犯罪事件急剧增加，涉及数字和物理系统的破坏、信息盗取和网络间谍活动。人工智能的恶意使用不仅会扩大现有网络安全威胁，还会创造全新的威胁形态，实施更有针对性的攻击和犯罪，预防和处理将更加复杂困难，这也引起了多国安全、军事及重大基础设施部门的重点关注。若无强有力的国际协调和责任承诺，人工智能安全问题可能会进一步瓦解现有网络治理机制和机构，使之呈碎片化态势。
二、较长时期内出现的结构性风险
人工智能技术或将固化并加剧结构性失衡。经济方面，人工智能将提高就业门槛，富裕国家有能力为无法重新获得技能的人提供普遍的基本收入，而中低收入国家将无法做到这一点，并有可能被困在他们的发展阶段。社会方面，少数人享受数字化升级的特权，容易导致数字贪污和人工智能重商主义；被时代“抛弃”的人可能会越来越多，其尊严、隐私和价值的日益缺失将影响公民身心健康和社会凝聚力，导致社会动荡增加，民粹主义扩大。政治方面，人工智能通过限制自治空间，加大了国家、经济和社会之间力量失衡的结构性风险，容易出现两极化，即极权主义或“多数人的暴政”，并威胁到现代国家和政府的支柱——官僚制、法治和问责制；各国对人工智能领导地位的激烈竞争可能会破坏现有国际关系，技术主权或转变为技术民族主义。此外，高度应用人工智能技术的自主武器，如网络病毒及致命性自主武器等面临扩散危险，这将增加持续的不对称冲突。如果没有协调和干预，结构性风险会更难预测，其后果将更难化解，影响范围也更广泛。
人工智能治理亟须全球协调，并建立完善的治理机制
问：人工智能的挑战涉及法律、伦理、道德、安全、隐私等各个方面，我们该如何应对?
托斯登·耶里尼克：没有任何一个国家或利益相关方能仅凭自身力量来持续、有效应对以上威胁和风险。建立人工智能治理的全球协调机制，已成为一项亟待解决的全球议题。
首先，人工智能是一个多技术交叉融合的领域，在不同的应用、行业和地域中存在不同的风险，而且这些技术正在迅速发展并推广应用，最终将渗透到人类生活的方方面面。现有法规和传统监管方法难以应对这种复杂局面，也难以跟上人工智能的发展速度。