城市管理到底用了什么样的AI？欧洲两首都城市选择了公开日前

日前，荷兰的阿姆斯特丹市和芬兰的赫尔辛基市通过创建网站，公开了市政府所使用的人工智能应用或算法。
文章插图
阿姆斯特丹市的网站。
文章插图
赫尔辛基市的网站。
阿姆斯特丹的网站于今年九月上线，列出了四个算法，涉及停车监管、垃圾处理、房屋短期出租、社交距离监管等场景，赫尔辛基则公开了医疗中心、咨询中心、图书馆和停车的聊天机器人以及图书馆管理系统等五个人工智能应用。
【城市管理到底用了什么样的AI？欧洲两首都城市选择了公开】在网站上，两个城市详细说明了每一个应用或算法的数据来源和处理方式，可能带来的风险和应对方法，并解释了人工如何监管它们的运行。
赫尔辛基首席数字官办公室的项目经理Pasi Rautio提到，赫尔辛基在今年试验了十种人工智能应用，其中包括一个试点项目：新冠肺炎疫情期间，使用城市广场上的摄像头来监控人们是否保持了社交距离。该市计划逐步将所有的AI应用公开在网站上， “我们希望对人工智能的使用保持开放的态度。 “
阿姆斯特丹也有类似的应用。算法计算的结果会被显示在大屏幕上：如果人与人之间的距离超过1.8米，人脸会被绿色的笑脸替代，橙色笑脸对应的是1.5-1.8米的距离，当距离不足1.5米时，屏幕上就会出现红色的笑脸，系统也会发出提示音。
文章插图
阿姆斯特丹市使用的社交距离计算算法。
据介绍，该系统不会保存所拍摄的图片，但是会记录下行人的数量，以便政府判断区域内的人流量是否过大。相关的个人数据不会传输到互联网，并会被匿名化处理，因此政府判断使用这种算法“几乎没有风险“ 。
另一个算法用于监督市民是否按规定向游客出租房屋。据介绍，每一间房屋每年只允许出租30个晚上，一次最多可容纳四人，且必须向市政府报告。
从今年7月1日开始，阿姆斯特丹市政府启用了人工智能来分析房屋是否被非法出租。系统会标出风险等级，但执法人员不能仅依靠算法分析的结果进行决策。此外，算法不处理人员的出生地、国籍、婚姻状况等信息，以防止发生“偏见“ 。
文章插图
阿姆斯特丹市使用的房屋出租监管算法。
据媒体报道，欧盟官员计划明年提出有关人工智能的新法规，希望能解决人脸识别等AI技术可能带来的隐私泄露或歧视等问题。为阿姆斯特丹和赫尔辛基设计网站的Saidot公司的首席执行长Meeri Haataja说，使用AI的政府机构和公司可能会被要求记录下，他们是如何使用某些被视为“敏感“的系统。
欧洲城市组织（Eurocities）的政策官员Lodewijk Noordzij说，一个城市的政府通常缺乏对公民数据滥用的警惕意识，和将大型AI系统部署到位所需的专业知识。
该组织在4月曾表示，市政府没有足够的专家和预算来测试AI系统的安全性，希望欧盟在明年提出的关于AI的法规中规定，建立一个专门的机构来测试算法。
Saidot公司首席执行官Meeri Haataja则说， “我们看到了全新的风险，因为我们正在使用人工智能来改变我们的社会。 ”
欧盟现有的《通用数据保护条例》（GDPR）禁止AI系统在没有人工监管的情况下，使用个人数据进行自动决策。赫尔辛基市政府的工作人员Rautio说，如果将来的法律允许政府在更宽松的条件下，使用AI进行决策，那么公开网站可以帮助政府向市民解释相关决策如何做出。
综合/编译：南都人工智能伦理课题组研究员潘颖欣