“AI”的局限性：人工智能改变未来，还有一个尚未突破的问题全文共6211字

全文共6211字，预计学习时长16分钟
文章插图
图源：unsplash
人工智能是这个时代的箴言，技术专家、学者、采访人员和风险投资家都在歌颂AI 。不过，就像一些从专业学术领域延伸到日常生活中的短语一样， “人工智能”一词的使用也引起巨大的争议。
但这并不是通常情况中由于“大众无法理解科学家”而造成的争议，其实，科学家和大众一样感到困惑。一想到这个时代正在兴起一种可与人类匹敌的数字智能，所有人都很兴奋，但同时也会感到害怕，这会分散我们的注意力。
这是当今时代背景下一个特殊的故事，它涉及到人、计算机、数据和生与死的决定，并非人们对硅基智能的幻想。
14年前，笔者的亲戚怀孕后在做超声波检查。房间里的遗传学家指着胎儿心脏周围的一些白点：“这些都是唐氏综合症的迹象，而胎儿患病的风险已达二十分之一。 ”接着，她说可以通过羊膜穿刺术发现胎儿是否真的有先天遗传变异的唐氏综合症。但是羊膜穿刺术是有风险的，在手术中胎儿死亡率大约是1/300 。
作为一名统计学家，笔者很想弄清楚这些数字的根据和来源。十年前，英国做过一项统计研究，这些代表钙积累的白点，实际上被认定是唐氏综合症的预测因子。但同时我也发现，我们测试的成像系统每平方英寸像素比英国分析使用的系统多几百个。
我告诉遗传学家，我认为这些白点可能是假阳性——它们只是“白噪音” 。她说：“这就是几年前唐氏综合症的诊断激增的原因，那时新电脑刚刚到货。 ”
他们最终没有做羊膜穿刺术，几个月后，一个健康的女孩出生了。但这件事让我很惶恐——粗略估计，全世界有几千人在同一天接受了这个诊断，其中许多人选择了羊膜穿刺，许多婴儿不必要地死去。这种情况每天都在发生，直到有一天bug被修复。
这个故事暴露的问题与我个人的医疗保健无关——这关乎一个医疗系统，通过评估不同地点和时间的变量和结果，进行统计分析，并利用其他地方和不同时间的研究结果。
这样的问题不仅和分析数据本身有关，还和研究数据库研究人员关注的“出处”挂钩——一般来说，数据科学家们需要厘清数据来源于哪里、如何推导以及这些推论之于现状的重要性的问题。虽然熟练的数据科学家们可以依次进行案例分析，但当今的挑战是，行星规模般庞大的医疗系统并不需要大量的人类监管。
我也是一名计算机科学家，碰巧在我的学校里找不到这样的概念来构建一个全球范围内的推理与决策系统——将计算机科学与统计学结合起来，并考虑到人类的效用。在我看来，发展不应只局限于医学领域，还应涉及贸易、交通、教育等领域，至少要和构建人工智能系统一样重要。
无论是否能很快理解“智能” ，我们都面临着一个巨大的挑战，那就是如何让机器和人类结合起来以改善人类生活。有些人认为这项任务从属于“人工智能”的发展，但它也可以被看作是一个新的工程分支。就像过去几十年的土木工程和化学工程一样，这门新学科的目标是汇集几个关键概念的力量，为人们提供新的工具和技能，并做到安全可靠。
土木工程和化学工程主要着眼于物理和化学，而这一新的工程学科将建立在上个世纪的思想基础上，诸如“知识”、“算法”、“数据”、“不确定性”、“计算”、“推理”和“优化” 。此外，这门新学科的大部分重点将是来自人类和关于人类的数据，它的整体研究方向也将聚焦于此。
尽管构建小模块已经出现了，但是指导这些模块放在一起的原则还未发展，所以这些模块是以特殊的方式放置在一起的。因此，就像在结构工程出现之前设计建筑和桥梁一样，人类正在构建涉及计算机、人类和环境的社会规模、推理和决策结构。
文章插图
图源：unsplash
就像早期的建筑和桥梁经常以意想不到的方式倒塌并带来毁灭性的后果一样，早期的许多社会推理和决策过程中也存在严重的概念缺陷。遗憾的是,我们并不擅长预测下一个致命错误的出现，我们真正失去的是工程学科及其理论和设计概念。
通常，公共话语情景下，人们常使用人工智能AI作为分析通配符，而这使得他们很难思考新兴技术的本质和含义。下文中，笔者将更仔细地研究“AI的过去和近况” 。