弱小可怜又无助,扎克伯格坐上听证会背后是技术还是人性的错?

弱小可怜又无助,扎克伯格坐上听证会背后是技术还是人性的错?

▲首图来源:新华网

编者注:美国东部时间4月10日下午,受用户数据泄露事件影响,Facebook CEO扎克伯格到美国国会参加听证会,接受美国参议院的质疑。

国会现场,扎克伯格要面对的是数十位参议员的轮番提问,他们多数年龄偏高,而且不懂技术,以及与超多的媒体摄像头,扎克伯格的处境可以说是“弱小、可怜又无助”了。

弱小可怜又无助,扎克伯格坐上听证会背后是技术还是人性的错?

▲图片来源:the verge,Chip Somodevilla/Getty Images



外媒一篇文章的观点认为,尽管扎克伯格谈了一大堆平台运作方式并道了歉,但背后引发的并不是技术性的问题,而是人性。

科技新报将其整理如下:

Facebook 让青少年沉迷,创造一种自我展演的文化,已经让大人感到非常头痛,现在 Facebook 数十亿用户数据,又让广告商以无法察觉的方式投放广告,在大选期间成为政治团体操纵人心的工具,更让许多人对 Facebook 忍无可忍。剑桥分析滥用数据事件将CEO马克扎克伯格(Mark Zuckerberg)送上听证会座席,接受盘问,即使他谈了一大堆平台运作方式并道了歉,但背后引发的并不是技术性的问题,而是人性。

QUARTZ 整理报导,美国犹太人物理学家罗伯特欧本海默(Robert Oppenheimer)二战期间参与美国原子弹计划,当时他在新墨西哥州的一个试验场所,观察到第一次核爆时发出的蕈状云时,他重复印度史诗博伽梵歌的一句话,「现在我变成死神,成为世界的破坏者。」这位帮助建造世界最致命武器的科学家,看到物理学家将得永远面对发明的后果。

而在这个时代,则是电脑科学家在面对他们的「核弹时刻」(A-Bomb moment),Facebook 对用户数据的粗心大意,一切都是出自软件工程师的良知。

Google 前安全和隐私工程师 Yonatan Zunger 曾说,电脑科学领域还没有遇到任何后果,他将软件工程师手中的能力比拟成在 AK-47 突击步枪玩具店里的孩子,现在软件设计的安全和道德仍是选择性,而不是必备的基础准则。

其他领域已意识到道德监管的必要性,如化学炸药和化学武器的发明,以及生物学对优生学的理论基础,促成机构审查委员会,职业生涯中期认证和专业行为准则的创建。但是软件工程不同,编码人员既不是传统意义上的专业与职业社交,许多人都是自学成才,因此自上而下的解决方案并不够。

但也有些人正在努力导入人文素养,如算法正义联盟(The Algorithmic Justice League)成立目的在根除算法偏见。前 Google 员工成立人文科技中心(Center for Humane Technology)试图重新调整科技与人类的最大利益。

现在电脑科学家和编码人员的份量越来越重,与物理、医学和土木工程方面重要性齐平。而且风险无比的大,科技将很快介入人类生活的每个方面。机器识别语音和文字,算法已经可以辨识面孔,并从数据推断个人的性别、收入、信誉、心理健康、个性和感受。

虽然 Facebook 身为一个平台声称自己没有立场,但目前看来他们的做法已中立到没有是非黑白的程度,虽然每次出现争议之后都提出一些应对措施,包括举报不当应用程序的奖励、政治广告验身份、删除假帐号等,但都是公关手段,并非彻底觉悟。Facebook 前员工就曾揭露 Facebook 内部是如何仰赖广告收入,断定他们不会因为外界一再抨击而改变广告政策。

Zunger 认为,科技公司为了防止电脑系统崩溃,借由排除各种假设确保可靠性,这种假设计划应该要应用在对人类造成的后果上,他认为电脑工程师应该努力想像最糟糕的状况,担负起人类该有的责任。



04

12

延伸阅读

  • 一拳打在棉花上?中美贸易战对我国科技产业影响详解

  • 今日头条旗下“内涵段子”永久关停,媒体:算法也需要价值观

  • 把全面屏掰弯让AI下五子棋,CITE 2018释放科技想象力

  • 中美贸易战,对半导体产业有这些影响

    弱小可怜又无助,扎克伯格坐上听证会背后是技术还是人性的错?