AI探索虽无止境，但应用有禁区著名物理学家史蒂芬·霍金曾言

协会介绍

珠海市软件行业协会（英文：ZhuHai Software Industry Association，英文缩写：ZSIA）成立于2000年，是由珠海市从事软件研究、开发、销售、技术服务，信息化系统研究、开发、信息服务等业务的企、事业单位自愿结合组成的行业组织。

著名物理学家史蒂芬·霍金曾言，“创造人工智能可能是人类文明史上最伟大的事件，但也可能是最后一个。”人工智能的正向作用有目共睹，但它将使人类遭遇怎样的伦理困境?人工智能是福是祸?

变革总是充满争议的。人类不断造物的漫漫历史中，每一项变革性技术的问世，总会引发人们一轮又一轮激烈争论，争论的焦点主要不是技术，而是由此可能带来的未知风险和伦理困境。这是必要的，它反映了人对自身性质、地位、价值的严肃思考。

人工智能可能给人类社会带来颠覆性的变革，它的发展必须有伦理的介入和匡正。但是，对于技术，过度期待不可行，深度忧虑亦不可取。技术本身无善恶，这把双刃剑剑指何方取决于人类自身。人的大脑是一个通用的智能系统，可以举一反三、融会贯通。与之相比，当前人工智能仍很“稚嫩”，能理解人类的情感文化，拥有智慧、情商，会推理、“算计”的强人工智能尚只存在于银幕中的虚构世界里。如果因为前方可能存在危险，就停止向前探索的步伐，人类不可能拥有如此丰富多元的今天，也无法创造出更多可能性的明天。

但是，现代科技的不可逆性，也警示我们不能随便拿人类的命运冒险。在人工智能的推进中要注入人文理性，坚持“科技以人为本”的基本原则，伦理学家、人类学家、哲学家等学术各界和社会公众都要积极参与其中。而为了防止技术被某些利益团体利用或造成新的社会不公，除了强调科学家和科学共同体遵守道德义务外，政府的管控、法律的约束不能缺位。要让技术的发展始终在一个社会开放的空间中进行，防止黑箱操作。

人类制造工具，而工具让我们走得更远。人工智能初显的应用前景令人欢欣鼓舞。它的长远化应用，将是全球新一轮产业革命的引爆点。无论是德国的工业4.0，美国的“再工业化”战略，还是我国十九大报告部署的“推动互联网、大数据、人工智能和实体经济深度融合”，都反映出各国对人工智能的高度重视。毕竟，在这场新的技术革命中，谁抢占先机，谁就能获得新一轮产业革命的主动权。

毫无疑问，人工智能越向前发展，人类面临的伦理问题也会越尖锐。但是，技术应用有禁区，科学探索无止境。发展人工智能技术的同时应重视相关伦理问题的思考研究，但未雨绸缪的同时要避免过度敏感。播种善因、规避恶意，才是更加理性的作为。面对人工智能发展道路上接踵而来的问题、挑战，我们要做的，就是努力把控好技术发展的方向，让它造福人类、造福自然。

▲(作者马丽霞，是中国科学院自动化研究所智能感知与计算研究中心高级工程师)

来源：人民网-环球时报

珠海市软件行业协会

联系我们

■ 协会总机：86+756-3391958

■ 会员服务：86+756-3391958-205

■ 软件企业与产品评估：86+756-3391958-206

■ 科技资金咨询服务：86+756-3391958-206

■ 知识产权服务：86+756-3391958-201

■ 两化融合服务：86+756-3391958-203

■ 信息化系统成本评估：86+756-3391958-200