最新機器人與 A.I.文章

Image credit: Joshua Lott via Getty Images

DeepMind、Elon Musk 等承诺不开发自动化 AI 武器

他们也要求各国政府立法限制该类技术。

Sanji Feng
2018 年 7 月 18 日, 下午 05:32
Joshua Lott via Getty Images

在今天的人工智慧 Joint Conference 大会上,Future of Life Institute 正式宣布超过 2,400 名个人及 160 家公司、组织已经签订公约,承诺自己「不会参与或支持致命自动化武器的开发、制造、交易及使用」。这次的签字方来自总共 90 个国家,其中包括有 Google DeepMind、Xprize 基金会等知名机构以及 Elon Musk 这样耳熟能详的名字。他们在自己许下诺言的同时,也希望各国政府能够尽快对该类技术立法加以限制。

这次多方承诺的一个大背景,是许多公司向政府、执法机构提供该类技术的行为激起了剧烈反应。之前 Google 因为跟美国军方合作的 Project Maven 计划受到了颇多指责,亚马逊将面部辨识技术分享给执法部门的做法也备受批评,同时微软为移民和海关执法局提供的服务也遭到了口诛笔伐。

「数以千计的 AI 研究者们都认为,致命的自动化武器在被去除夺人生命的风险性、归因性和困难性以后,有可能会成为被用于暴力、镇压的强大工具,尤其是在连接监控及数据系统的情况之下。」公约中这么写道。同时其还强调,结束某人生命的决定「永远都不该交给机器来做」。

「我很兴奋地看到 AI 领先者们能由说到做,将政客长久以来都没有真正执行的政策落实到行动中去。」Future of Life Institute 主席 Max Tegmark 在声明中如此说道,「AI 在帮助世界这件事上有巨大的潜力,前提是我们不对其施以滥用。会自动取人性命的 AI 武器跟生化武器一样难以控制、令人作呕,我们对待两者的态度应该是一样的。」