为保护人权,IBM 决定终止「通用」人脸辨识业务

他们担心这类技术会被滥用,以达成监控、种族定性等目的。

Sanji Feng
Sanji Feng
2020年06月9日, 下午 05:00
AI (artificial intelligence) concept, machine learning, nanotechnologies and face recognition concept, Interactive artificial intelligence digital advertisement in event exhibition hall, CCTV camera

近期各地频发的抗议事件,又再度引发了人们对面部识别技术的思考。而作为业界巨头,IBM 现在更是拿出了实际的移动。早些时候 CEO Arvind Krishna 向美国国会致信,称 IBM 已决定终止自己的「通用」人脸辨识业务。他强调 IBM「坚决反对」将此类技术用于监控、种族定性及「任何触犯基本人权和自由」的活动,并表示当下正是就面部识别该被如何运用,甚至说是否该被运用进行「全国性对话」的最佳时机。

在此之前,已经有研究显示目前的人脸辨识方案由于训练模型都以白人男性为主,因此在对非白人人种和女性的识别上存在着更高的误差。而基于公开采集数据实现的辨识结果是否构成对个人隐私的侵犯,也早已是老生常谈的话题了。在信中 Krishna 承认 AI 对执法部门来说是一件「非常有力的工具」,但他同时也认为使用的一方需要时刻保证这件工具不会包含偏见,在其眼中诸如穿戴式相机等能够提高透明度、便于追责的技术同样需要大力提倡。

实际上,Krishna 的这封信只是近期要求推进美国警方改革声浪中的一个例子。尽管对 IBM 来说面部识别并非其主要业务,但这样级别、尤其是和政府来往甚密的企业会选择在这个时候发声,多少还是能让人看到一些科技公司在这件事上的态度转变吧。

标签: IBM, facial recognition, privacy, human rights, bias, racism, arvind krishna, surveillance, artificial intelligence, ai, news, gear