最新機器人與 A.I.文章

Image credit: MIT

AI 人脸辨识技术原来有严重的肤色和性别偏差

研究显示对于白人或男性以外的面孔,AI 的错误率会急升。

Eric Chan
2018 年 2 月 13 日, 下午 04:00
MIT

MIT 和斯坦褔大学合组的研究团队针对三种不同的面部辨识技术研究,发现它们都会因为对象的性别和肤色而有着不同的效果,报告全文将会在本月稍后举行的 Conference on Fairness, Accountability, and Transparency 发布。

报告中特别把面孔辨识技术对于不同性别和种族对象的准确度划分,发现由美国主流科技公司开发,声称具有超过 97% 准确度的面部辨识系统,其资料库是由超过 77% 男性和超过 83% 白人的面孔资料组成。所以面部辨识系统对于白人或男性以外的面孔,AI 的错误率会急升。

为了测试 AI 面部辨识系统,MIT 研究员 Joy Buolamwini 收集了超过 1,200 张相片,里面的女性比例大幅增加;同时也按照 Fitzpatrick 等级及咨询皮肤医生的意见后,把不同肤色的面部分类。

结果发现三个面部辨识系统对于深肤色的女性错误率,分别达 20.8%、34.5% 和 34.7%。其中两个系统对于分类为最深肤色的女性面孔,错误率更高达 46.5% 和 46.8%。所以从本质上,和系统丢硬币随机选择没两样了

对于 AI 科技的算法存有肤色和性别偏差的说法,业界里已经讨论很久了,而且面部辨识系统对深色皮肤的辨识效果不佳也时有所闻。但即使在有着如此前提之下翻阅报告,看到这高错误率的结果也同样会被吓倒。在全球化、地球村概念盛行的今天,科技发展也必需要同时考量到不同肤色人种和性别的影响,不然的话,再高的科技也未能让所有人平等受惠。