纽约时报》近日发表文章，称人脸识别技术的发展近来可谓突飞猛进，目前已经有一些商业软件可以用来识别照片中人物的性别，当照片中的人是白人时，99％的情况下识别结果都是正确的，但如果照片中是黑人，错误率就比较高了。以下为原文内容：

人脸识别技术在识别不同种族和性别的人脸时，效果有多大的不同呢？一项新的研究对此进行了测量，结果表明，肤色越黑，识别率就越低。在识别黑皮肤女性时，它的错误率几乎达到了35％。

MIT媒体实验室的研究员乔伊o布兰威尼（Joy Buolamwini）进行的这项研究，显示了现实世界中的一些偏见已经渗透到了人工智能（AI）领域，因为人脸识别技术就是建立在AI之上的。

在计算机视觉技术中，颜色很重要

使用微软、IBM和Face＋＋的人脸识别算法在识别黑人女性时，错误率高于识别白人男性。

在一组385张肤色较白的男性照片中，性别判断的错误率为1％。

在一组296张肤色较白的女性照片中，性别判断的错误率为7％。

在一组318张肤色较黑的男性照片中，性别判断的错误率为12％。

在一组271张肤色较黑的女性照片中，性别判断的错误率为35％。

在现代AI技术中，数据是关键。用来训练AI的数据有多好，AI效果就会有多好。如果训练数据中的白人男性比黑人女性多，那么它识别黑人女性的能力就比较差。

另一项研究报告显示，在一种获得广泛使用的人脸识别数据集中，75％以上的图像都是男性，80％以上是白人。

因此这项新的研究就提出了一个问题：当AI获得的投资额和采用量日益增长时，AI的公平性和问责性又该怎么保证呢？

今天，商业公司正以各种方式部署人脸识别软件，其中就包括根据社交媒体上的资料图片来对产品进行宣传。但是，一些公司也正在尝试把人脸识别和其他AI技术纳入到一些自动决策过程中，比如招聘和贷款决策。

乔治城大学法学院的研究人员估计，执法部门的人脸识别网络涵盖了1．17亿美国成年人的数据，而非洲裔美国人最有可能被挑出来，因为他们在这个数据库中占的比例格外高。