ACLU曾用美国国会议员的照片 ， 对亚马逊公司的人脸识别系统Rekognition进行了测试 ， 结果是 ， 系统将28位议员错误地识别为涉嫌犯罪的被捕者 。 ACLU怀疑系统存在种族歧视 ， 因为在测试中 ， 被错误识别者中约40%是有色人种 ， 但有色人种只占国会议席的20% 。

　　麻省理工学院对于微软、Facebook、IBM等公司人脸识别系统的研究也表明 ， 系统在检测肤色较深的女性时 ， 出错率要比检测肤色较浅的男性高出35% 。 这将强化社会对于少数族裔与边缘群体的偏见 。

　　问题的原因之一是在用于训练识别算法的人脸里 ， 男性和白人面孔占了大多数 。 通常 ， 识别的准确度与喂食算法的人脸数量和多元性成正比 。 技术无偏见 ， 技术的偏见源于人类的偏见和不加纠正的利用 。