首页 > 国际 >

人工智能也有种族歧视?亚马逊人脸识别技术Rekognition被质疑!

2019-01-30 03:31:32 网络整理 阅读:127 评论:0

种族歧视一直是很多国家的社会问题,在北美和欧洲等地区最为严重,而现在种族歧视不仅仅发生在人类社会,更是发生在人工智能界。

近日,,外媒报道称,有位研究者认为,亚马逊人脸识别技术Rekognition无法精准地确定女性和肤色较深面部的性别,具体体现在其错误的将19%的女性图像识别为男性,将31%的深肤色女性图像识别为男性。而相比之下,微软在是被深色皮肤人群性别时,将女性错认为男性比例只有1.5%。

人工智能也有种族歧视?亚马逊人脸识别技术Rekognition被质疑!

其实这也不是亚马逊Rekognition因为产生的偏见而陷于争议中了。

在去年夏天美国公民自由联盟对Rekognition的测试中,在把25000张罪犯照片与国会议员的官方照片进行比较时,错误地将28名国会代表视为罪犯,而38%的错误匹配都是有色人种。

但也许是人工智能的算法还不够完善,在其他企业发明的人脸识别系统中也出现过很多种族歧视现象。

人工智能也有种族歧视?亚马逊人脸识别技术Rekognition被质疑!

弗吉尼亚大学的研究人员进行的一项独立研究发现,两个著名的研究图像集ImSitu和COCO,后者由Facebook,微软和创业公司MightyAI共同发起。在他们对体育,烹饪的描述中表现出性别偏见,和其他活动。(例如,购物的图像与女性有关,而教练则与男性有关)

也许最臭名昭著的是在2015年,一位软件工程师报告说,Google Photos的图像分类算法将非裔美国人视为“大猩猩”。

人工智能出现种族歧视现象,说明这与人工智能的本质有关,因为人工智能本就是人类所创造的,人工智能的数据与经验也都是人类所赋予的。

人工智能也有种族歧视?亚马逊人脸识别技术Rekognition被质疑!

那么如何才能让人工智能去除掉这种种族歧视呢?

这个问题也应该从我们人类自身去思考,只有研究透了人类这种种族歧视的观念,得出了种族歧视的数据模型以及分析模式,我们才能将这些赋予人工智能,这样人工智能才能具备识别种族歧视特征,从而避免种族歧视。

值得一提的是,人脸识别技术也在不断地进步。

去年6月,微软与人工智能专家合作,修改并扩展了用于训练Face API,提供用于检测、识别和分析图像中人脸的算法,通过肤色、性别和年龄的新数据,它能够将皮肤较深的男性和女性的错误率分别降低20倍和9倍。

而亚马逊方面也表示,将不断致力于提高Rekognition的准确性,建立面部分析个面部识别的标准化测试以及监管合作指导其使用。

人工智能是人类的产物,很多方面都是继承着人类的特性,像人类一样生活与思考,所以人工智能会怎样,也取决于我们人类自己。

希望有一天,不仅仅是人工智能界能排除性别歧视,人类社会也是如此。

相关文章