首页 > 科技 >

人脸技术“歧视”非裔?“误判”率竟高出白人5至10倍

2019-11-20 12:17:36 暂无 阅读:1392 评论:0

有一种尴尬是,本人与照片不符,安检过不了,还有一种尴尬是,在你不知情的情况下,你的脸已经替别人买了单......人脸识别技术的应用,让容貌对一个人身份信息的确认变得至关重要。现在,通过人脸识别技术能办的事儿越来越多,而出现的问题也越来越多。

人脸技术“歧视”非裔?“误判”率竟高出白人5至10倍

“人脸识别”误判28名国会议员为罪犯 ,

15万人联名抗议

早在去年的7月份,美国公民自由联盟(ACLU)就对人脸识别进行了一项实验,他们使用人脸识别工具Rekognition,扫描了535名美国国会议员的照片,并将它们与25000张警方公开的罪犯面部照片进行了比对,结果,产生了28个不正确的匹配,软件错误地将28名国会议员判定为此前被捕的罪犯!

被错误匹配的议员中,有色人种的比例显著过高(11人),仅国会黑人同盟(Congressional Black Caucus)就有6名成员被误判,其中包括著名的民权活动家众议院议员约翰·刘易斯(D-Ga)。

测试表明,对于皮肤较黑的人和女性,人脸识别通常不太准确。虽然对于整个国会来说,错误率是5.2%,但对于非白人的国会议员,错误率达到39%,有色人种被错误匹配的比例显著过高。

人脸技术“歧视”非裔?“误判”率竟高出白人5至10倍

此举引发了美国民众极其强烈的反对和民权倡导者的严重质疑,遭到亚马逊用户、民间组织、股东甚至亚马逊员工在内超过15万人联名抗议。其中,最强烈的质疑声音来自美国公民自由联盟(ACLU)。该组织警告称,无处不在的面部识别软件可能侵犯人们的隐私。

或许就是因为Rekognition遭到了强烈抗议,致使亚马逊放弃了人脸识别,转而开展“人手支付”项目,并于今年9月对外公开测试人手支付产品Orville。

非裔遭人脸识别“误判”率高出白人5至10倍

伴随着人脸技术的应用和各种质疑声,今年7月份,美国国家标准与技术研究所(National Institute of Standards and Technology,NIST) 又对人脸技术进行了测试,NIST用两张相同的面部照片去测试算法,结果表明,Idemia的算法错误匹配白人女性面孔的概率约为万分之一,而错误匹配黑人女性面孔的概率却为千分之一,概率增长了10倍之多。比起白人和黑人男性,系统更容易混淆黑人女性。

要知道,在人脸识别系统中,错误识别概率超过万分之一是一个评判标准。

Idemia是日益数字化时代增强身份识别领域的全球领导者,它的人脸识别软件已经在为美国、澳大利亚和法国的警方提供服务,该公司的人脸识别算法在业内属领先水平。

除了Idemia,NIST同样也对Cognitec算法做了测试(Cognitec是一家德国公司,和Idemia一样,为世界各国政府提供人脸识别服务),结果表明,对于女性和有色人种,这些算法的准确率可能会更低。在敏感阈值下,NIST测试的两种Cognitec算法误判黑人女性的概率大约是前者的五倍。

英国护照人脸识别系统现漏洞,

人脸技术引发隐私、种族歧视等舆论

今年10月,BBC又报道,英国内政部在试行护照人脸识别系统期间,系统在遇到面部较白或较暗的人士时系统就会出现无法识别的情况。前段时间,黑人体育教练Joshua Bada被检测系统拦截了,因为系统把他的嘴唇识别成了张开的嘴。而在2015年时,谷歌的一套人脸识别系统曾将一对黑人夫妇标记为大猩猩,为此谷歌不得不向当事人道歉。英国基尔大学的黑人技术官Cat Hallam也遇到过类似情况,她上传了一张表情正常的照片,但人脸识别系统告诉她,她的眼睛紧闭,嘴巴张开。Cat Hallam说:“最让人沮丧的是,他们明知道这个系统Bug,却照常在使用问题系统。”

英国平等与人权..发言人说:“种族不应该成为使用技术提供基本公共服务的障碍。尽管有证据表明面部识别系统对一些肤色的人脸具有识别障碍,但政府依然在推进这项技术的实施,这令我们感到非常失望。”

最先进的人脸技术依旧无法攻克深色皮肤面孔

目前,计算机视觉算法在人脸识别任务中可以说是达到了巅峰。

NIST去年表示,在2010年到2018年期间,算法在大型数据库精准识别人脸的能力提升了25倍,只有0.2%的概率会出现无法匹配人脸的情况。这将有助于推动在政府、商业或者手机等电子产品中的广泛使用。

但NIST的测试以及其它研究反复发现,算法在识别深色皮肤人脸方面的能力是较差的。特别值得注意的是,白人男性的错误匹配率通常比较低,而黑人女性的错误匹配率通常会比较高(该机构7月份的报告涵盖了50多家公司的代码测试)。

NIST的研究被认为是评估人脸识别算法的黄金标准。那些在人脸识别做的较好的公司将其成果在市场上进行..。

仙人掌FVR“一对一”精准识别,

优质服务与零漏洞社会治理的完美融合

既然人脸识别的先天致命缺陷无法克服,何不选择一条全新的技术路线?

由国家特聘专家领衔的世界顶级人工智能战略产业团队——麦仑Melux,就把目光聚焦到了“人手识别”技术上。通过FVR技术,把浩瀚的手掌脉络“微特征”,编码为高密度、高容量的超级“原生码”,具有超安全、超灵便、超易用、全龄段的显著优势,可完美替代码、卡、币、证。

与人脸技术不同,麦仑的FVR“人手技术”识别的是手掌内部的脉络微特征,这些脉络信息从不对外公开显示,任何人不可见,不能复制,不能伪造,不能盗用,更不会遗失,最大限度保障了用户的隐私安全。而且人手脉络差异化特征极其丰富,具有唯一性,即使同卵双胞胎的全脉特征也不一样,左右手的也不相同,仙人掌技术可以轻易区分世界上的任意两人。

人脸技术“歧视”非裔?“误判”率竟高出白人5至10倍

仙人掌FVR人手技术成功克服了人脸的人脸支付 CDPi问题:

1、Conflict 冲突:人脸的公共属性与保密性冲突;

2、Deep 深度:深度伪造、换脸技术,使人脸信息可靠性归零;

3、Passive 被动:用户不知情,能被隔空盗用。“被动”技术,巨大安全漏洞。

人脸技术“歧视”非裔?“误判”率竟高出白人5至10倍

在传统掌静脉识别技术超高精度、不易仿冒、活体检测、安全、易用等先天优势的基础上,麦仑还通过原创、独家技术突破,还实现了超高精度+1:百亿级大流量应用场景下的闪速识别,同时兼具“零介质”、“零漏洞”、“非接触式”的极佳用户体验。麦仑FVR是世界上第一个独立实现了实时、大流量身份认证的“无介质、零漏洞”原生码技术,独立支撑起了10亿级社会基础设施性的用户出入管理和支付应用需求,在轨道交通、地铁公交、机场海关、社保管理、活体证件、行政审批、安防系统、刷手支付和金融服务等领域有广阔的应用空间。

仙人掌“一对一”支撑的实名制、零漏洞技术,同时实现了优质的公共服务与零漏洞社会管理的完美融合,对于维护社会秩序、政府管理和社会稳定具有重要意义。

文章部分内容整理自:智东西、新智元、中管院数字经济中心

相关文章