作者:蒙光伟
来源:千家网
IBM 宣布,随着人们对人脸识别技术的影响越来越关注,他们将不再开发相关人脸识别技术与功能。
在给国会的一封信中,IBM 首席执行官 Arvind Krishna 写道:
“基于价值观和信任与透明度原则。IBM 坚决反对并且不会容忍将任何 [面部识别] 技术 (包括其他供应商提供的面部识别技术) 用于大规模监视、种族歧视、侵犯基本人权和自由或与我们的目的不符的任何目的。
我们认为现在是时候开始关于国内执法机构是否应该使用面部识别技术以及如何使用面部识别技术的全国性对话。”
当前,已经发现面部识别技术具有种族偏见。 NIST 和德克萨斯大学达拉斯分校的研究人员在 2010 年进行的一项研究发现,在东亚设计和测试的算法在识别东亚人方面更好,而在西方国家设计的算法在发现高加索人方面更准确。
美国公民自由联盟的研究发现,当使用亚马逊的面部识别工具将众议院和参议院所有成员的照片与 25000 张逮捕照片进行比较时,匹配对国会黑人核心小组成员的影响不成比例。
上个月,美国公民自由联盟 (ACLU) 对备受争议的面部识别公司 Clearview AI 提起诉讼,称其为隐私的 “噩梦”。该公司与极右翼有广泛的联系,由于其从互联网上抓取数十亿张照片的做法,屡屡遭到抨击。
在英国,平等与人权委员会 (EHRC) 呼吁在试验完全失败之后,停止公开使用面部识别。大都会警察在 2016 年的诺丁山狂欢节上进行了初步审判,结果没有发现一个人。次年的后续试验未导致合法比赛,但有 35 次误报。
Peter Fussey 教授和 Daragh Murray 博士去年就大都会警察的面部识别试验发表了一份独立报告,得出的结论是,仅在 19% 的案件中,报告是可验证的。
IBM 已明确表示,它与开发任何可用于大规模监视的技术无关,尤其是当它继续存在严重的准确性问题 (可能导致自动种族特征分析) 时。克里希纳呼吁进行更广泛的政策改革,包括维持治安、负责任地使用技术以及扩大技能和教育机会。