据雅虎新闻网、商业内幕杂志、每日电讯报等报道，继“蓝色巨人”IBM高调宣布不再提供任何人脸识别服务和人脸分析软件、不会继续研发相关技术、正式退出市场之后，亚马逊公司周三也宣布，将暂停警方使用其人脸识别技术一年。
▲黑人弗洛伊德之死引发美国民众对人脸识别系统的关注
在科技巨头争相拥抱新的技术、抢占AI高地的大潮下，居然有人主动放弃，实在是在点反常。是什么迫使IBM、亚马逊做出这样的决定，人脸识别技术有何原罪？
IBM、亚马逊对人脸识别说“不”
据报道，IBM的这一决定来自于 IBM CEO Arind Krishna 提交给几位美国参议员和众议员的一封信。
从信中的内容来看，放弃人脸识别业务的举动，是IBM因黑人弗洛伊德之死，抗议种族主义的种种举措的其中之一。
而亚马逊2019年曾让股东就面部识别技术进行投票，其中有部分股东出于公民权和隐私权的担忧，认为应该禁止将面部识别技术出售给政府机构。
但实际上，IBM和亚马逊的决定，是对美国社会普遍反对人脸识别的情绪的一种迎合，也是一种政治正确。
▲2018年10月31日，示威者将亚马逊首席执行官贝佐斯的照片贴在脸上，抗议其人脸识别系统。
人脸识别在美成众矢之的
具体来说，黑人弗洛伊德之死，让美国社会继续反思警察执法问题，并由此引申到警察在执法中所采用的技术——其中最被严重诟病的，就是人脸识别。
人脸识别首次因为“种族歧视”问题被关注是在2018年，彼时人们利用亚马逊人脸识别系统对535位美国国会议员的照片进行识别。结果令人惊讶，有28位国会议员的识别结果为“罪犯”，这28人中包括11名有色人种。2018 年Joy Buolamwini和Timnit Gebru的研究首次揭示了商业人脸识别系统（包括 IBM 的）的缺陷：人脸识别针对黑人、女性的错误率高达 21%-35%，而针对白人、男性的错误率则低于 1%。
2015 年一位软件工程师报告称，Google Photo 的图像分类算法将非裔美国人分类为“大猩猩”。
种族歧视之外，“隐私安全”也是人们不待见人脸识别技术的主要原因之一。在过去的两年多时间内，包括亚马逊、微软、谷歌等在内，均被曝出与政府之间存在“人脸识别”技术相关的项目合作，由此引发了人们对“军事与工业结合体”的担忧。
在一些民众看来，军事和工业结合体会被作为不正当杀人利器，以及这次合作背后可能引发的机器学习发展与道德问题，譬如打破隐私及实用性之间的平衡。
美多个地方公共部门已禁用人脸识别技术
早在2018年，微软总裁 Brad Smith就提议，人们应当把面部识别结果定为“高风险场景”，特别是那些最终可能被用来限制人类行动的应用。使用面部识别的组织应当遵守关于性别、人种和种族的反歧视法案，而且应当对其 AI 限制实现“透明”公开。
“技术可能会带来一种新的大规模监视。这种监视可能被州政府和国家政府用来监视任何地方的每个人。”Smith 强调表示，“如果我们不谨慎考虑这些问题，那么 2024 年的我们就将面临《1984》书中描述的那种生活。”
多年来，美国民众反对人脸识别的呼声也得到一些回应。据了解，在美国多个城市包括旧金山市在内，已经有多个地方公共部门禁用了人脸识别技术。
事实上，就算人脸识别的偏见完全解决，面部识别系统能对所有人做出公平的决策，我们也面临着可能的错误带来的风险。所有工具都可以为善，也可以为恶。工具越强大，它带来的好处或伤害就越大……
上游新闻 毛丹 编译
【免责声明】上游新闻客户端未标有“来源：上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题，请与上游新闻联系。
