AI 认定他在千里之外作了案,送进监狱关了 7 天
- 量子位
2023-01-10 19:29
只是因为被 AI 识别成盗窃犯,他就被警察送进监狱。
即便他从未去过案发现场,即便那个地方距他居所将近 1000 公里。
更离谱的是,据律师透露的消息,他还比监控录像中的罪犯轻了 40 磅(36 斤)!
即便如此,执法部门还是对他进行了逮捕,让他在监狱一个星期。
有相关顾问表示:这项技术已导致至少三起错误逮捕。
将面部识别当做逮捕嫌疑人的唯一理由,是一种不断增长的趋势。
靠算法来抓人
28 岁住在佐治亚州迪卡尔布县的里德,正驱车前往与母亲的感恩节后期庆祝活动。
他怎么也没料到,自己会在中途被路边的警察拦住,随后告知他有一张路易斯安那州“盗窃罪”的逮捕令。
要知道,他所在地距离犯罪现场,有三个州和 7 个小时路程。
我不仅没有去过路易斯安那州,我也不偷东西。
当时他辩解道,但始终也无济于事,警方依旧将他接走了。
6 个月前,路易斯安那州新奥尔良郊区的一家商店,三名男子在三天内通过假信用卡偷走了超过 10000 美元的香奈儿和路易威登皮包。
随后警局的人利用人脸识别算法判断,里德正是其中一名黑人男子。此外,他们还对另一位 21 岁的新奥尔良男子申请了逮捕令,但尚不清楚是否已经被捕。
而被误捕的里德在监狱里不吃饭不睡觉,就坐在监狱里,担心自己会失去运输分析员的工作,并为这个没有犯下的罪行被判重罪。
据他本人描述:他们甚至没有试图做出正确的鉴定。比如检查他的身高体重、交谈以及去他所在地寻找证据等等。
事实上,与监控录像的犯罪嫌疑人相比,里德有诸多不同之处,尤其是脸上的痣。律师认为因为这些差异促使了警方撤销了逮捕令。
里德于 11 月 25 日作为逃犯被关进德卡布县监狱,一周时间过去 12 月 1 日被释放。
目前警方以正在进行调查为由,拒绝对里德的逮捕和释放做出任何回应。
有媒体认为,这也暴露出了背后的技术隐患,尤其是对于特定人群的识别率,比如黑人和妇女的匹配率较低。
至少三起错误逮捕
仅靠一张人脸,就判断犯罪嫌疑人。这已经算不上新鲜事儿了。
在里德之前,过往已知案件中至少已经出现三位因面部识别而被错误逮捕的黑人。
最典型的一个例子,就是 2019 年新泽西州汉普顿酒店的一个偷窃案。
嫌疑人在礼品店偷了糖果和其他零食,随后还用汽车撞警察,最终成功逃逸。
结果远在 48 公里外的 Nijeer Parks 被逮捕了。他甚至都不会开车,去警局也是别人开车送的。
警察没有验指纹、没测 DNA、仅靠人脸识别系统,就让 Parks 在监狱呆了 10 天,还支付了大约 5000 美元为自己辩护。2019 年 11 月,此案因证据不足被驳回。
如今又出现类似的案件,关于人脸识别技术隐患的讨论再次搬到了台前。
据了解,目前已经有诸多执法机构已经暂定使用人脸识别软件。但不可否认的是,它所带来的便利性。
此次有地方警方认为,面部识别只能用于提供线索。而且警官在提出面部识别请求前,必须得到领导批准。
2021 年美国国家标准和技术研究所一项研究发现,所有顶级算法第一次出现在摄像头前时,99% 以上都能识别系统中带有照片的乘客。不过研究也发现,不同种族和性别之间仍然存在偏见。
参考链接:
[1]https://gizmodo.com/facial-recognition-randall-reid-black-man-error-jail-1849944231
[2]https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html
[3]https://www.nola.com/news/crime_police/jpso-used-facial-recognition-to-arrest-a-man-it-was-wrong/article_0818361a-8886-11ed-8119-93b98ecccc8d.html
本文来自微信公众号:量子位 (ID:QbitAI),作者:白交
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。