媒体报道

纽约市警察局使用了一款颇具争议的面部识别工具

2021-04-23 09:56:57 吉布斯科技 1

人脸识别


最新公开的电子邮件显示,纽约警方一直在广泛使用备受争议的 Clearview AI 面部识别系统——并对其做出了误导性陈述。


对于 Clearview AI 公司来说,这是忙碌的一周,这家饱受争议的面部识别公司利用从网络上搜刮来的 30 亿张照片驱动一个人脸搜索引擎。4 月 6 日,Buzzfeed 新闻公布了一个数据库,它指出有超过 1800 个实体——包括州和地方警察,以及其他纳税人资助的机构,如医疗保健系统和公立学校——使用了该公司极具争议的产品。其中许多机构对这些指控的回应是,他们只是试用了该技术,并没有与该公司签订正式合同。 


但就在前一天,非盈利性新闻网站 Muckrock 公布了纽约警察局和 Clearview 公司之间的电子邮件,邮件对 Clearview 公司的“试用”进行了详细的定义。这些文件是通过法律援助协会 (Legal Aid Society) 和记者雷切尔·理查兹 (Rachel Richards) 通过信息自由申请获得的,记录了纽约警察局与这家科技公司之间长达两年的友好关系。在此期间,纽约警察局多次试用这项技术,并在现场调查中使用了面部识别功能。


纽约市警察局此前一直淡化其与 Clearview AI 公司的关系和其对该公司技术的使用。但这些电子邮件表明,他们之间的关系甚好,多数警察利用这款应用进行了大量搜索,并将其使用在实际调查中。据悉纽约警察局已经利用 Clearview AI 进行了超过 5100 次搜索。


最大的问题是,既定的政策限制纽约警察局创建一个无人监督的照片库供面部识别系统参考,并限制只有特定的团队才能使用面部识别技术。而这两项政策似乎都被 Clearview AI 规避了。邮件显示,纽约警察局给了面部识别小组以外的许多警员访问该系统的权限,该系统依赖于社交媒体上大量的公开照片。邮件还显示,纽约警方是如何违反既定政策,将该应用下载到他们的个人设备上,并随意地使用这种强大但颇具争议的技术的。


Clearview AI 运行着一个强大的神经网络,它可以处理人脸照片,并将人脸的精确测量和对称性与图片数据库中的海量图片进行比对,以给出可能的匹配对象。目前还不清楚这项技术的准确度到底有多高,但它已被警察部门和其他政府机构广泛使用。Clearview AI 因其使用个人身份信息、未经用户允许从互联网上搜刮照片侵犯用户隐私,以及向警方等机构提供服务而饱受诟病。


这些邮件的时间跨度从 2018 年 10 月到 2020 年 2 月,从 Clearview AI 首席执行官霍安·顿 (Hoan Ton-That) 被介绍给纽约警察局副督察克里斯·弗拉纳根 (Chris Flanagan) 开始。首次会面后, Clearview AI 于 2018 年 12 月与纽约市警察局签订了一份供应商合同,试用期一直持续到次年 3 月。 


文件显示,纽约市警察局的许多警员在此期间和之后都可以使用 Clearview,其中包括部门领导还有下级官员。在整个交易过程中Clearview AI  鼓励更多人使用其服务。( “看看你是否能达到 100 次搜索,”其入职说明这样敦促警员们。)这些电子邮件显示,纽约警察局的试用账户最早在 2020 年 2 月创建,这比据说的试用期结束几乎晚了一年。


我们查看了这些邮件,并与顶级监控和法律专家们讨论了邮件内容。以下是你需要知道的内容。


纽约警察局谎报了它与 Clearview AI 的关系和其面部识别技术的使用情况人脸识别


纽约警察局此前曾告诉 BuzzFeed 新闻和《纽约邮报》,它与 Clearview AI  “没有任何正式或非正式的机构关系”。纽约警察局透漏称他们确实是试用过 Clearview AI ,但电子邮件显示,大量人员在一段持续时间内使用了该技术,并在实际调查中完成了大量搜索。


在一次交流中,一名在警局面部识别部门工作的警员称,“这款应用程序的效果很好。”在另一份交流中,纽约市警察局身份盗窃小组的一名警官表示,“我们继续得到良好的效果”,“继续进行逮捕行动”。(我们已经从这些图像中删除了全名和电子邮件地址;其他个人信息在原始文件中也被删减了。)


人脸识别


人脸识别

图 | 邮件显示,大量人员在一段持续时间内使用了该技术


阿尔伯特·福克斯·卡恩 (Albert Fox Cahn) 是监控技术监督项目 (Surveillance Technology Oversight Project) 的执行董事,该项目是一个非盈利组织,倡导纽约市禁止警察使用面部识别技术。卡恩表示,这些记录显然与纽约市警察局此前关于使用 Clearview AI 的公开声明相矛盾。


他说:“在这里,官员们不是在几周或几个月内获得 Clearview 账户,而是在几年内获得。” “我们有证据表明我们与纽约警察局的最高层官员进行了会面,包括面部识别科。这可不是几个警官决定去弄一个试用帐户的事,这是对 Clearview 面部识别技术的系统性采用,目的是针对纽约人。”


此外,根据最近通过的一项法律,纽约警察局对其面部识别功能的描述称,“调查人员将调查过程中获得的探测图像与纽约警察局已经掌握的有限照片进行了比对。” Clearview AI 以其从网络上搜刮来的超过 30 亿张照片组成的庞大数据库而闻名。 


纽约警察局正与移民执法部门密切合作,警官将 Clearview AI 转介给了移民与海关执法局 (ICE)人脸识别


文件中包含了多封来自纽约警察局的电子邮件,这些电子邮件似乎是为了帮助  Clearview 将其技术出售给国土安全部。两名警察的电子邮件签名中都与纽约市警察局和国土安全部有着千丝万缕的关系,而另一名警察则被确认为国土安全部特遣部队的成员。


纽约被指定为庇护城市,这意味着当地执法部门限制了它与联邦移民机构的合作。事实上,纽约市警方的面部识别政策声明中指出,“不会为进一步推进移民执法而共享信息,也不会为了进一步推进移民执法而让其他机构进入该系统。” 


“似乎有太多交流,或许还有数据共享,以及太多不受监管的技术使用。”


电子前沿基金会 (Electronic Frontier Foundation) 分析师马修·瓜里利亚 (Matthew Guariglia) 表示:“我认为,其中一个较大收获是得知地方警察、联邦执法部门和移民执法部门之间的互动、监控和数据共享是多么的无法无天、不受监管。似乎有太多的交流,或许还有数据共享,以及太多不受监管的技术使用。”


卡恩说,这些电子邮件立即敲响了警钟,特别是因为大量执法信息是通过被称为“融合中心”的中央系统汇集的。


“你可以随心所欲地宣称自己是一座庇护城市,但只要你继续拥有这些国土安全部特别工作组,只要你继续拥有能够与国土安全部进行实时数据交换的信息融合中心,你就会让这个承诺变成一个谎言。”


许多官员被要求通过个人设备或个人电子邮件账户使用 Clearview AI 人脸识别


至少有四名警官被要求通过个人设备或私人邮件访问 Clearview 的应用程序。警察局的设备受到严格监管,而且很难将应用程序下载到纽约警察局的官方手机上。当部门电话限制太大时,一些警官显然会选择使用个人设备。


人脸识别

图 |  Clearview 回复了这封邮件:“你好威廉,你应该很快就会收到一封启用邮件。”

 

乔纳森·麦考伊 (Jonathan McCoy) 是法律援助协会,Legal Aid Society 0 的数字取证律师,他参与提交了信息自由申请。他发现使用个人设备特别麻烦:“我的观点是他们正积极地试图规避纽约市警察局的政策和程序如果你要使用面部识别技术,就必须通过 FIS( 面部识别科 ),他们必须使用已经被纽约市警察局批准的技术。”纽约警察局确实已经有了一套面部识别系统,由一家名为 Dataworks 的公司提供。


瓜里利亚表示,这表明了纽约警察局和 ClearviewAI 的粗心大意。他说:“如果得知警察在他们的个人设备上使用 Clearview 来帮助识别逃犯或帮助纽约警察局进行正式调查的话,我会感到十分震惊。”


这些电子邮件引发的担忧不仅仅是理论上的:它们可能会让警方在法庭上受到质疑,甚至会因为未能遵守程序而而导致案件被推翻。麦考伊表示,法律援助协会计划利用电子邮件中的证据为那些因使用面部识别技术进行调查而被捕的客户辩护。


他说:“我们有望在法庭上说,通过使用该软件获得的任何定罪,都是以不符合纽约警察局政策和程序的方式进行的。我们还可以辩称,由于 Clearview 是一种未经测试且不可靠的技术,使用这种技术损害了我们客户的权利。”


-End-

翻译:李美琪

原文:

https://www.technologyreview.com/2021/04/09/1022240/clearview-ai-nypd-emails/


人脸识别

首页
产品
新闻
联系