旧金山,全球首个禁用人脸识别的城市

2019-05-17 11:42:13   编辑:bianji1   访问:

【内容导读】 虽然美国加州可以看做是人工智能时代科技进步的驱动引擎,但一项刚刚通过的条例却让其中一座大城市成为了全球首个禁用特定AI技术的地区。

虽然美国加州可以看做是人工智能时代科技进步的驱动引擎,但一项刚刚通过的条例却让其中一座大城市成为了全球首个禁用特定AI技术的地区。

据路透社、CNN等多家媒体报道,在本周二的一次投票中,旧金山城市监督委员会(Board of Supervisors) 的官员们以8票对1票的结果通过一项法令,禁止政府机构购买和使用人脸识别技术。此举旨在加强新技术的监管,并消除个人隐私泄露的隐患。

美国政府机构使用人脸识别技术的历史已有10年之久。目前,基于人工智能的计算机视觉技术可以帮助监管人员发现犯罪分子并防止身份欺诈,同时也可以帮助寻找失踪儿童或在移动人群中锁定抗议者。电商科技公司也正在使用这种技术实现刷脸购物,提升用户体验,他们的摄像头甚至可以探知消费者在观察商品时的表情。

尽管犯罪率高于美国平均水平,但旧金山市却在人们的关注下通过了禁用新技术监控的条例。若这一计划得以顺利执行,美国的其他城市、州可能会在未来进行跟进。目前两党议员普遍希望削弱政府监控力度,或限制商家使用摄像头监控消费者行为。

该禁令是旧金山城市监督委员会在周二颁布的《反监控条例》(Anti-surveillance Ordinance)的一部分。该条例禁止警察和其他政府机构使用人脸识别技术,由此可以激励其他当地政府采取类似措施。在监督委员会投票表决期间(共11名官员),8名官员表示支持该条例,1名表示反对,另外2名表示支持的官员缺席。

地处全球对科技包容性最高以及科技最为发达的区域,旧金山却成为了美国第一个禁止政府使用人脸识别技术的城市。

人脸识别系统在现实生活中的应用愈加广泛,从警察局到摇滚音乐会、家庭、商店和学校,到处都有它们的影子。通过将某些人的特征与一系列面孔进行比较(如面部照片),人脸识别系统能够在实时视频、录制的视频片段或静态照片中识别出他们。

旧金山市颁布的新条例决定禁止全市 53 个部门使用人脸识别技术,其中就包括旧金山警察局,该警局当前并没有使用此类人脸识别技术,但在2013-2017年间进行了相关技术测试。这项条例将于一个月后生效。但是,该条例为旧金山国际机场和旧金山港中由联邦政府控制的设施开了绿灯。

该条例并未禁止普通商家或居民使用人脸识别或监控技术(如监控摄像机)。此外,该条例也没有限制警察在刑事案件中使用个人的Nest camera监控视频。

旧金山监督委员会官员Aaron Peskin在今年提出了这项法案,他在投票前向CNN表示:「我们大家都会支持良好的治安管理,但谁都不想生活在处处受监控的环境中。」

该条例使人脸识别技术陷入更大的困境。虽然该技术的应用越来越普遍,但也受到了越来越多的质疑和审查。人们对此的担忧也越来越多,如该技术的部署、准确率甚至是用于训练这些系统的面孔来源等。

在旧金山,Peskin担心人脸识别技术「从根本上具有攻击性」,因而不应使用。他说道:「我认为旧金山有责任提出那些正对全世界产生影响且发生在人们身边的事情。」

早期人脸识别规则

近年来,得益于深度学习的普及,人脸识别技术取得了显著提升。典型的人脸识别系统对面部特征进行分析,之后与数据集中的标记面孔(labeled face)进行比较。但是,人工智能研究者以及美国民权联盟(American Civil Liberties Union)等民权组织尤为担忧人脸识别系统的准确率和其中存在的偏见。人们担心,这些人脸识别系统在正确识别有色人种和女性方面并没有那么有效。其中一个原因是用于训练软件的数据集可能更多地来自男性和白人。

在英伟达GPU技术大会上展示的执法人脸识别系统

ACLU是众多支持该条例的民权组织之一。该组织的技术和民权律师 Matt Cagle 表示,人脸识别系统引发的一系列问题意味着这项条例将避免人脸识别对社会成员造成的伤害。他还希望看到其他城市效仿旧金山的做法。

「通过这次表决,旧金山已经声明,人脸监控技术和健康的民主是不相容的,居民有权对高科技监控技术决策中发表看法……我们赞扬市政府听取了社区的意见,并在这一重要立法工作中发挥了带头作用。」

美国三月份颁布的一项法案规定,企业必须征得消费者同意才能收集和共享识别数据。但尽管如此,目前还未出现有关AI技术的通用联邦法律或专用人脸识别系统。

一些州和地方政府做出了自己的努力,如伊利诺斯州的一项法律规定企业在收集生物计量数据时必须征得用户同意;加州参议院正考虑推出一项法案,禁止警方使用带有人脸识别等生物计量技术的全身摄像头。仅在旧金山湾区,伯克利、奥克兰、帕洛阿尔托和圣克拉拉也通过了各自的监控技术相关法律。奥克兰最近也在考虑是否禁止使用人脸识别技术。

为什么旧金山的管控更加严格

根据旧金山新颁布的法律,任何想要使用监控技术或服务的城市部门(如警局想购买新的车牌读取器)都必须先征得城市监督委员会的许可。这一过程包括:提交技术及用途相关信息、在公开听证会上进行展示等。在这项新规定的制约下,已经使用监控技术的城市部门也需要向城市监督委员会备案,说明工具的用途。

在表决前的一份陈述中,旧金山警方表示:「我们正根据法律对相关技术和规定进行审查。」

当地居民:禁用或许不是最好的选择

一些当地居民,包括一些居民团体公开反对监控条例。Stop Crime SF (一个致力于预防犯罪的组织)主席Frank Noto表示,在表决之前,他的组织就对隐私和公民自由表示担忧,这可能促进了该条例的出台。但他们认为该条例存在很大缺陷,因为条例要求警局现有的监控技术也要获得许可。

条例通过后,Stop Crime SF 副主席 Joel Engardio 表示,总的来看,条例是「必需且有帮助的」,尽管还有改进的空间。

尽管 Stop Crime SF 看到了现有人脸识别技术的缺陷,但该组织也担心完全禁用人脸识别会衍生其它问题。他们相信,暂停使用该技术或许是一个更好的选择,这样技术改进之后还能重新启用。

选购指南:

森普智慧社区森普智慧党建森普智慧街道森普智慧网格森普智慧纪检森普智慧党群森普智慧园区森普智慧招商

公司名 称:山东森普信息技术有限公司

公司网 址:http://www.simpro.cn

业务QQ:176099777

微信公共平台:simprosoft

联系电话:400-677-0389

联系人:王经理