微信号:ai-front

介绍:面向AI爱好者、开发者和科学家,提供最新最全AI领域技术资讯、一线业界实践案例、搜罗整理业界技术分享干货、最新AI论文解读。每周一节技术分享公开课,助力你全面拥抱人工智能技术。

万人上书亚马逊,反对向警方出售人脸识别技术

2018-05-27 15:35 Debra
策划编辑 | Debra
作者 | Debra
编辑 | Natalie
AI 前线导读:近日,二十多家机构联名向亚马逊 CEO 贝索斯上书,抗议该公司将人脸识别技术出售给警方的事件炒得沸沸扬扬,引发了新一轮关于技术、隐私与管理者关系的大讨论,执法机关滥用信息与用户隐私之间的矛盾愈演愈烈。人们之所以如此愤怒的原因在于,人脸识别技术在执法部门的使用权限和用途并没有明确的法律规定,毫不讽刺地说,执法的警察本身就是在做一件无法可依的事。

大数据时代,当隐私保护成为一个比解开毕达哥拉斯定理更困难的事时,我们除了无奈郁闷骂几声之外,还能怎么做?

更多优质内容请关注微信公众号“AI 前线”,(ID:ai-front)
亚马逊向警方出售人脸识别技术遭抗议

为人们所熟知的亚马逊是那个自称可以在这里“买到一切”的网上商城,但最近,人们了解到这家公司还有另外一些很少有人知道的商品——警方花钱从亚马逊买进人脸识别技术 Rekognition,可以实时从数百万张人脸中识别出警方在寻找的人。

早在 2012 年,Rekognition 就由中国留学生王盟和刘天强创立的 Orbeus 公司开发推出,后来被亚马逊收购,成立了日后的 Amazon Rekognition team。可能是因为美国的隐私政策限制,这项技术并没有被美国警察部门大规模使用。

事实上,亚马逊并不是唯一一家提供类似“公共场所服务”的公司,位于马萨诸塞州的 MorphoTrust 就被曝光向 FBI 和其他执法部门提供人脸识别技术。底特律也向 Data Works Plus 购买类似的技术,以在加油站录像中识别暴力犯罪人员。但为什么亚马逊会成为声讨的对象呢?因为亚马逊是第一家向执法部门提供人脸识别技术的大公司。

在 ACLU(美国公民自由协会,American Civil Liberties Union,现有会员超过50万)曝光了这桩买卖之后,包括 ACLU 在内的二十多家非盈利性组织即向亚马逊 CEO 杰夫·贝索斯上书,要求他停止向警察销售此系统。这封信中说,该技术将不可避免被当局滥用,并指控亚马逊提供“强大的监控系统会违反人权,对社区形成巨大威胁,包括有色人种和移民。警方可能会利用其追踪抗议者或其他被警方列为嫌疑人的目标,而不仅仅是罪犯”。

联名信原文链接:

https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf

亚马逊回应:并未向警方提供特殊服务

据《纽约时报》报道,这项技术上线一周后即显神效,抓到了一个从商店偷盗 5000 美元的小偷,而且这个系统成本很低,花费 400 美元搭建之后每月只用花几美元进行维护。

对于来势汹汹的声讨,亚马逊作出了略显鸡肋的回应:

亚马逊所有的顾客都需要遵守法律规定并负责任。亚马逊并没有向执法部门提供任何有区别于其他客户的服务。

在一份声明中,亚马逊一位发言人强调该公司向大众提供的这种“通用”的图像识别技术可以自动识别人、物体和活动,机构采用该技术寻找丢失儿童、识别婚宴来宾等。


亚马逊官方还在此前上传至 YouTube 的一则亚马逊 Rekognition 总经理讲解这一服务的视频评论区发出声明,称该 GM 的讲解有误,奥兰多警方只是在进行该服务的内部测试,并没有在全城安装摄像头或使用该产品,并为此造成的误解向公众道歉。

警方使用人脸识别技术到底哪里不对了?
没有监管的法外之地

执法机关与人脸识别的“媾合”:你能想象执法机关把你当成潜在罪犯,每天早上出门上班开始你的脸就被瞄准框锁定,监视你的一举一动吗?

这次的争议引发了一个质疑:警方使用人脸识别技术有什么法律规定进行监管和约束吗?我们得到的答案是:几乎没有

在美国,联邦和州政府通常被授予行使从公共摄像头手机的人脸信息中搜索视频和图像的权利。城市和当地部门可以制定本地政策和指导方针,但是早期的人脸识别技术采用部门并没有系统制定的规则。

ACLU 公布的文件显示,亚马逊和奥兰多和佛罗里达合作,构建了一个用八台公共摄像头捕捉警方“感兴趣目标”的系统。当被问到该系统运行是否遵有法可依时,一位发言人称,“由于这是个试点项目,目前还未制定相关政策”。据公开的文件显示,奥兰多警察局长称该系统使用之前曾经过测试,证明该系统可以提高公众安全,并提高执法效率。但奥兰多一位发言人称,这只是早期的测试,他们并没有数据证明该系统确实有效,并称还未用于调查和从公共场合取像。

文件还显示,警局工作人员中其实有人对将市民人脸图像存放在亚马逊云中的做法存疑,这一行为被视为“政府与大数据的媾合”。

“在美国的宪法中没有提及大数据,但也没有对人脸识别提供庇护,”亚利桑那大学的法学教授 Jane Bambauer 说道。“州法律同样也没有关于警方使用人脸识别的规定。”

对此,ACLU 科技与公民自由主任 Nicole Ozer 称,目前只能寄希望于向亚马逊、执法部门和当地社区施压,制定自己的规则。“出台法律的速度太慢了,赶不上形势的需求。”

电子前线基金会的高级律师 Jennifer Lynch 称,“这是一个科技走在法律之外的典型例子,根本没有监管存在。”

识别准确率不够,有色人种识别更差

也许有一天一位黑人朋友在大街上悠闲地嗦着冰淇淋,就被一群警察带走了,然后他们发现,搞错了...

警方使用人脸识别技术另一个让人担忧的原因是,识别准确率并没有想象中高,并不是在所有执法情境中都好用。据 FBI 2017 年公布的资料显示,该机构使用算法从大数据中挑选的 50 多个最接近“嫌疑目标”的识别率为 85%,去年英国南威尔士警方在一次足球比赛中的识别准确率更惨,只有 8%。

在性别和种族识别上,这项技术也并不完美。麻省理工学院的一份调查显示,黑皮肤的女性被人脸识别软件错误识别的几率高达 35%。

有人认为,警方应该公布人脸识别系统的具体数据,包括在不同种族人身上识别的表现,并认为警方现在对人脸识别的无依据使用不会持续太久。

无处不在的监控,真实的《楚门的世界》

想想著名的“魔鬼鱼”事件吧。在美国,联邦和州的执法机构使用一种俗称为“魔鬼鱼”的设备大量获取用户信息。这种强大的监控工具通过模拟手机讯号侵入不知情的公民的手机,借此追踪这些手机的地理位置,甚至截取手机用户的通信内容。如此堂而皇之地窃取用户信息,这个前车之鉴让人不免担心人脸识别技术避免不了被滥用的命运,在这种技术以合法的面目公然出现在大街小巷时,所有的人都将活在警察局的监视器中,无处躲藏,俨然将上演真实版的《楚门的世界》。

人脸识别技术的忠实粉丝将之视为抓捕罪犯的强有力武器,但是不看好它的人却嗅到了大规模监控带来的隐忧。据乔治敦大学法学院隐私和技术中心数据显示,在美国,面部识别技术不仅将罪犯列为识别对象,超过 1.3 亿美国成年人都在犯罪搜索数据库中。

当人脸识别与政府“媾合”时,无人可逃。

在美国,竞赛场上会用人脸识别揪出赛事中闹事的人,国安局用它来识别在机场逗留过久的外国游客。

美国可能离国人有点远,那近一点看看国内,其实人脸识别的普遍程度远超我们的想象。

商店里装有识别顾客的智能摄像头。

人脸识别中国式过马路,可谓是声名远播四海。

灵隐寺、天坛试点刷脸取厕纸。

政府机构在街道、地铁站、机场、海关安装智能人脸识别摄像头。

不知道上面那位对着机器刷脸取厕纸的妹子当时是什么心情,看起来好像对这个东西挺新奇的,也许是如厕事大,她并没有选择... 但新奇感过后,这件事却让人惊出一层冷汗:当我们做其他的事情也被迫要交出自己的个人信息时,比如抬头可见的监控天网呢,你会选择沉默吗?还是会尝试争取一下自己的利益(虽然很难)?这并不是空穴来风的焦虑,而是大数据时代日益严峻的隐私保护问题。

以上惊悚的事情不只发生在《楚门的世界》,现实生活中已经在不断上演,也许不久的将来,也许现在,你就正在被政府的无数双“眼睛”盯着。是不是听起来毛骨悚然?但这并不夸张。

国人的隐私观和现状

这还不是最让人窒息的,因为作为国情特殊的大国,我国人民向来享受着来自政府部门的“特别关爱”,在隐私这一问题上也不例外,还曾无奈地“被认为不重要”。比如亚马逊这次和执法部门的合作有人觉得不合理就去抗议,虽然还不知道亚马逊会采取什么具体应对措施,会不会迫于压力终止这次合作,但起码这家巨头迅速做出了回应,并向公众道歉。换成在国内,或许连一点浪花都掀不动。

关于中国人对于隐私的看法,相信大多数人的观点都是一样的:隐私被侵犯了,生气,但是除了生气还能怎么办?

以上是网友关于亚马逊与警方合作的观点,归结下来大概分为两大类:

  • 感叹国内与国外隐私保护差距的

  • 大数据时代没有隐私可言,自由与安全不可兼得

这些评论虽然并不能概括出国人对于隐私的重视程度几何,但多少能反映出人们普遍存在的心理。

总而言之,中国是目前人脸识别技术政府部门采用最广泛的国家之一,将来会迎来更多关于隐私的问题和讨论,愤怒没有用,我们应该做的,是如何在这种已然形成的大环境下尽量地保留最后的尊严。


今日 AI 前线福利:吴恩达新书《机器学习训练秘籍》已更新至第 32 章,公众号后台回复“吴恩达”即可下载所有章节合集!

今日荐文

点击下方图片即可阅读

Flink1.5重磅发布:处理模型重构,延迟更低!


活动推荐

Google 如何选用育留?苏宁 IT 副总裁如何做决策?美团高速成长的秘诀?……继 QCon、AS 等“技术硬实力”大会后,InfoQ 又策划了 GTLC 全球技术领导力峰会。GTLC 将于 6 月 8-9 日在北京千禧大酒店举办,邀请了程浩、乔新亮、梁宁、熊飞、张溪梦等 30+ 位行业大咖共享 10+ 年技术管理经验,旨在为 CTO、技术 VP、技术团队 Leader、技术项目负责人等对领导力感兴趣的技术人提供一个学习交流、提升视野与拓展人脉的平台。

点击「阅读原文」或识别图中二维码了解话题详情,大会倒计时 16 天,使用折扣码“AIFRONT”专享 8 折优惠。有任何问题欢迎咨询票务经理 Joy,电话:13269078023(同微信)


AI前线
紧跟前沿的AI技术社群

如果你希望看到更多类似的优质内容,记得点个赞再走!

┏(^0^)┛明天见!


 
AI前线 更多文章 亚马逊Alexa被曝偷听用户对话并随机分享,你的智能音箱真的安全吗? Flink 1.5重磅发布:处理模型重构,延迟更低! 英特尔发布新版AI云芯片,剑锋直指英伟达! 阿里AI收银员上岗,49秒接单30多杯咖啡,人类又输了? 微软谷歌再曝CPU新漏洞,Intel、AMD、Arm全部遭殃
猜您喜欢 IBM的蓝色蔓延式创新,用Bluemix“混搭”出个云生态 地球人主要看气质,三体人看啥? 加载动画 深入探讨 JavaScript 中的错误对象和堆栈追踪 如何开始写一本属于自己的技术书