微信号:ai-front

介绍:面向AI爱好者、开发者和科学家,提供最新最全AI领域技术资讯、一线业界实践案例、搜罗整理业界技术分享干货、最新AI论文解读。每周一节技术分享公开课,助力你全面拥抱人工智能技术。

与世界为敌:五角大楼坚持研发意念武器!

2018-07-19 17:40 AI前线小组
策划编辑 | Natalie
编译 | Debra,Vincent
编辑 | Vincent
AI 前线导读:美国时间 7 月 18 日,SpaceX 和特斯拉首席执行官 Elon Musk,Skype 创始人 Jaan Tallinn,谷歌 DeepMind 子公司的三位联合创始人,以及生命未来研究院院长 Max Tegmark,  在本周在瑞典斯德哥尔摩举行的 2018 年国际人工智能联合会议(IJCAI)上联名,抗议 AI 武器的研究,并承诺“不参与或支持自主武器的开发、制造、贸易或使用。”然而,就在一天以前,美国防高级研究计划局(简称:DARPA)宣布将研发意念控制技术,让人能够与武器互动。

更多干货内容请关注微信公众号“AI 前线”,(ID:ai-front)
五角大楼一意孤行,制造意念武器

当地时间 7 月 17 日,国防高级研究计划局(以下称:DARPA)对外宣称正在选择团队开发一种“神经接口(neural interface)”,既允许军队使用他们的脑波连接军事系统,又让这些系统将信息直接传回给使用者的大脑。如果你看过《环太平洋》的话,那你一定对这种“意念控制”的操作不陌生。

该机构表示,“下一代非侵入性神经技术”(Next-Generation Nonsurgical Neurotechnology,简称 N3) 计划,旨在将人类的适应复杂情况的能力与计算机的速度和处理能力相结合。换句话说,该技术可以让人们控制、感受和与远程机器交互,就像是自己身体的一部分一样。

DARPA 生物技术办公室项目经理艾·厄蒙迪(Al Emondi)指出,这种神经接口可以用来帮助飞行员用他们的意念来控制一群无人机,或者让战斗员用他们的大脑运动信号来控制一台远程部署的机器人。他还说,网络安全专家甚至可以连接到该系统,用他们的身体来监控计算机网络的不同部分。

根据这种神经界面的不同设计,当网络攻击发生时,专家可能会“听到”,也可能其与网络相对应的身体部分“感觉到”。厄蒙迪表示,刺激不同的神经元会在体内产生不同的感觉,参与该项目的团队必须决定他们的设备如何将信号传回大脑。

鉴于这项技术具有强烈的个人性质,DARPA 要求设计必须符合多项健康和安全要求,并解决任何潜在的网络安全问题。如今,该项目最大的伦理问题是其测试的安全性和风险,厄蒙迪称:“如果 N3 成功了,我预计,我们可能会面临与代理、自动化以及沟通体验相关的问题。”

厄蒙迪指出:“我们不认为 N3 技术仅仅是一种驾驶飞机或与计算机对话的新方式,而是认为它是真正的人机合作的工具。随着未来越来越多的自动化系统将在军事行动中发挥更大作用,神经界面技术可以帮助作战人员与这些系统建立更直观的互动。”

可以毫不夸张地说,如果这项技术真的实现了,那么美军将来冲上战场的有可能就都是机器人了,战争对于他们来说,大概就象电子游戏那么简单了吧。不过,对于其它国家来说,这可不是什么好事儿。

科技大佬联名,承诺不开发“杀人 AI”

与此同时,SpaceX 和特斯拉 CEO 埃隆·马斯克,Skype 创始人 Jaan Tallinn,谷歌 DeepMind 的三名创始人,以及生命未来研究所主席 Max Tegmark,在本周瑞典斯德哥尔摩举行的 2018 IJCAI 会议上联名签署公开信,抵制研发杀人机器人。

除了他们,还有来自 90 个国家 160 家公司的 2400 名高管、研究者和学者签署了请求信,约定“禁止参与或支持自动化武器的研发、制造、交易或使用”,并警告自动化武器将加剧所有国家和个人的动荡不安。

“数千名 AI 研究者一致同意,致命的自动化武器将会成为暴力和镇压的有力帮凶,尤其是用于监控和数据系统时,”他们写道。“绝不能把人的生命权交给机器。”

联名信还要求政府先发制人,禁止自动化武器。

“我很高兴看到 AI 领导者们将讨论化作行动,实施了政治家很久都未能有效推行的政策,” Tegmark 在一份声明中说道。“如果我们能阻止 AI 滥用,其对世界有益的潜力是巨大的。能够决定取走人生命的自动化武器应该和生化武器一样遭人唾弃,因此应该被同理对待。”

这只是大规模号召 AI 监管的最近一次行动。

4 月,来自 AI 和机器人影响中心的数名研究人员和工程师发表公开信,号召抵制韩国科学技术高级研究院(KAIST),控诉其与 Hanwha Systems 签署的军事系统研发合作。2017 年 11 月,超过 300 名加拿大和澳大利亚科学家分别向总理 Justin Trudeau 和 Malcom Turnbell 递交公开信,要求禁止自动化武器。2015 年,马斯克、斯蒂芬·霍金、Steve Wozniak 等数百名科技领袖在未来生命研究所的论文签名,支持自动化武器立法。

然而迄今为止,政府对这些请求都视而不见。过去一年,印度、智利、以色列、中国、俄罗斯等国家继续研发自动化坦克、飞机、侦察机器人、导弹系统、无人机等项目。在美国,五角大楼和国安局等联邦政府部门正在进行机器学习现代化。(五角大楼的《战争法手册》为军事部门使用自动化系统做了背书)

私人企业一定程度上遇到了一些麻烦。例如,谷歌迫于员工和大众的压力,于 6 月份发布 AI 道德准则,并取消了与五角大楼颇具争议的 Project Moven 合作。微软也终止了与 ICE 的合作,并创建了内部咨询委员会—— the Aether Committee,以监督人工智能的使用。

在 7 月份的一篇博客中(https://venturebeat.com/2018/07/13/microsoft-urges-government-to-regulate-facial-recognition-systems/),微软总裁 Brad Smith 要求调查人脸识别事务并制定相关指导政策。

但这些还远远不够。据美国国家情报主任办公室(ODNI)发布的人工智能和战争调查报告(https://www.wired.com/story/ai-could-revolutionize-war-as-much-as-nukes/)显示,由于 AI 对军事力量提升的作用巨大,任何一个国家几乎不可避免地将创建自动武器系统。反对者称,这就是禁止自动化武器刻不容缓的原因。

“一旦被开发,致命自动化武器将会导致前所未有地战争规模,速度之快将超出人们的理解,”马斯克、Mustafa Suleyman 和其他 116 名机器学习专家在去年说道。“它们将成为暴君、恐怖分子用来对付无辜民众的恐怖武器。”

先是五角大楼宣布开发“意念武器”,再是科技大佬们联名反对自动武器,不知道两者之间是否有关联,或许不久之后,怼天怼地怼空气的马斯克又要怼五角大楼了?

科技与武器,战争与和平

技术似乎从来都是伴随着武器而发展的,不论什么年代,也不论是什么技术,总能以各种形式被应用在武器上。

还记得今年 4 月让数千名谷歌员工集体联名抵制的 Project Maven 吗?

此项目旨在利用计算机视觉算法分析大量军事图像和视频资料,目的是为了在战场进行“精准打击”避免伤及无辜。而反对者们则认为:技术应该是用来提升人们的生活水平的,而非用于战争这类非人道的目的。

此事件后不久,5 月,亚马逊也被爆出将人脸识别技术出售给警方,此事同样也引发了二十多家机构联名抗议,也让公众对自己的隐私安全的担心再次上升了一个高度。

但是就像我们之前的一篇文章里所写的那样:

人工智能是一把令人头痛的双刃剑,这种技术可以被用于正面和负面的应用。但 AI 比核武器更难管理,后者需要专用的硬件来展示其军事力量,但 AI 完全不需要。

对于 TPU,AI 的关键创新在于数学和软件,而非硬件性能优化。今天,我们可以用市场上买到的无人机,一个机器枪支触发器,以及从 GitHub 下载的计算机视觉算法就可以构建一架自动化杀人无人机。它可能并不完美,但它至少是“能用的”。这样一来,它就像生物武器一样,只要用标准的实验室设备就能生产。

除非完全停止所有的人工智能开发研究,否则这项技术将会继续发展,这意味着我们完全有可能用之制造武器并将它们发射到敌人的阵营中去。

本文中提到的这个 DARPA 也并非一开始就在研究武器技术,早在 20 世纪 60 年代,该机构就在研究人与机器之间的相互作用,虽然合并这两者的技术可能听起来很牵强,但该组织已经证明它是可能的。

通过一个名为“假肢革命”的计划,DARPA 创造了一种假肢,残疾退伍军人可以控制使用植入大脑的电极。该系统为用户提供“近乎自然的”手臂和手部动作,同时将模拟的触觉的信号传回大脑。

研究者们想必更愿意看到自己的技术被用在这样的地方吧。虽然有时迫于一些压力,技术人别无选择,但是,这也恰好搭建了一个与高层沟通对话的桥梁,希望会有更多的技术机构借机对话高层,让决策者的计划向着对人类发展更加有益的方向进行。

参考资料

https://venturebeat.com/2018/07/18/ai-leaders-musk-tegmark-and-deepmind-call-for-autonomous-weapons-systems-ban/

https://www.nextgov.com/emerging-tech/2018/07/pentagon-wants-bring-mind-controlled-tech-troops/149776/

今日荐文

点击下方图片即可阅读

SQL足以解决你的问题,别动不动就机器学习

活动推荐

8 月 18 日,InfoQ 将举办一场面向技术人的区块链大会!超过二十个区块链落地案例,区块链前沿技术剖析,区块链生态、服务盘点和解读,尽在 BCCon2018!点击查看原文进入大会官网了解更多信息。

如果你喜欢这篇文章,或希望看到更多类似优质报道,记得给我留言和点赞哦!

 
AI前线 更多文章 SQL足以解决你的问题,别动不动就机器学习 记吃不记打!谷歌涉嫌技术垄断被罚110亿欧元 救救孩子!别让这些“伪”智能音箱坑了娃! 专业测试告诉你,Alexa是个糟糕的医生 机器学习是统计学旧汤换新药?非也
猜您喜欢 金融壹账通测试技术周报(第三十一期) 全球顶级计算机视觉专家华山论剑实录—Google贾扬清、百度徐伟、格灵深瞳赵勇谈图像识别的发展和未来 从王者荣耀说起:真正的恶是什么? 赛尔原创 | 顺滑:让语音识别更流畅 十年资深架构师告诉Java程序员成为架构师必须要掌握的知识点