微信号:infoqchina

介绍:有内容的技术社区媒体

AI末日论是危言耸听吗?从马斯克和扎克伯格的论战说开去

2017-08-03 08:00 蔡芳芳
作者|蔡芳芳
编辑|小智
近日扎克伯格与马斯克关于“AI 与人类未来”的争论引起了业界的广泛关注,但其实这并不是此类争论第一次出现,“AI 末日论”是否危言耸听在科技圈一直存在争议,只不过这次两方观点展开了一次更为直接的正面交手。这次争论究竟在吵什么?关于 AI 未来的发展还有哪些争论?现阶段 AI 产品都应用到了哪些地方?我们对于 AI 的发展到底应该怎么看?本文将针对这些问题逐一展开
编者按

AlphaGo 战胜排名世界第一的围棋高手柯洁刚过去三个月,人工智能在全球发展势头正盛,当普通民众还在观望下一个震惊世人的人工智能产品会是什么时,科技圈的大佬们已经就“AI 末日论到底是不是危言耸听”打起了嘴仗。

7 月 23 号下午,扎克伯格在自家后院与网友直播闲聊的过程中,一位网友提到埃隆·马斯克的“AI 末日论”并询问扎克伯格对此观点的看法。扎克伯格表示他对 AI 未来的发展持乐观态度,他无法理解那些宣扬 AI 将导致世界末日的人,他认为这些观点非常消极并且实际上是“非常不负责任的”。他还指出未来 AI 将能够提供一些挽救生命的服务,比如诊断疾病和自动驾驶。

紧接着马斯克迅速做出回应,他在推特上转发了一篇名为《扎克伯格炮轰埃隆·马斯克,指责他鼓吹人们警惕人工智能“非常不负责任”》的文章,并表示“我已经与马克聊过这事了,他对这个问题的理解有限”(有趣的是,马斯克也曾被现代机器人之父罗德尼·布鲁克斯评价为“并不懂 AI”)。并且随后又转发了一篇 Tim Urban 发表于 2015 年的文章,标题为《AI 革命:通往超级人工智能之路》,再次宣告他的末日论立场坚定不动摇。

悲观派 VS 务实派

其实对人工智能未来发展的可能性产生分歧已经算不上什么新鲜事了。科技圈对于人工智能的观点一直以来都分为两派,一方认为人工智能发展的速度将远超预期,放任其发展迟早要把人类全部玩完,呼吁大众警惕人工智能并对人工智能进行管制,埃隆·马斯克就是这一方的典型代表人物,他早在 2014 年就提出了“AI 末日论”并一直在各种场合积极宣扬他的观点,这次正面互怼的起因也正是他在美国全国州长协会上的一番发言;而另一方则汇集了众多在 AI 领域一线进行科研工作和开发产品的专家,他们的观点更接近扎克伯格,他们认为人工智能尚处于发展初期,当前阶段应该更关注如何优化和提高 AI 技术,而不是无谓地恐惧甚至尝试约束一些尚未出现的东西,未来一段时间内人工智能将为人类带来更多好的改变。

让我们先回顾一下诸位大咖发表过的一些重要观点。

担忧“人类可能会被 AI 玩死”的悲观派代表人物:埃隆·马斯克(SpaceX 公司 CEO 兼 CTO、Tesla 公司 CEO)、比尔·盖茨(微软公司联合创始人)、斯蒂芬·威廉·霍金(英国剑桥大学著名物理学家)等。

马斯克:

2014 年 10 月,在 MIT 的一次研讨会上,马斯克表示:“人工智能领域的研究如同在召唤恶魔。”

2014 年 11 月,马斯克在 Edge 上发表观点,称人工智能机器可能在短短五年之内、最多十年之内就会引发“一些非常危险的事件”,但随后立即删除了这篇文章。

2017 年 7 月 15 日的美国全国州长协会(NGA)上,他将 AI 描述为“人类文明存在的根本性风险”,并呼吁政府主动监管人工智能而不是被动管理,否则将为时晚矣。他表示“我一直在敲警钟,但只有当人们看到机器人冲上街杀人,他们才会知道该如何应对,因为这看上去太不真实了”。他还认为未来人工智能驱动的机器一定会取代人类的工作,“机器人将会处理一切工作”。

比尔·盖茨:

2015 年在 Reddit 论坛上的问答活动中,盖茨称:“我站在对超级人工智能感到担忧的一方。一开始机器能够为我们完成很多工作,还远没有达到超级智能的水平。如果我们能够妥善地管理,人工智能应该对我们是有利的。但是再过数十年,人工智能可能会强大到我们不得不担心。在这个问题上,我同意埃隆·马斯克和其他一些人的观点,我不理解为什么其他人对此并不担心。”

霍金:

2016 年霍金曾表示:“我们现在面对的大部分威胁都源于我们在科技领域的进步,但我们不可能停下科技前行的脚步,更不会倒退。因此我们必须意识到其中的危险,并尽量对其进行控制。我是个乐观主义者,我相信我们能够做到。”

在 2017 年的 GMIC 大会上,霍金通过视频发表了题为《让人工智能造福人类极其赖以生存的家园》的演讲,他表示“强大的人工智能快速崛起,对人类来说可能是最好的事也可能是最糟的事,我们并不知道事情将往哪个方向发展。但我们应该竭尽所能,确保其未来发展对我们和我们的环境能有利。” 其中智能性自主武器的使用是他最担心的一项。他相信,“生物大脑可以达到的和计算机可以达到的没有本质区别。”但同时他也表示,虽然他对人工智能有各种各样的担忧,但他对人工智能技术本身仍秉持乐观态度,他认为人工智能潜在的好处是巨大的。

认为现阶段“人类不要想太多”的务实派代表人物:罗德尼·布鲁克斯(MIT 计算机科学和人工智能实验室创始理事,被称为“现代机器人之父”)、迈克尔·乔丹(美国国家科学院院士,任职于加州大学伯克利分校计算机系,前百度首席科学家吴恩达的导师)、李开复(创新工场创始人)等。

罗德尼:

2017 年 1 月接受 TechCrunch 采访时,罗德尼表示“有一些人认为 AI 是确实存在的威胁,比如斯蒂芬·霍金、马丁·里斯爵士……他们的共同点是没有亲身在 AI 领域工作过。而对于那些在 AI 领域工作的人,我们明白要将任何技术真正转换为产品有多么困难。”对于马斯克提到的人工智能监管问题,罗德尼言辞犀利,“如果你现在要开始监管,要么这些规则能够适用于一些事物并能使其发生改变,要么就不适用于任何事物。如果监管都没有适用的对象,那监管到底有何意义?”

迈克尔·乔丹:

2017 年 1 月澎湃新闻的专访中迈克尔·乔丹谈到了霍金的担忧,他表示“霍金并不是人工智能的研究者,他是一个外行。计算神经生物学近期不会有太大的突破,大概几百年后才能有进展。”对于人工智能取代工作岗位,他认为是大势所趋,同时对这些被取代的人之后的生活和工作如何处理是非常重要的社会问题,“人类不可能被机器毁灭,人类只能被自己毁灭。”

李开复:

在量子位的采访中李开复明确反对马斯克“AI 终将灭绝人类”的悲观论调。他指出目前 AI 只是工具,离“超级智能”还遥不可及,更不用提灭绝人类了,这些论调并没有切实的工程基础。另外,在过去几个月内,他与多位国内外 AI 专家、图灵奖得主就马斯克的“AI 末日论”进行了一些讨论,AI 领域的专家们(包括吴恩达、罗德尼)基本都认同扎克伯格和李开复的观点。他认为马斯克作为科技圈的意见领袖,在 AI 发展初期鼓吹末日论制造恐慌,“确实是不负责任的说法”,可能会使大众因为恐惧而错过 AI 带来的巨大机会。同时,李开复也坦承 AI 的确会给人类带来失业问题,但他并不认同马斯克“机器人将会处理一切工作”的看法,他认为 AI 将取代简单的、重复性的工作,但人类仍然可以创造新的、AI 无法胜任的工作,比如创造性工作(如理工科的发明、人文艺术的创意等)和以社交为核心的服务型工作。

争论一直存在,只不过这次扎克伯格与马斯克的论战将其推向了高潮。仔细研读他们对于人工智能发展的观点,可以发现悲观派和务实派观点的差异主要源于着眼的发展阶段和人工智能的类型有所不同。

就如 Reddit 网友所说的,马斯克和扎克伯格所争论的 AI 并不是完全相同的概念,前者担忧和呼吁人们警惕的是 AGI(general AI,即在各个方面都等同甚至超越人类水平的人工智能)和 ASI(超级人工智能),但这种异常强大的人工智能到底何时会来临,尚不可知;而后者所讨论的也是当前大部分人所熟知的则是 ANI(Narrow AI,即在特定专业领域达到或超越人类水平的人工智能),比如自动驾驶和诊断疾病其实都属于 ANI 范畴,而自动驾驶正是马斯克的公司 Tesla 的主营业务,扎克伯格对马斯克的消极观点所针对的对象可能存在一些误解。

AI 应用现状

如今人工智能产品到底用到了哪里?

  • 搜索和推荐:从大量数据中寻找模式,被动或主动地寻找并呈现用户想要的东西,比如谷歌搜索、百度搜索、各家外卖的餐厅推荐。

  • 图像识别:给一幅图像,识别这是若干种物体中的哪一种,用于金融领域的身份识别和智能支付、安防领域的人脸识别、医疗领域的医疗影像数据匹配等。

  • 自然语言处理:各种翻译和语音识别,将声音转换为文字、将文字转换为声音、将英语转换为中文等,谷歌翻译、科大讯飞的实时翻译系统都是此类产品,对于需要快速响应的语言转换能帮不少忙。但对于没有学习和训练过的语言,这些产品也无能为力。

  • 简单的人机交互:比如苹果的 Siri 和微软小冰,能和你聊天、帮你拨打电话、在日历上添加行程,但也仅此而已,太复杂的事情暂时还做不了。

  • 自动驾驶:在当今量产车型中特斯拉的辅助自动驾驶已经相当先进,而谷歌、苹果、Uber、百度等多家公司也都陆续开始在自动驾驶产品上发力。前段时间特斯拉在美国发生的一起疑似自动驾驶导致的交通事故引发大量讨论,虽然美国国家公路交通安全局经过详细调查后认为特斯拉的自动驾驶系统并无功能缺陷也非导致事故的罪魁祸首,但这次事故开始令人们意识到自动驾驶系统仍然存在局限性。报告中提到“特斯拉配备的自动刹车和自动驾驶系统都有限制条件,事发时的状况本来就超出了系统设计的适用范围。侧方出现的车辆在系统的盲区内。”

现在真正广泛应用于实际产品的 AI 基本上属于同一种类型:机器学习中的监督学习,即通过 AI 来确定从 A 到 B 的映射——输入 A 然后响应 B。如今的 AI 还很初级,只是一种还在不断发展中的工具。一如罗德尼的观点:“其实今天的 AI,只是在某一个狭窄领域基于大数据优化,只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的 AI 根本不知从何开始。”

关于人工智能机器取代人类劳动力的问题近来倒是频有耳闻。但让我们再深入了解一下那些被机器替代的工作到底是什么样的工作。今年 3 月份好奇心日报发布了一篇文章,引用并整理了美国多家机构对劳动力市场的研究和调查报告,针对机器替代人类劳动力的情况进行了全面的分析。而麦肯锡的一份调查结果表明,涉及收集数据、处理数据以及可预测环境下的体力劳动最有可能被机器替代,比如制造业工厂流水线的工人、电话接线员、保险理赔人员、基金经理、零售业销售人员;而那些涉及交流沟通或对专业性、创造性要求更高的工作则相对难替代得多。这里给大家提供一个有趣的网站,可以查询自己所从事的工作有多大可能会被机器人替代。

AI 的未来到底会怎么样?

AI 领域的专家从短期发展的角度给我们吃了一剂定心丸,并对 AI 技术改变生活充满乐观的期待。但从长远的角度来看,未来人工智能到底会发展成什么样,会不会真的在整体上与人类的智力水平相睥睨甚至碾压人类,这个过程需要耗费几年、几十年还是几百年,这些问题还没有人能给出确切的答案。未来一切皆有可能,但是诚如李开复所说,普罗大众本来就对 AI 所知有限,在现阶段一味地宣扬 AI 将毁灭人类,可能制造不必要的恐慌,影响公众舆论甚至政府决策,从促进技术发展的角度来看并不是一件好事。

技术变革往往是机遇与风险并存,更何况是 AI 这样可能具有颠覆性的新技术,由于恐惧未来不可知的“危险”而停止技术前进的脚步大可不必。凡事皆有两面性,看好人工智能发展的扎克伯格也承认“技术总是能被用来行善或作恶,你需要小心地开发、小心地应用”,而对人工智能的未来走向忧心忡忡的霍金也依然肯定 AI 能够带来积极的影响,只不过“必须规避风险”。至于到底需不需要对 AI 进行“监管”、怎么“监管”,由几位非 AI 领域专业研究者的意见领袖(虽然他们也很聪明并在其他领域有所建树)说了不算,真正的 AI 领域专家们研究后说了才算。毕竟专业的问题就应该交给专家去解决。

作为 AI 领域的从业者,如何更好地提升 AI 技术、如何应用 AI 使其为人类带来积极利益应该是未来工作的重点,产出真正的产品才是硬道理。

而作为普通人,生命不过短短数十载,与其杞人忧天,不如尽情享受人工智能带来的便利,同时积极学习和转型以应对 AI 替代简单劳动力所带来的工作上的挑战,这可能是更为实际的选择。

这里以霍金在牛津联盟辩论社(Oxford Union Debate Society)上鼓励学生探索太空未解之谜的一段话作为结尾,这段话换到探索人工智能领域同样别有一番意味:“仰望星辰,不要只关注自己的脚下。尝试探究你所看见的一切,探索宇宙存在的理由。要保持好奇心。不论生活看上去多么困难,总有一些事是你能做且可以做成的,只要你不轻易放弃。”

今日荐文

点击下方图片即可阅读

推荐一个技术文章搜索引擎



 
InfoQ 更多文章 诱人却非万能,理性看待Serverless的落地 gRPC 服务端创建和调用原理解析 大神们的大学生涯:无限挂科的PHP大神,放羊长成的白帽子传奇,以及繁多不可胜举之故事 如何面试工程师? Linux、Git 之父 Linus Torvalds 的别样技术人生
猜您喜欢 不管什么方面程序员,Python都值得你学习! https与http的区别及优缺点 API 调用次数限制实现 干货 :大数据用户画像的方法、实践与行业应用 大课报名 | 华杉:品牌资产观和营销服务观,归根结底都是价值观