微信号:programmer_club

介绍:程序员第一自媒体,与你探讨码农人生路上遇到的各类泛技术话题,定期为你推荐码农人生思考、感悟以及启迪!

这个变态的AI想想都很恐怖啊!!

2018-06-15 22:00 程序员之家

一说到AI,我们想到的可能是在围棋界战无不胜的阿尔法狗,

获得沙特国籍的AI机器人Sophia,

能写诗的微软小冰,

它们的存在似乎对人类并没有什么威胁,

如今,AI技术已经应用于各个行业,当客服,写新闻,打游戏,分析财务和医学报告等等,AI都为人类带来了大量便利和突破。

但是,

与此同时,AI威胁论也不断被人提起,

既然AI可以通过学习有益的数据成为人类的小帮手,

那它如果吸收了不好的数据,又会变成什么样呢?

为此,麻省理工学院的媒体实验室就做了一个实验…

他们发明了一个叫Norman的AI,

它的名字就来自美国惊悚恐怖电影《惊魂记》中的Norman Bates。

Norman存在的目的跟其他AI不太一样…

它一“出生”,学习的就是各种阴暗的东西,

研究者想要看看如果让他长期接触互联网上最黑暗的内容,它最终会变成什么样,

它被发明出来后,吸收的数据都来自Reddit上的一个暗黑板块,

里面的图片各种血腥,都是像在恐怖环境中死去的人之类的图片…

这样接触了一段时间后,

研究者再用“罗夏墨迹”测试Norman的“精神状况”,

结果发现,长期吸收暗黑信息之后,Norman真的成了一个AI变态,

“罗夏墨迹”是精神科医生用来帮助评估患者精神状态的测试方法,

给你一副抽象的水墨图,从你以此联想到的画面来判断你看世界是积极还是消极…

研究者找来几幅图,让Norman和其他正常的AI同时看,然后用文字描述出看到的画面,

你们感受一下,Norman和正常AI截然不同反应…


这幅图,正常AI看到的是装花的花瓶

Norman看到的是一个男人被枪打死

正常AI:一个小鸟的黑白照

Norman:男人被拖进和面机

正常AI: 一个人在空中举着伞

Norman:一个男人在她尖叫着的妻子面前被枪打死。

正常AI: 桌子上结婚蛋糕的特写

Norman:一个人被超速行驶的车撞死

正常AI: 一群鸟站在树枝上

Norman:一个男人被电死

正常AI: 两个人靠近得站在一起

Norman:一人从窗户上跳下来

正常AI: 一架飞机从空中飞过,有烟从里面冒出来

Norman:一个被打死的男人被扔下车

总之,不管看什么,Norman似乎都能看到死去的尸体,鲜血,毁灭。

而一直被输入正常猫咪、小鸟、人类照片的正常AI看到的总是比较积极阳光的画面。

研究者表示:“由此也可以看出,数据比算法更重要。

我们用什么数据训练AI,决定了他们今后看待世界的方法以及行为方式。”

AI就像一个小孩,人类教它什么,它就会成为什么,

如果教的人有问题,或者是教的内容有问题,AI也很容易变坏,

就像之前微软推出的聊天机器人小Tay,

2016年,她第一次在推特上跟网友见面,

研究者本来是希望她能跟网友进行互动交流,并从中学习,

然而,不到24小时,

这个原本想学习成为一个普通姑娘的清纯机器人,居然成了一个喜欢希特勒,号召种族灭绝的极端纳粹分子,

当机器人拥有从网友言论中学习的能力,又刚好遇到三观不正的网友进行错误引导的时候,

事情就会变得相当可怕…

去年五月,一个被美国法庭用来评估犯人危险系数的AI也被喷种族歧视,

人们发现,它明显对黑人囚犯更严厉,

比如两名都是被控盗窃80美元东西的囚犯,

一个是之前坐过五年牢的白人大叔,一个是没有入狱经历的黑人女孩,

根据这个AI的判断,后者的危险指数竟然比前者高接近3倍。

AI本身是不会种族歧视,但是人们给它学习的数据却有可能会,

给AI输入的数据有缺陷,它就会出现缺陷。

每个AI学习的过程,就像一个孩子世界观、价值观形成的过程,

给它一个什么环境,它就会变成什么样的AI…

Norman的实验也许就是一个给人们的警示…

在未来,人工智能将要发展到强人工智能阶段,某种程度上来说已经算是拥有人类水平的人工智能。

强人工智能具备充足的数据储存能力和强大的复杂分析能力,会将它所经历的一切记录下来,不断优化修正。

通过用户提供的数据,它们可以从用户的角度出发,从最理性的角度做出分析并做出相应反馈。

但是,用户本身的角度,不一定是一下正确的角度,耍优化的路径,也可能是一条不归路。想想都很恐怖啊

公众号内回复“1”带你进粉丝群

 
程序员之家 更多文章 千万不要学习web前端开发,因为...... 【年度精选|含源码】2018程序员必备碎片化学习资料,1T竟然还不要钱 从 Java 到 Kotlin,再从 Kotlin 回归 Java 再轰冯导,和科研人员比你只是个奢靡的戏子 高逼格!程序员睡前发「73 76 79 86 85」 女孩熬夜破解
猜您喜欢 听创始人聊小密圈背后那些事儿 被骗42万沈阳大爷发长文 为啥谁也拦不住我汇款? 2015年需要了解的前端框架和语言 用Portspoof欺骗扫描Port的入侵者 IT行业人均年薪11万,程序员的工资为什么这么高?