微信号:ai-front

介绍:面向AI爱好者、开发者和科学家,提供最新最全AI领域技术资讯、一线业界实践案例、搜罗整理业界技术分享干货、最新AI论文解读。每周一节技术分享公开课,助力你全面拥抱人工智能技术。

腾讯报告TensorFlow首个安全风险,谷歌确认

2017-12-16 17:54 TF

编辑|Emily
AI前线导读: 日前,腾讯发现谷歌人工智能学习系统 TensorFlow 存在严重安全风险,可被黑客利用带来安全威胁。据悉,该风险是 TensorFlow 首个自身安全风险,腾讯安全平台部预研团队已向谷歌报告这一风险并获得致谢。

腾讯安全平台部预研团队发现,攻击者可以生成 Tensorflow 的恶意模型文件,对 AI 研究者进行攻击,对受害者自身的 AI 应用进行窃取或篡改、破坏。该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分 AI 研究者可能毫无防备;同时因为利用了 TensorFlow 自身的机制,其在 PC 端和移动端的最新版本均会受到影响。AI 模型被窃取,损失的是开发者的心血;而一旦被篡改,造成 AI 失控,后果更难以想象。

谷歌官方负责人称,考虑到 TensorFlow 在 AI 的广泛使用,TensorFlow 官网将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。

据了解,Google 的 TensorFlow 作为开源框架被互联网广泛使用。根据官方介绍,该框架在谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在 TensorFlow 中,AI 研究者可以复用他人建好的模型来进行 AI 训练,或直接提供 AI 服务,大大提高开发效率。这些公开的模型通常以文件形式提供,也普遍被认为是无害的。此次安全事件也让关注该领域的开发者对开源框架的潜在风险提高了警惕。

腾讯安全平台部安全预研团队不仅聚焦 AI、移动及 IoT 前沿领域的安全问题研究,同时也曾向 google,apple,微软,adobe 等公司报告多个安全漏洞并多次获得官方致谢。此外,他们对无人机、无线电、物联网、智能楼宇的安全问题也有研究。未来,腾讯安全平台部安全预研团队也将继续致力于为互联网与科技发展的安全保驾护航。

 
AI前线 更多文章 吴恩达再放大招:成立Landing.ai并签约富士康,这次瞄准的是制造业工人的饭碗 2017 年回顾:NLP、深度学习与大数据 如何评价清华大学开设《自动驾驶》课程? 智能芯片+解决方案,遥望地平线的余凯能否迎来曙光? 2017开发者盘点:是我在解决AI的问题,不是AI解决我的问题
猜您喜欢 程序运行时的内存空间分布 《Working Effectively with Legacy Code》阅读分享(一) 你能看到这个字符么?  谁来让 iPad 突破现状?现在看来 iOS 10 是没办法了...... 这样管理团队,执行力一定杠杠的!