搞笑了 谷歌的AI居然把乌龟辨认成一把枪

文章正文
发布时间:2017-11-06 01:41

The Verge中文站11月5日报道

从自动驾驶到智能监控摄像头,人类社会正在慢慢学习如何相信人工智能。但是人们也知道,不能完全相信计算机。的确,谷歌的AI最近闹了笑话,把一只玩具乌龟识别成了步枪(Rifle),再次证明了AI并非是百分之百可靠的。

这只3D打印的玩具乌龟其实非常逼真,其作用则是作为“对抗性图像”,用来训练计算机神经网络。什么是“对抗性图像”?简单来说,就是被设计为具有视觉欺骗性的图像,训练AI使其具有更准确的辨识性能。

通常来说,这种方法是很有效的,不过图像并不会特别难以辨识,这意味着稍微放大或是旋转图像基本就可以辨认出来。所以,这只3D乌龟显得很特殊,因为它显示出了对抗攻击是如何在现实世界中起作用的。当AI从多个角度观察图像时,有时候的确会被欺骗。

至于这种情况在现实中的影响,也是很巨大的。比如,一辆自动驾驶汽车经过一条路,路边有个很平常的图标,但对于汽车AI来说可能会认定为是其他物体,这对自动驾驶无疑会产生影响。麻省理工学院研究小组Labsix最近发布报告,认为“对抗性图像”是人们必须考虑的问题,因为AI和神经网络越来越普遍、可能也会增加危险性。

Labsix正在开发新的算法,试图解决这个问题。他们还制作了更多“对抗性图像”模型,包括胶囊咖啡、棒球等等,不断训练AI。Labsix还测试了谷歌开发的图像分类器,但遗憾的是谷歌目前还没有针对对抗性图像的修复方式,目前谷歌还没有针对该现象发表看法。

总而言之,人们需要彻底解决AI识别现实中物体的问题。因为人类社会会越来越依赖AI和机器学习,如果不解决这个问题,未来会导致更多的连锁反应。

来源:theverge

文章评论
—— 标签 ——
首页
评论
分享
Top