谷歌AI居然将海龟识别成来福枪 曾经还把黑人当成大猩猩

文章正文
发布时间:2017-11-04 01:12

腾讯科技讯据外媒报道,如果一个物体外形像海龟,体型像海龟,动作也像海龟,那么它可能真的是一只海龟。不过,被吹嘘的神乎其神的人工智能(AI)却将它认成了一把来福枪。

这出自麻省理工Labsix实验室研发人员的手笔,他们只是用了点小伎俩就耍了谷歌(微博)的物体识别AI。本周,他们用一篇研究论文讲述了这件让人意外的趣事。

这个团队成立就是为了打造“对抗图像”,它是一种专门创造出来戏耍AI的图片,一般来说AI会将这些图片中的物体识别成完全不同的东西。举例来说,一张大花猫的图片居然被AI认成了一碗牛油果酱。

团队成员会在图片中仔细添加一些视觉噪声,这样一来AI在识别时用到的记号就会被搅乱,因而会做出完全错误的片段。不过,在人眼看来,这些图片可没什么特别。

其实这种“对抗图像”的诞生就是为了提醒我们,AI可能也会被黑。不过,初级的对抗图像很容易被反制,只需要旋转下图片、打乱图像的色彩平衡或者对其进行裁剪,AI就能重新变聪明。

当然,麻省理工的团队并没有困在传统的2D世界,它们为了欺骗AI直接弄了个3D打印的海龟。虽然在人眼看来这是个不折不扣的海龟,但谷歌的AI却斩钉截铁的说它是一把来福枪。

研究人员还做了个3D打印的棒球,虽然偶尔AI也能猜对,但大多数时候它认为这是浓缩咖啡。

在研究人员看来,随着机器视觉在现实生活中逐步普及,肯定会有黑客通过这一漏洞发动攻击。如果监控运用了AI技术而一只海龟出现在画面中,可能就会引发错误的警报。

不过,这种欺骗AI的方法不是万能的。专家表示,能骗过谷歌AI的却骗不了Facebook和亚马逊的物体识别AI,但他们也警告称,未来可能会有通用型的AI欺骗应用。

AI公司们也不甘示弱,它们开始发动反击。包括谷歌和Facebook在内的科技公司已经发布了新的研究报告,称它们也在研发类似技术,并试图找到保护自家系统的新方法。(编译/锐志)

文章评论
—— 标签 ——
首页
评论
分享
Top