AI作弊?聪明的人工智能将数据隐藏起来

2019-01-02 18:42 稿源:手机中国  0条评论

  在斯坦福大学和谷歌的研究项目中,一个深度学习机器将卫星图像转换成街景地图“出现错误”,却将其巧妙地隐藏在“一个几乎无法察觉的高频信号”中。AI竟然学会了作弊?你觉得恐怖还是欣喜?这其实揭示了计算机自发明以来就存在的一个问题:计算机只是完全按照你的指令去做。

  这项研究正是来自谷歌著名的精准地图,为加速和改进将卫星图像转化为实际地图的过程,科研小组研究出所谓“循环神经网络”的一种方法,通过大量的实验将X和Y型图像尽可能高效而准确地相互转换。

  在将卫星地图转换成实景地图的视觉数据中有成千上万的微小的颜色变化,人类的眼睛不会注意到,但计算机可以很容易地检测到。AI机器的任务是理解其中一种地图的特征,并将之另一种地图特征正确匹配 。

  在早期工作中,AI机器表现得不错,完成的又快又“好”但渐渐旳研究人员发现当机器根据街景地图重建航空照片时,很多细节根本不不在原图中。例如,在创建街景地图的过程原本已经在建筑中被取消的屋顶天窗会在卫星图中神奇地再现。

  研究人员很快找到原因,原来计算机非常擅长将这些细节嵌入街景地图,因此它学会了快速将航空地图编码为街道地图的本领,甚至不需要关注“真实”的街道地图。而人类不擅长检测造成了早期的错误,这间接地鼓励了机器的工作,因此机器默认了自己生成的图像的正确性,以至于后面愈演愈烈,张冠李戴错误不断,直到研究人员发现。

  人们可以很容易地把它作为“机器越来越聪明”的正面论据,但实际上正相反的。这台机器不够聪明,所以才无法精确完成这些复杂的图像类型的相互转换,它只是找到了一种貌似“正确”的方法,并钻了人类检测不到的空子。

  有趣的是,他们做的正是他们所要求的做的。这次的教训应验了一句计算机界古老的格言:问题存在于键盘和计算机之间”或者如HAL说的:“这只能归于人为错误。”

声明:本文转载自第三方媒体,如需转载,请联系版权方授权转载。协助申请

相关文章

相关热点

查看更多