来源图蠕虫：Hyun-woo已被授予技术使用作者：Tupou Technology出版社：本文摘自AI图像识别系统编译的“ Tupou Technology”，可以通过复制和粘贴您不一定需要构建的随机对象来欺骗 破坏图像识别系统的复杂算法-您只需在随机位置添加对象即可。 在大多数情况下，对抗模型可用于更改某些像素以使图像失真，从而导致目标识别出错。 一些示例包括使用小贴纸将香蕉图像在几秒钟内变成烤面包机，或者戴傻眼镜来欺骗面部识别系统。 乌龟被误认为是步枪的经典案例证明了欺骗人工智能是多么容易。 但是，约克大学和加拿大多伦多大学的研究人员现已证实，将物体的图像复制并粘贴到原始图像中可能会误导神经网络。 他们使用的目标移植
Tensorflow对象识别API中的模型进行了一系列实验。 Tensorflow对象识别API是
由工程师构建的用于执行图像识别任务的开源框架。 该API是在TensorFlow代码之上构建的另一层，并描述了卷积神经网络的体系结构。 研究人员从一个图像中获取一个对象，然后将其添加到另一图像中的其他位置，然后将这些图像输入到API中。 arXiv在已发表的论文中将此技术称为“对象移植”。 在第一个示例中，研究人员将大象的图像添加到了坐在客厅里的男人的图像上。 模型输出围绕不同目标的一系列彩色边界框，并计算出不同目标识别结果的可能性。 它有99％的机会识别目标是人和笔记本电脑，椅子的占81％，手提包的占67％，书籍和杯子的占50％。 到目前为止，该模型的性能还不错。 但是，当将大象的图片添加到同一张图片中时，模型识别开始显得混乱。 当大象图片以红色粘贴时当打开彩色窗帘时，模型突然对图片中椅子的识别信心不足。 评分从81％下降到76％，但是在桌子上放杯子的可能性从50％增加到54％。 甚至更奇怪的是，当直接将大象图片复制并粘贴到人的头部上时，它被认为是椅子。 当将动物的图片粘贴到场景中的不同位置时，只能在两个位置正确识别该动物：将其放置在笔记本电脑和书架的顶部。 当大象的图像粘贴到场景中的不同位置时，API很难正常识别它。 在许多情况下，它是完全无法识别的。 图片来源：Rosenfeld等。 尽管如此，API仍然可以正确识别对象，因为在客厅中很少见到大象与一些常见对象混合在一起的图像。 论文读到：“神经网络从未见过在同一张图片中组合的两种不同类型的对象。我们不能指望神经网络在测试期间能够成功处理此类图像。” 但是这个测试不是一个不公平的测试，它突出了神经网络的脆弱性，它们不能轻易适应训练数据中没有的新图像。 研究人员写道：“我们认为要求不同的对象类别在训练集中成对出现是不合理的，无论是在实践中还是在理论上。” 当研究团队复制图像中的现有目标时，人工智能很难识别重复的图像。 当涉及对象时，API仍然很难识别。 该模型可以轻松地从原始图片中挑选出位于显示器前面键盘上的猫。 但是，当将另一只猫的照片添加到图片中并重新调整以使其看起来像是直接放在第一只猫的后面时，该猫的爪子被识别为狗，而键盘的角被识别为一本书。 书。 研究小组用不同的图像重复了该实验。 结果，公牛的头变成了马，棒球棒变成了笔记本电脑，手提包变成了杯子-您现在所看到的。 添加图像中已经存在的相同对象也具有相同的效果。 图片来源：Rosenfeld等。 该论文解释说，从不属于真实目标区域的像素获得的特征会使图像中的对象变得混乱。 对于感兴趣的目标区域的ROI内的像素和ROI以外的像素，这是正确的。 这是所有图像分类模型都面临的问题。 它们都通过给定区域上一系列像素的特征来识别对象，但这意味着来自其他对象的像素可能会与对象重叠，从而使它们混淆。 研究研究人员将此问题称为“部分遮挡”。 “部分遮挡通常被认为是对象检测的主要挑战。成功解决局部遮挡问题将是推广的好兆头。” “这里产生的图像可以看作是对抗性样本的一种变体，其中一些很小。图像引起的干扰（人类很难检测到）会导致神经网络输出的巨大变化，”该论文 总结。
可能您还想看