名为TextFooler的软件可以通过用同义词替换句子中的一些单词来欺骗NLP系统，使其误解为文本。在测试中，它可以显著降低三个最新的自然语言处理系统的准确性。例如，谷歌强大的BERT神经网络在确定Yelp上的评论是正面还是负面方面要差五到七倍。
工作原理：
该软件由麻省理工学院的一个团队开发，用于找到句子中对NLP分类器最重要的单词，并用人们会发现自然的同义词替换它们。比如把“不可能之下塑造的人物与现实完全疏离”这句话改成“不可能之下塑造的人物与现实完全疏离”，我们的阅读风格并没有真正的区别。但这些调整让AI对句子的解读完全不同。
为什么重要：
我们已经看到了许多这种对抗性攻击的例子，其中大多数是在图像识别系统中进行的，输入的微小变化都会混淆AI，并导致AI对其看到的内容进行错误分类。TextFooler显示，这一攻击还打破了NLP、虚拟助手(如Siri、Alexa和GoogleHome)背后的AI，以及垃圾邮件过滤器和仇恨语音检测器等其他语言分类器。研究人员说，像文本编辑器这样的工具可以通过揭示自然语言处理系统的弱点来帮助它变得更加强大。
免责声明：本文由用户上传，如有侵权请联系删除！
