您现在所在的位置:主页 > www.9950608.com >
使用人工智能来检测非常消除AI的统计文本模式
发布日期:2019-08-05 07:09   来源:未知   阅读:

  哈佛大学和麻省理工学院 - IBM沃森人工智能实验室的研究人员已经创建了一个工具来帮助消除错误信息的传播。根据该团队6月份的报告,该工具名为GLTR(用于巨型语言模型测试室),使用人工智能来检测非常消除AI的统计文本模式。

  GLTR基于它们再次出现的可能性突出显示文本中的单词 - 绿色是最可预测的,红色和黄色是不可预测的,而最不可预测的是紫色。

  这样的工具可以派上用场,如Twitter和Facebook等社交媒体网站,它们必须应对机器人创建的猖獗内容。

  GLTR背后的思想之一塞巴斯蒂安格尔曼说,随着文本生成方法变得越来越复杂,恶意行为者可能会滥用它们来传播虚假信息或宣传。

  “具有足够计算能力的人可以自动生成数千个网站,其中包含有关他们选择的任何主题的真实文本,”Gehrmann说。“虽然我们尚未完全实现这一重点生成,但大型语言模型已经可以生成与人类书写文本无法区分的文本。”

  Gehrmann说他的团队进行了一项研究,看看语言处理学生是否能够将“真实”文本与AI生成的文本区分开来。他说,学生的准确率为54%,几乎没有随意猜测。使用GLTR将学生的检出率提高到72%。

  “我们希望GLTR能够激发更多针对类似目标的研究,并且如果我们能够开发防御机制,它就能成功地证明这些模型并非完全过于危险,”Gehrmann说。本港开奖直播现场