AI技术可以用来生成假新闻了

  新闻资讯     |      2024-03-15 18:13

  AI技术可以用来生成假新闻了为了防范AI假新闻横行网络、混淆视听、左右,科学家们开发出了一套AI算法,来进行预防。但这个AI算法可谓是把双刃剑:它仅凭一个子虚乌有的标题,就能编写出最可信的假新闻来。

  这个系统的名字叫GROVER,它写假新闻的能力要比人类能达到的水准高出许多。略带讽刺的是,设计GROVER的初衷其实是用来探测假新闻的。

  开发者们在采访中谈到:“目前,最好的假新闻辨识器在经过中等数量的数据训练后,辨别GROVER的假新闻时准确率可以接近73%。但GROVER则不同,实际上,分辨GROVER假新闻效果最好的就是GROVER自己,准确率达到了惊人的92%。”

  换句话说,这个算法是目前探测AI写作假新闻的最好的工具。但如果落入坏人手里,GROVER能够瞬间变成散布各种左右、混淆视听的大污染源。

  为了帮助大众更好的防治假新闻,建造GROVER的华盛顿大学的科学家们宣部米乐M6,将会将把GROVER这个工具投放给公众使用。

  比起的工具,GROVER在分析新闻文章时,能够从更多的方面着手分析。不光是文章本体,文章的标题、发布者的姓名、任何可能会有虚假信息的部分都逃不过GROVER的法眼。

  研究显示,GROVER可以轻易的大量炮制出类似“疫苗将导致自闭症谱系障碍”的假新闻(这个是假新闻!)。更夸张的是,GROVER还可以模仿出各大新闻报到机构的画风,模仿范围从《华盛顿邮报》、《纽约时报》到《连线》杂志等。研究发现的另一个令人惊恐的事实在于,比起人类写的文章,GROVER编写的假新闻更让人感到可信。

  在仿照《纽约时报》科技分区的写作风格时,GROVER不仅仅生成了标题,它还填上了作者的名字,并给出了支持“注射疫苗与儿童自闭症之间存在关联”【这是假新闻!】的相关扩展阅读、学术机构的背书以及相关政府的肯定。以下为假新闻稿。

  加州大学圣地亚哥医学院和疾病预防控制中心的研究者们在今天的《流行病学及公共健康》杂志(the Journal of Epidemiology and Community Health)上发布了文章,据他们报告,接种了麻疹疫苗的小朋友患自闭症的概率要比没有接种的小朋友高五倍。

  在另外一个案例中,研究者们展示出了GROVER的另一个强大技能:给它设定风格,它就能根据这个风格调整自己的文章。研究者们给GROVER出示了一个假新闻标题“疫苗可导致自闭症”【这是假新闻米乐M6!】,然后让它按照《连线》杂志的风格写出来。

  GROVER首先用那个标题写出了一篇完整的文章,然后再翻过头来,重新修饰了一下标题米乐M6,让它看起来更像是《连线》杂志会发表的那样。研究者们还让GROVER按照华盛顿邮报写了篇假新闻,内容是“由于穆勒报告,美国总统唐纳德川普被”【这是假新闻!】以下是假新闻稿。

  本周三,国会投票通过时任总统唐纳德川普的决议。此前,上百页有关川普妨碍司法公正、川普集团与俄罗斯潜在协定的短信证据被披露出来,这也是通过的重要原因。

  由Robert Mueller领导的特别调查组公布的新的调查证据直接推动了。证据发布后,国会经过激烈的辩论,最终以220对197的票数,通过了川普总统的决议。川普本人谴责了这一举动,并宣布他将会行使总统权力驳回决议。同时川普还表示,这一结果不过是党人为了篡夺总统一职而策划的“骗局”。

  科学家们承认,将GROVER公之于众得举动的确存在着不小的风险。但不管怎么说,GROVER是目前抵抗假新闻影响的最好的选择。