米乐M6人工智能可生成“假新闻”马斯克创立的人工智能小组对此说不Elon Musk创立的非营利性人工智能(AI)研究小组OpenAI决定不再详细透露其新的人工智能软件,担心基于人工智能的模型可能被不良行为者误用于创造真实的假新闻。
基于人工智能的自动文本生成器被称为“GPT2”,可以在输入一些数据之后生成假新闻文章和滥用帖子。
“我们已经培训了一个大规模的无监督语言模型米乐M6,它可以生成连贯的文本段落并执行基本的阅读理解,机器翻译,问答和总结 - ”所有这些都没有针对特定任务的培训,“OpenAI在周四晚些时候的博客文章中说道。 。
然而,非营利组织创建了一个较小的模型,让研究人员可以对算法进行实验,以查看它可以生成哪种文本以及它可以执行的其他类型的任务。
“我们可以想象这些模型的应用是出于恶意目的,包括以下内容:生成误导性新闻文章,在线模仿其他人,自动生成滥用或伪造内容以在社交媒体上发布并自动生成垃圾邮件/网络钓鱼内容,”说OpenAI。
今天,恶意行为者 - 其中一些是性质的 - 已经开始针对共享的在线公共资源,使用诸如“机器人工具,虚假账户和专门团队”来哄骗那些使他们害怕说话的仇恨评论或涂片的人,或者很难被听到或相信“。
OpenAI进一步表示米乐M6,我们应该考虑如何对合成图像,视频米乐M6,音频和文本的生成进行研究,以便为这些不良行为者解锁新的尚未预料到的功能。
马斯克是人工智能的坚定批评者,并于2016年共同创立了OpenAI,于2018年退出董事会。