SiS001! Board - [第一会所关闭注册]

标题: [大众点评] 假新闻大师，既能看出 92％的假新闻，也能写高质量假新闻 [打印本页]

作者: 王校長 时间: 2019-8-18 16:36 标题: 假新闻大师，既能看出 92％的假新闻，也能写高质量假新闻

你对假新闻司空见惯了吗？
一张真假难辨的图片，一个在现实和虚假间游离的故事，这会让你难以分辨事实的真相。久而久之，在习惯用质疑的眼光看一切的你看来，真新闻也像假新闻，假新闻也有真事实。

而在今天，假新闻也不仅由人类产生，机器也可以生产出令人信服的假新闻。随着时间的推移和技术的发展，这种情况只会变得越来越普遍，并且可能更有破坏性。
真真假假分不清，不如「以火治火」，用 AI 来检测 AI 写的假新闻。这个检测假新闻的 AI 就是 Grover。
我们对 Grover 的研究表明，检测虚假信息的最佳模型就是产生它的最佳模型。

Grover 从谷歌新闻上 5000 个不同媒体撰写的新闻中进行学习。在这过程中，它接收了 120 千兆字节的真实新闻文章，并用这些文章进行训练，最终 Grover 分辨人和 AI 写的故事的正确率是 92%。在此之前，最好的假新闻识别器的正确率是 73%。
Grover 之所以能如此有效地发现虚假内容，是因为它也非常善于自己制作内容。毕竟造假大师和制假大师之间只有一线之隔。
华盛顿大学教授和论文的共同作者 Yejin Choi 在一份新闻稿中就表示辨别假新闻的 Grover 在假新闻撰写编造上也远比他人得心应手。「在我们的研究中，我们发现 Grover 的假新闻内容远比我们人类同胞写的新闻更可信，这一事实说明了自然语言生成的发展程度——以及为什么我们需要努力克服这种威胁。」

这个擅长打假也擅长造假的 AI 还有能力模仿特定媒体的风格，甚至是特定作家的风格。之前，Grover 生成的一篇假新闻就模仿了《纽约时报》专栏作家 Paul Krugman 的文章风格。不过研究人员也表示，即使是最好的人工智能假新闻，所做的一切依然基于习得的风格和语调，而不是对语言和世界的真正理解。因此，只要我们有耐心，我们可以从原作者浩如烟海的文章中找到 Grover 模仿的痕迹。
大方的研究者们将 Grover 的演示放在了网上，每一个人都可以用它写些天马行空的假新闻。Fastcompany 的编辑就用它写了一个《为什么川普一天要做 100 个俯卧撑》的怪诞文章。面对这种专业编辑都有点束手无策的文章，Grover 的表现也蛮出彩：
当你想到俯卧撑时，第一个想到的形象绝对并不是美国总统。作为一名三军统帅，特朗普的健康状况几乎不为人知，虽然他承诺一旦当选总统就会锻炼身体。在《名人学徒》节目中，他对阿诺德·施瓦辛格的技术大加嘲讽，没有什么能阻止特朗普不做「特朗普式的俯卧撑」。不过就连特朗普自己也承认，不管你的工作多么适合你，要想驾驭自己的身体都是极其困难的。那么，是什么让三军统帅走上正轨呢？答案是 100 个俯卧撑。

虽然只有短短两段内容，但是我们也可以看出 Grover 对川普性格和言论的把握和本人性格非常相似。刨开令人啼笑皆非的新闻主题，可能真的会有不少人相信这条新闻。
Grover 论文的第一作者 Zellers 表示：「尽管书写看起来很流畅，但 Grover 和其他神经语言生成器所写的文章包含了机器独有的语言怪癖，这暴露了它们的机器起源。」这些语言不畅之处就类似于神经文本生成器的签名或水印。Grover 知道去寻找这些「水印」，这使得它在挑选人工智能创造的故事时更为高效。

Grover 依然需要进化，虽然它已经比同行做得更加出色了，但它依然还有无法识别的 8% 假新闻。
随着人工智能变得越来越复杂，用 AI 抵御 AI「制造」可能是我们能够采取的最佳手段。

ai智能识别假新闻？听上去还蛮有意思，如果这种ai是真实有效的，能对舆论影响将会很有帮助，太多人深陷在谎言和暴利的新闻里了

[ 本帖最后由王校長于 2019-8-19 23:32 编辑 ]

作者: wowokijj 时间: 2019-8-19 10:49

技术的进步在现实世界里的良性应用啊这是。
不过新闻这种东西主观性太强了，同样的场景，同样的人物，不同的人写出来就是不同的效果，有时候不是真假的问题

作者: 好看123 时间: 2019-8-23 23:02

是不是假新闻取决于发布人的心态，现在自媒体发达了，新闻里十个里有一半可能都是假的。

作者: isistarcy 时间: 2019-8-24 08:49

不知道这是个什么原理，个人以为应该要有大量的日常信息的输入，然后与新闻进行比较，看合理程度吧，光看文笔应该是不行的。

作者: waipp 时间: 2019-8-29 11:23

出了央视哪里有真的？各种自媒体都是随便放屁什么UC，看点，搜狐

作者: Kenlgd2150 时间: 2019-8-29 11:48

引用:

原帖由 wowokijj 于 2019-8-19 10:49 发表 [bbs=redirect.php?goto=findpost&pid=106058092&ptid=10514665][/bbs]
技术的进步在现实世界里的良性应用啊这是。
不过新闻这种东西主观性太强了，同样的场景，同样的人物，不同的人写出来就是不同的效果，有时候不是真假的问题

这种东西，没什么良性恶性的，也不是技术做不做得到的原因
而是你懂的原因

作者: Naruto-conan 时间: 2020-3-15 22:06

自媒体把他们推向了一个新高度

作者: Naruto-conan 时间: 2020-3-15 22:08 标题: 回复 3楼的帖子

有时候是十之有九，有时候是百分百

作者: obichamtel 时间: 2020-3-16 10:22

之前不是有个假新闻，说什么政府喷洒消毒液的，我朋友就信了，转的朋友圈，现在让我们当笑话讲，哈哈！

作者: 123456qwerdf 时间: 2020-3-16 10:52

现在互联网自媒体的发展，导致这种事越来越多了。

作者: water0525 时间: 2020-3-16 20:04

从近代新闻诞生起就没有完全的真新闻，所以有什么假新闻的

作者: yhgege 时间: 2020-3-18 15:16

教你一招。当你读完一条新闻时，义愤填膺，激动难耐，基本是个有问题的新闻。要不是内容被添加了大量主观思想，就是剪切片段不论前因后果那种，或者是纯粹的生编乱造假新闻。

作者: fafaprpr 时间: 2021-8-6 23:25

出了央视哪里有真的？各种自媒体都是随便放屁什么UC，看点，搜狐

作者: wsmdbzd 时间: 2021-9-3 07:59

现在很多人都是为了流量，不少新闻都截一部分，扭曲现实。根本分不清楚真假。而且造谣成本太低，国家也不管。

作者: 南岸的孤狼 时间: 2021-9-5 17:45

他无论是什么新闻，只不过是给你提供了一个社会热点。最重要的是要你要学会独立思考，不能被有别有用心的媒体人牵着鼻子走，如果你感兴趣可以溯源，可以多方面搜索关于这个的不同家的新闻，一定一定要看不同的观点，也要形成自己的观点，绝对不能听一家之言

作者: 17swthnft173 时间: 2021-9-18 12:58

只能说资本深入我们生活的方方面面，受到资本影响的新媒体导致各种乱象频繁发生，必须接受管制

作者: wj59415 时间: 2021-10-7 23:51

我去！有这东西出现我就不用每天给我妈解释碧瑶了！

欢迎光临 SiS001! Board - [第一会所关闭注册] (http://68.168.16.150/bbs/)