巴以冲突中的生成式AI与信息真伪

fffmCQ.jpg

注:本文不预设立场,写作目标是让大家思考生成式AI这项技术,与信息时代舆论、算法和新闻之间的关系。

一、关于新闻的真伪

很多人担心,巴以冲突会成为世界上第一次在局势升级的同时,还充斥着机器制造的虚假图像的战争,而社交媒体会成为第二个战场。

不过,就目前看来,在社交媒体上流传的所有图片和视频中,人工智能工具生成的内容还没有成为主流。尽管很多专家认为,本次巴以冲突,人工智能的作用会被放大,但目前还没有做到能在信息传播中发挥核心作用的程度(Digital Forensic Research Lab-Layla Mashkoor)

但是未来一旦技术成熟,如果再次发生类似的冲突或者战争,又会怎么样呢?

二、生成式人工智能与新闻真伪的思考

如果我们跳出本次巴以冲突事件,去思考更多“信息”带给人类的影响。就笔者个人经历而言(2019年秋,笔者在香港读书,亲眼目睹了新闻信息对人们思维的影响),未来时代,辩证地思考生成式AI这项技术,和这些内容对社会的作用,无疑是非常重要的。

近期,哈佛大学肯尼迪学院《Misinformation Review》发表了一篇论文,探讨了生成式人工智能在全球虚假信息传播中扮演的潜在角色。从理论上讲,生成式人工智能可以让人们以飞快的速度传播虚假信息,但愿意相信虚假信息的人——通常是那些 "对机构信任度低”或者"本身就有强烈倾向 "的人,并且已经有大量耳熟能详的虚假信息可供选择。

生成式人工智能系统,能够通过对大量训练数据进行机器学习来生成新形式的数据。这种新数据可以包括文本(如谷歌的 Bard、Meta 的 LLaMa 或 OpenAI 的 ChatGPT)、视觉(如 Stable Diffusion 或 OpenAI 的 DALL-E)或音频。根据不同的指令,这些系统可以为大多数用户快速、轻松地生成输出内容,其复杂程度足以让人类认为这些内容与人类生成的内容无异。

包括一些领先的人工智能研究人员都认为,生成式人工智能,将使大规模创造逼真但虚假或误导性的内容变得更容易,具体问题可分为四类。

1. 伪造信息数量增加:由于易于获取和使用,生成式人工智能可用于大规模制造错误/虚假信息,对个人和有组织的行为者来说几乎不需要任何成本。错误信息数量增加使得居心不良的行为者可以用错误或误导性信息 "充斥整个区域",从而淹没事实内容和/或制造混乱。

2. 容易误导信息的质量提升:由于人工智能的技术能力和易用性,生成式人工智能可用于制造更高质量的误导信息 提高误导信息的质量可增加其说服力,因为它制造的内容更可信、更难揭穿或验证。这要么会导致虚假信息的传播,要么会(随着错误信息数量的增加)导致认识危机,即用户们对所有类型的新闻普遍失去信任。

3. 错误信息的个性化程度提高 :生成型人工智能可以生成有用的内容(例如,聊天机器人生成代码)。然而,它们也能生成看似可信、实则完全不准确的信息。因此,用户可以在无意中生成错误信息,而错误信息有可能传播误导消费者的信息。

4. 非自愿生成似是而非的虚假信息:生成型人工智能可以生成有用的内容(如聊天机器人生成代码)。然而,它们也能生成看似可信、实则完全不准确的信息。因此,用户可能无意中生成错误信息,而这些错误信息有可能传播给使用生成式AI工具的用户,也有可能传播给与他们分享信息的人。

三、提高辨证思考能力,怎么识别假新闻?

我问了一下ChatGPT怎么识别假新闻,它是这么说的:

识别假新闻是一个复杂的过程,因为制造假新闻的技术和方法不断进步。下面是一些帮助你识别假新闻的方法:

  1. 检查来源: 查看发布新闻的网站或媒体是否可靠。查看它的域名,是否使用了模仿知名媒体的域名。同时,查看该网站是否有联系方式,版权声明等正式的信息。

  2. 核实内容: 检查新闻报道中的事实信息。你可以使用搜索引擎,查看其他可靠媒体是否也报道了同样的新闻。

  3. 注意作者: 查看作者的其他文章,看他们是否有发布虚假或误导性内容的历史。

  4. 检查图片和视频: 有时候,假新闻会使用经过修改的图片或视频。你可以使用反向图片搜索工具,查看这些图片或视频是否在其他地方以不同的上下文出现过。

  5. 分辨言辞: 假新闻通常会使用煽动性或极端化的言辞来吸引读者的注意。

  6. 检查时间线: 确认事件的时间线是否合理,有时候假新闻会故意扭曲时间线来制造误导。

  7. 查看来源链接: 假新闻通常不会提供可靠的来源链接,或者链接到不相关或同样可疑的网站。

  8. 检查评论: 查看其他读者的评论,有时候他们会指出新闻中的错误或提供更多信息。

  9. 留意专家意见: 假新闻往往会引用不存在或不可靠的专家意见。你可以搜索所引用的专家,看他们是否真的存在,以及他们的背景是否可靠。

  10. 保持怀疑态度: 对任何看似异常或夸张的新闻保持怀疑态度,特别是当它激起强烈情绪时。

记住,即使是真实的新闻来源也可能偶尔犯错误。关键是要有批判性的思维,不要轻信任何未经验证的信息。

其他方法:

科瓦奇和罗森斯蒂尔在《真相》一书中向公众提出了六项必备的“新闻素养”,需要多问自己几个问题:

1. 我碰到的是什么内容?

2. 信息完整吗?假如不完整,缺少了什么?

3. 信息源是谁/什么?我为什么要相信他们?

4. 提供了什么证据?是怎样检验或核实的?

5. 其他可能性解释或理解是什么?

6. 我有必要知道这些信息吗?

参考资料:

1.Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown | HKS Misinformation Review (harvard.edu)

2.《真相——信息超载时代如何知道该相信什么》

3.Generative AI Is Playing a Surprising Role in Israel-Hamas Disinformation | WIRED

声明:该文观点仅代表作者本人,与炒币网无关。炒币网系信息发布平台,仅提供信息存储空间服务。对所包含内容的准确性、可靠性或者完整性不提供任何明示或暗示的保证,并不对文章观点负责。 提示:投资有风险,入市须谨慎。本资讯仅供参阅,不作为投资理财建议。

发表评论

登录后才能评论