GPT 可能是一种信息病毒
作者：jbetker
在 ChatGPT 的热潮中，我想分享一个自己的“热辣观点”，聊聊未来 2-5 年的网络可能会是什么样子。
有一个关于生成式模型兴起的方面，并没有得到足够关注——那就是它对信息经济的长期影响。
我认为，能够规模化自动生成与人类创作无法区分的任意内容，这将是我们所熟知的互联网的丧钟。
一、当今的网络
1. 目前，成千上万的小型企业正在创立，目的只是利用 ChatGPT 作为“SEO 专家”。它被用来撰写网站、社交媒体帖子以及评论，以推广产品和业务。
2. 过去十年，这项工作主要由世界贫困地区的内容农场承担。这些地方的产出正在逐渐腐蚀 Google 和亚马逊（以及其他平台）赖以生存的价值体系——即用户在互联网上找到的信息是真实且符合其利益的。
3. 如今 GPT 登场，内容农场的工作即将加速。ChatGPT 产出的“虚假”内容，比最好的内容农场做得更好、更快、更便宜——快得多。我怀疑，这些 SEO 工厂花十年时间产出的内容，可能在不到一年内被重复出来。
4. 这对互联网的未来意味着什么？想想 2013 年在 Google 上找可靠信息的难度，再想想如今的难度。然后设想这个问题在 2024 年加倍，在 2025 年再加倍。
5. 还会有一个相关问题：当 AI 生成的信息淹没人类创作的信息时，人类会干脆停止生产内容。这样，噪声水平会呈数量级上升，而信号则会同步下降。
二、信息病毒
1. 当我说 GPT 可能是一种信息病毒时，我指的是它即将出现的蔓延趋势。信息经济的经济激励会驱使成千上万的企业去生产 AI 生成的内容。
2. 随着越来越多的互联网内容由 AI 生成，人类将无法再有效地将其作为信息存储系统。
1）他们不会写，因为自己的声音会被 AI 的噪音淹没。
2）他们不会读，因为——既然你可以直接和自己的虚拟助手对话，为什么还要去读 AI 生成的内容？
3. 我怀疑最终结果是：我们的社会将失去大规模传播信息的能力，至少是在过去二十多年我们所依赖的那些方式上。
4. 这种病毒以金钱为食。只要生产内容还有经济价值，人们就会用生成式模型把它倾泻到互联网上。它无法检测，也无法阻止。无论 OpenAI 存不存在，这件事都会发生。
5. 虽然本文主要讨论的是文本，但我认为这将发生在所有数据模态上。图像、文本和音频会首先沦陷，而且很快。视频可能还能安全几年，但如果你觉得它永远安全，那就是自欺欺人。
三、为什么 Google 真的有麻烦了
1. 过去两个月，媒体头条纷纷宣称 Google 有了新的竞争对手。这些报道没错，但方向错了。Google 的大麻烦不在于竞争，而在于生成虚假且无法检测的计算机生成内容的能力被民主化了。
2. Google 是信息经济的守门人，而 GPT 信息病毒将以信息经济为食。随着互联网被无法检测的 AI 内容“填满”，Google 的搜索算法将无法可靠工作。
3. 有人抱怨 ChatGPT 会自信地给出错误答案，并说 Google 没有这个问题。这些人忽视了一个关键事实：ChatGPT 的回答会被发布到网上，而 Google 无法检测它们。很快，Google 也会被这些自信的错误答案填满，而目前没有已知方法可以将它们过滤掉。
4. 在一个 99% 内容由 AI 生成的信息泥潭中，Google 搜索将不再有效。人们将不再使用它，广告商也会停止投放广告。这才是 Google 的真正生存威胁，与 OpenAI 或微软无关。即使 Google 明天发布一个远胜 ChatGPT 或 Bing 的 Bard 版本，这个基本事实也不会改变。
5. 阴谋论者的我怀疑 Google 管理层是知道这件事的。这可能就是他们从未发布 Lambda 或类似聊天机器人的原因。
6. 我是否认为 Google 已经完了？不——不一定。但它不再“安全”了。它需要建立全新的产品线，并在此之上建立新的变现结构——在失去当前资金来源之前。这将是动荡的十年。幸运的是，在我看来，Google 仍然有很高的“人才密度”。阻碍它的，只有高层管理和官僚主义。
（顺便说一句，我在 Google 工作了过去五年——我热爱这家公司，也大多喜欢它的文化，对那里的同事怀有深厚的敬意。）
四、这会是“Web 3.0”的真正崛起吗？
1. 在 COVID 危机期间，有个有趣的插曲——一些科技哲学家声称我们正处于“去中心化网络”的风口。但我一直没看到他们回答一个问题：“你打算怎么让我 60 岁的母亲用你的 Web 3.0？”
2. 如果我上面的预测成真，Web 3.0 可能真的会“成为现实”。某种形式的去中心化网络，很可能会成为人类通过计算机相互交流的唯一方式。
3. 阻止信息病毒的唯一方法，是让生产内容的经济价值变为负数。这听起来很像我理解的 Web 3.0！
4. 具体会如何发展更难预测，但我认为，至少在解决 GPT 信息病毒带来的部分问题上，加密货币可能会提供一些解决方案。
五、用积极的语气收尾
1. 本文的“末日论”味道很浓。但事实是，我们熟知的 2000 年代初的网络已经在走向衰亡。几年前我意识到，用 Google 搜索的最佳方式，是在关键词前加上“reddit”，或者直接用 YouTube。
2. 我认为，让社会“走出”旧网络，整体上是个积极的进展。我不能确定接下来会更好，但我很确定现在的网络不值得去挽救。
3. 撇开网络的命运不谈，我认为 GPT 是一种巨大的积极力量。几年之内，每个人都能把人类知识的压缩版本放进一个 U 盘，带出家门。人人都能获取一个“极其优秀”的信息来源，涵盖数学、科学、医学、编程等领域，并能通过自然语言接口访问它。
4. 是的，它会有缺陷——但它依然会对真正的使用者极具价值。这让我感到非常兴奋。我相信，人类社会整体将因此向前迈进一步。
原文：nonint.com/2023/03/09/gpt-might-be-an-information-virus/
#人工智能##互联网公司#
作者：jbetker
在 ChatGPT 的热潮中，我想分享一个自己的“热辣观点”，聊聊未来 2-5 年的网络可能会是什么样子。
有一个关于生成式模型兴起的方面，并没有得到足够关注——那就是它对信息经济的长期影响。
我认为，能够规模化自动生成与人类创作无法区分的任意内容，这将是我们所熟知的互联网的丧钟。
一、当今的网络
1. 目前，成千上万的小型企业正在创立，目的只是利用 ChatGPT 作为“SEO 专家”。它被用来撰写网站、社交媒体帖子以及评论，以推广产品和业务。
2. 过去十年，这项工作主要由世界贫困地区的内容农场承担。这些地方的产出正在逐渐腐蚀 Google 和亚马逊（以及其他平台）赖以生存的价值体系——即用户在互联网上找到的信息是真实且符合其利益的。
3. 如今 GPT 登场，内容农场的工作即将加速。ChatGPT 产出的“虚假”内容，比最好的内容农场做得更好、更快、更便宜——快得多。我怀疑，这些 SEO 工厂花十年时间产出的内容，可能在不到一年内被重复出来。
4. 这对互联网的未来意味着什么？想想 2013 年在 Google 上找可靠信息的难度，再想想如今的难度。然后设想这个问题在 2024 年加倍，在 2025 年再加倍。
5. 还会有一个相关问题：当 AI 生成的信息淹没人类创作的信息时，人类会干脆停止生产内容。这样，噪声水平会呈数量级上升，而信号则会同步下降。
二、信息病毒
1. 当我说 GPT 可能是一种信息病毒时，我指的是它即将出现的蔓延趋势。信息经济的经济激励会驱使成千上万的企业去生产 AI 生成的内容。
2. 随着越来越多的互联网内容由 AI 生成，人类将无法再有效地将其作为信息存储系统。
1）他们不会写，因为自己的声音会被 AI 的噪音淹没。
2）他们不会读，因为——既然你可以直接和自己的虚拟助手对话，为什么还要去读 AI 生成的内容？
3. 我怀疑最终结果是：我们的社会将失去大规模传播信息的能力，至少是在过去二十多年我们所依赖的那些方式上。
4. 这种病毒以金钱为食。只要生产内容还有经济价值，人们就会用生成式模型把它倾泻到互联网上。它无法检测，也无法阻止。无论 OpenAI 存不存在，这件事都会发生。
5. 虽然本文主要讨论的是文本，但我认为这将发生在所有数据模态上。图像、文本和音频会首先沦陷，而且很快。视频可能还能安全几年，但如果你觉得它永远安全，那就是自欺欺人。
三、为什么 Google 真的有麻烦了
1. 过去两个月，媒体头条纷纷宣称 Google 有了新的竞争对手。这些报道没错，但方向错了。Google 的大麻烦不在于竞争，而在于生成虚假且无法检测的计算机生成内容的能力被民主化了。
2. Google 是信息经济的守门人，而 GPT 信息病毒将以信息经济为食。随着互联网被无法检测的 AI 内容“填满”，Google 的搜索算法将无法可靠工作。
3. 有人抱怨 ChatGPT 会自信地给出错误答案，并说 Google 没有这个问题。这些人忽视了一个关键事实：ChatGPT 的回答会被发布到网上，而 Google 无法检测它们。很快，Google 也会被这些自信的错误答案填满，而目前没有已知方法可以将它们过滤掉。
4. 在一个 99% 内容由 AI 生成的信息泥潭中，Google 搜索将不再有效。人们将不再使用它，广告商也会停止投放广告。这才是 Google 的真正生存威胁，与 OpenAI 或微软无关。即使 Google 明天发布一个远胜 ChatGPT 或 Bing 的 Bard 版本，这个基本事实也不会改变。
5. 阴谋论者的我怀疑 Google 管理层是知道这件事的。这可能就是他们从未发布 Lambda 或类似聊天机器人的原因。
6. 我是否认为 Google 已经完了？不——不一定。但它不再“安全”了。它需要建立全新的产品线，并在此之上建立新的变现结构——在失去当前资金来源之前。这将是动荡的十年。幸运的是，在我看来，Google 仍然有很高的“人才密度”。阻碍它的，只有高层管理和官僚主义。
（顺便说一句，我在 Google 工作了过去五年——我热爱这家公司，也大多喜欢它的文化，对那里的同事怀有深厚的敬意。）
四、这会是“Web 3.0”的真正崛起吗？
1. 在 COVID 危机期间，有个有趣的插曲——一些科技哲学家声称我们正处于“去中心化网络”的风口。但我一直没看到他们回答一个问题：“你打算怎么让我 60 岁的母亲用你的 Web 3.0？”
2. 如果我上面的预测成真，Web 3.0 可能真的会“成为现实”。某种形式的去中心化网络，很可能会成为人类通过计算机相互交流的唯一方式。
3. 阻止信息病毒的唯一方法，是让生产内容的经济价值变为负数。这听起来很像我理解的 Web 3.0！
4. 具体会如何发展更难预测，但我认为，至少在解决 GPT 信息病毒带来的部分问题上，加密货币可能会提供一些解决方案。
五、用积极的语气收尾
1. 本文的“末日论”味道很浓。但事实是，我们熟知的 2000 年代初的网络已经在走向衰亡。几年前我意识到，用 Google 搜索的最佳方式，是在关键词前加上“reddit”，或者直接用 YouTube。
2. 我认为，让社会“走出”旧网络，整体上是个积极的进展。我不能确定接下来会更好，但我很确定现在的网络不值得去挽救。
3. 撇开网络的命运不谈，我认为 GPT 是一种巨大的积极力量。几年之内，每个人都能把人类知识的压缩版本放进一个 U 盘，带出家门。人人都能获取一个“极其优秀”的信息来源，涵盖数学、科学、医学、编程等领域，并能通过自然语言接口访问它。
4. 是的，它会有缺陷——但它依然会对真正的使用者极具价值。这让我感到非常兴奋。我相信，人类社会整体将因此向前迈进一步。
原文：nonint.com/2023/03/09/gpt-might-be-an-information-virus/
#人工智能##互联网公司#
