AIGC 将成为人类的噩梦

[AManOnShelf]

ChatGPT 现世以来，互联网上充满了对各种 AIGC 模型的赞美。各路专家都在各种媒体上畅想着科幻小说般的未来。

然而根据 Murphy's Law： "Anything that can go wrong will go wrong."。在 LLM 革命人机交互方式的同时，在 Diffusion Model 颠覆艺术设计行业的同时，AIGC 不可避免地将成为互联网上极高效的垃圾制造机。比现在多数个数量级的垃圾内容 /虚假内容将把互联网上本就稀少的有价值的信息淹没。未来的人类将把绝大多数计算资源浪费在存储和筛选信息上。

如今的人类社会可以说完全是建构在互联网之上。而一个完全失去真实性的互联网，将使人类社会建构的基础完全被摧毁。假如一个人看到的文章、图片、音频、视频，都看上去有模有样，实际是完全虚假的 AIGC ，那么他还能相信什么？显然对时间和手段都有限的人类个体来说，是没有精力对这么大量的信息进行 fact check 的。失去了一个可以立足的基点，人的精神世界的崩溃只是早晚的事。

因此，各国要尽早立法对 AIGC 进行监管。所有内容提供商必须对 AIGC 产生的内容进行明显的标注；所有 model 提供商必须提供对应的 model 对它们产生的内容进行可靠的检测。如果现阶段不能通过技术手段解决这个问题，暂时禁用 AIGC 也绝不为过。

[zooo]

过度担心，就算没有 ChatGPT 互联网上的垃圾信息会少吗？技术始终是技术，怎么使用是人的问题。

另外，你提到，“一个人看到的文章、图片、音频、视频，都看上去有模有样，实际是完全虚假的 AIGC ，那么他还能相信什么”，但是虚假的信息能够使人产生快乐，那么其也有价值，比如艺术绘画、直播美颜、小说等；但是另外一些 zf 公文等一些需要真实无误的信息，完全有能力有技术保持其真实性，比如区块链技术、加密技术等。

科学技术目前来说不会停滞，一直向前，与其担忧，不如合理引导。

ChatGPT 的诞生，也同汽车、摄像机的诞生一样，是历史发展到一定程度的必然产物，与其通过各种监管阻碍其发展，不如合理引导应用，“合理引导应用”说着简单，但是做起来确实难，对各国 zf 是个考验，类似的东西还有比特币。

世界目前向着虚拟化、智能化、、去中心、多中心、并且失控的方向不断发展。

非 ChatGPT 回答。

[AManOnShelf]

> 就算没有 ChatGPT 互联网上的垃圾信息会少吗？
机器产生内容的速度可比人工高多了。我打这几百字的时间，ChatGPT 已经几百上千篇类似的文章生成好了。

> 技术始终是技术，怎么使用是人的问题。
所有的新技术，都必然会首先应用在非法的领域，因为技术刚出现的时候是没有监管的。

> 虚假的信息能够使人产生快乐，那么其也有价值，比如艺术绘画、直播美颜、小说等；
毒品也可以使人产生快乐，虚假信息就是赛博毒品。

> 但是另外一些 zf 公文等一些需要真实无误的信息，完全有能力有技术保持其真实性，比如区块链技术、加密技术等。
No ，区块链技术和加密技术解决不了这个问题。最基本的，它们都不能保证上链 /加密之前的内容是非 AIGC 的。

后面监管的部分我没有太多意见，只是我认为监管力度要做到最大。

@zooo

[good1uck]

你说仓颉造字那会，有没有人会站出来说大家要警惕文字，因为文字能传播虚假消息

[AManOnShelf]

@good1uck

false analogy: https://zh.wikipedia.org/zh-hans/不当类比

[1OF7G]

大不了人类互联网时代文明重开，浪费个一两百年而已。

[mikeling]

反对, 杞人忧天