AI 的现状如何

本月是 2024 年 5 月，距离 ChatGPT 第一个版本的发布还不到 3 年。这 3 年里，互联网世界发生了巨大变化。

我能明显的感觉到，AI 生成内容开始大量“入侵”互联网，到处都能看到 GPT 味道的文章，Midjourney 风格的图片，也许就在明年，Sora 风格的视频就能随处可见。

AI 内容就像洪水，一遍一遍冲刷着互联网。

我常常在想，AI 最终会变成什么样子呢？

埃隆·马斯克认为，AGI（通用人工智能）终有一天将超越人类，成为一种新的生命形式存在。

那么，AI 的发展会存在极限吗？AI 真的会变成科幻片中“神”的样子吗？

AI作图

AI 进步的“三驾马车”

我曾经看到吴军博士的一篇文章：以 GPT 为代表的语言模型的发展，主要来自于数据、算法和算力的进步。

我称之为 AI 发展的三驾马车。

然而，一个硬币总有两面，既然这三个要素能加速 AI 的发展，那么一定也定义了它发展的上限。

于是经过了一番整理和思考，我有了新想法。

信息论 确定了数据的极限。

信息论决定了 AI 的知识总体范畴。就算 AI 的理解力再强，也一定无法超越人类提供给他的数据的总和。

体现在结果上，数据量太少或者质量太差，AI 的训练结果就不会好。

近几年 AI 大模型所获得的优良性能，都离不开优质的数据的喂养。

而互联网、云计算的发展让数据的收集和获取变得容易了许多。

但是，优质数据毕竟有限，直到目前，优良的文本数据已经被使用得差不多了，也许，AI 在数据上的优势正慢慢接近上限。

AI作图

在算法上，哥德尔不完备性定理早已限制了上限。

哥德尔认为：一个数学系统不可能同时兼具完备性和一致性。通俗点说，就是如果我们规定了一套规则，那么随着规则变多，规则之间出现矛盾的可能性就越大。解释一下就是，不存在一套数学规则可以完美处理现实生活中的所有情况。

神经网络也好，注意力网络也罢，都是由数学公式定义的。

如果 AI 的发展无法超出数学的界限，那么它一定不会成为像人类一样的生命体。智慧，情感，复杂决策这些无法用数学来处理的问题，AI 永远也处理不了。

另外，热力学是 AI 在算力上的枷锁。

热力学第二定律说，能量的转换是不可逆的。

宇宙总是向着“热寂”的方向前进，人类能够利用的能量也是有限的。但是训练 AI 需要耗费巨大能量。

前几天我看到一则新闻，说 OpenAI 为了保持自己在 AI 领域的领先地位，正在筹备一个 1000 亿美元 “星际之门”项目，它的耗电量相当于一个城市。

可是，现在气候变化的趋势愈演愈烈，耗费巨大电力训练 AI 是值得的吗？这一切都很不好说……

人类社会发展的源动力总共就两个：能源和信息。要么获取更多的能源，要么提高信息的利用率。

工业革命和信息革命都使人类社会快速发展，因为工业革命让我们更有效的利用能源，而信息革命使得交流沟通变得更容易。

也许从 100 年后看现在，那时候的人们会认为 AI 无非就是另一种高效处理的信息的方式，就像现在的我们看工业革命那样。