陶哲轩：不是通用人工智能，而是通用人工聪明

菲尔兹奖得主给当前 AI 下了个新定义。

数学家陶哲轩 Terence Tao(@tao) 在 Mastodon 上给出了对当前 AI 能力的判断：

我怀疑任何类似真正「通用人工智能」的东西，都不在当前 AI 工具的能力范围之内。
然而，我认为一种更弱、但仍然相当有价值的「通用人工聪明」正在以各种方式成为现实。

AGI vs AGC

陶哲轩提出了一个新概念：Artificial General Cleverness（通用人工聪明），简称 AGC。

这和我们常说的 AGI（通用人工智能）有什么区别呢？

在陶哲轩看来，「通用聪明」是指通过某种临时性手段来解决各类复杂问题的能力。

这些手段可能是随机的，可能是暴力计算的结果，可能是无根据的或容易出错的，也可能是无法解释的，或者可以追溯到 AI 训练数据中类似的技巧。

所以它们不能算作真正「智能」的结果。

但即便如此，陶哲轩表示，这些系统在越来越广泛的任务上，确实能达到相当不错的成功率。

尤其是当它们配合严格的验证流程，用来过滤掉错误或不靠谱的方案时，能达到单个人类无法企及的规模。

陶哲轩用了一个很妙的比喻：

这就像看魔术。

当你看到一个精彩绝伦的魔术表演时，你会惊叹。

但当你知道魔术是怎么变的之后，那种敬畏感就消散了，或者说，转变成了对技术的尊重。

这就造成了一个有些反直觉的组合：一种既非常有用、又令人印象深刻的技术，同时又从根本上让人感到不满足和失望。

当前的 AI 就是这样。

它能产生看起来很神奇的结果，但一旦你理解它是如何工作的，通过模式匹配、统计关联和暴力计算，那种敬畏就变得更为理性了。

陶最核心的洞察是：

对于人类来说，聪明和智能是高度相关的特质。但对于 AI 工具来说，这两者是高度解耦的。

AI 系统被优化的目标就是「聪明」：找到捷径、识别模式、用暴力计算直到某个方案奏效。

但真正的「智能」意味着从第一性原理出发进行推理，在不同领域之间迁移抽象概念，为陌生问题构建全新的解决方案。

AI 擅长聪明，是因为 Transformer 架构优化的就是这个：在海量训练数据上进行概率性的模式识别。

那么，该怎么用这些工具呢？

陶给出了一个务实的视角：

把当前这一代工具主要视为有时聪明、往往有用的想法和输出的随机生成器，在试图用它们解决困难问题时，这可能是一个更有成效的视角。

换句话说：

别指望智能，而是大规模利用聪明，再配上严格的过滤。

模型抛出大量候选方案，然后你用严格的过滤器剔除掉不好的。

当你在足够大的规模上这样做时，即便每一次单独的尝试都不太可靠，我们也能通过数量和筛选压力得到超越单个人类的结果。

从而让输出在技术上，仍然很有价值。

原帖链接：https://mathstodon.xyz/@tao/115722360006034040