超级智能作为超越通用人工智能（AGI）的更高层级 AI 目标，吸引着 Meta、OpenAI 等科技巨头重金投入。OpenAI 首席执行官 Sam Altman 曾表示构建超级智能是 “工程问题”，暗示已有可行路径。然而，Meta AI 研究员 Jack Morris 公开质疑：基于大语言模型（LLM）的强化学习（RL）路线，根本无法实现超级智能。
Morris 在博客中剖析了实现超级智能的三大可能方向：监督学习（SL）、基于人类验证的 RL、基于自动验证的 RL。他认为，当前最好的 AI 系统依赖互联网文本数据，非文本数据（如图像、视频）尚未证明能提升模型性能。因为文本是人类思维的直接映射，蕴含高价值信息，而原始感官数据缺乏这种 “预处理” 优势。但随着数据抓取趋于极限，“数据墙” 危机正在逼近。
在学习算法层面，SL 通过预测下一个 token 训练模型，曾被认为可能催生超级智能。但 Morris 指出，如今模型参数扩展面临硬件和电力瓶颈，10^19 参数规模难以企及；即便实现，仅靠预测人类文本也无法突破通用智能。RL 虽能通过反馈优化模型，但存在冷启动等难题，需结合 SL 解决。
基于人类验证的 RL，受限于标注成本和人类本身非超级智能的局限性，难以提供可靠的训练信号。而基于自动验证的 RL（如 OpenAI 的 o1 模型通过可验证奖励训练），虽在数学题、编程等可验证任务上表现出色，但 Morris 质疑其迁移能力 —— 解决数学问题的能力能否迁移到预订机票？提升编程能力能否让模型成为优秀工程师？
他悲观预测：LLM 将在训练范围内的任务持续优化，但无法进化为单一的超级智能模型。这场关于超级智能路线的争论，不仅关乎技术路线选择，更预示着 AI 未来发展方向的激烈博弈。