基于原始计算的智能架构:DeepSeek 打破了“越大越好”的 AI 开发方法

2.3 这种向智能架构而不是原始计算能力的转变可以帮助我们摆脱Jevons悖论陷阱,因为重点从我们能负担得起多少计算转移到我们能以多智能的方式设计我们的系统

20250203142548

 

AI 的叙事已经达到了一个关键的拐点。DeepSeek 的突破——在不依赖最先进的芯片的情况下实现最先进的性能——证明了 NeurIPS 上的许多人在 12 月已经宣布的那样:AI 的未来不是为问题投入更多计算,而是重新构想这些系统如何与人类和我们的环境一起工作。

作为一名在斯坦福大学受过教育的计算机科学家,我见证了 AI 发展的前景和危险,我认为这一刻比 ChatGPT 的首次亮相更具变革性。我们正在进入一些人所说的“推理复兴”。OpenAI 的 o1、DeepSeek 的 R1 和其他产品正在超越蛮力扩展,转向更智能的东西——并且以前所未有的效率做到这一点。

为什么私有计算应成为 AI 战略的一部分 - AI Impact Tour 2024,这种转变再及时不过了。在他的 NeurIPS 主题演讲中,前 OpenAI 首席科学家 Ilya Sutskever 宣称“预训练将结束”,因为虽然计算能力在增长,但我们受到有限互联网数据的限制。DeepSeek 的突破验证了这一观点——这家中国公司的研究人员以一小部分成本实现了与 OpenAI 的 o1 相当的性能,这表明创新不仅仅是原始计算能力,才是前进的道路。


无需大量预训练的高级 AI

世界模型正在加紧填补这一空白。World Labs 最近筹集了 2.3 亿美元,用于构建能够像人类一样理解现实的 AI 系统,这与 DeepSeek 的方法相似,他们的 R1 模型展示了“顿悟”时刻——像人类一样停下来重新评估问题。这些系统受到人类认知过程的启发,有望改变从环境建模到人机 AI 交互的一切。

我们看到了早期的胜利:Meta 最近对其 Ray-Ban 智能眼镜的更新实现了与 AI 助手的持续上下文对话,无需唤醒词,以及实时翻译。这不仅仅是一项功能更新——它是 AI 如何在不需要大量预训练模型的情况下增强人类能力的预览。

然而,这种演变也带来了微妙的挑战。虽然 DeepSeek 通过创新的训练技术大大降低了成本,但这种效率突破可能会自相矛盾地导致整体资源消耗增加——这种现象被称为杰文斯悖论,其中技术效率的提高往往会导致资源使用增加而不是减少。

在 AI 的案例中,更便宜的训练可能意味着更多的组织训练更多的模型,这可能会增加净能耗。但 DeepSeek 的创新不同:通过证明无需尖端硬件即可获得最先进的性能,他们不仅提高了 AI 的效率,而且从根本上改变了我们进行模型开发的方式。

这种向智能架构而不是原始计算能力的转变可以帮助我们摆脱 Jevons 悖论陷阱,因为重点从“我们能负担得起多少计算”转移到“我们能以多智能的方式设计我们的系统”。正如加州大学洛杉矶分校教授 Guy Van Den Broeck 所指出的那样,“语言模型推理的总体成本肯定不会下降。这些系统对环境的影响仍然很大,推动行业转向更高效的解决方案——这正是 DeepSeek 所代表的创新类型。


优先考虑高效的架构

这种转变需要新的方法。DeepSeek 的成功验证了这样一个事实,即未来不是构建更大的模型,而是构建更智能、更高效的模型,这些模型与人类智能和环境限制相协调。

Meta 的首席人工智能科学家 Yann LeCun 设想,未来的系统会像人类一样花费数天或数周的时间思考复杂的问题。DeepSeek 的 R1 模型具有暂停和重新考虑方法的能力,代表了朝着这一愿景迈出的一步。虽然这种方法需要大量资源,但可能会在气候变化解决方案、医疗保健创新等方面取得突破。但正如卡内基梅隆大学的 Ameet Talwalkar 明智地警告的那样,我们必须质疑任何声称这些技术将引领我们走向何方的人。

对于企业领导者来说,这种转变代表了一条明确的前进道路。我们需要优先考虑高效的架构。一个可以:

· 部署专用 AI 代理链,而不是单个大型模型。

· 投资于针对性能和环境影响进行优化的系统。

· 构建支持迭代式人机协同开发的基础设施。

让我兴奋的是:DeepSeek 的突破证明,我们正在越过“越大越好”的时代,进入更有趣的时代。随着预培训达到极限,创新公司寻找新的方法,以更少的资源实现更多的目标,这个令人难以置信的空间为创造性的解决方案打开了大门。

由更小的专业代理组成的智能链不仅效率更高,而且将帮助我们以前所未有的方式解决问题。对于愿意以不同方式思考的初创公司和企业来说,现在是我们再次享受 AI 乐趣的时刻,构建对人类和地球真正有意义的东西。


Kiara Nirghin 是斯坦福大学屡获殊荣的技术专家、畅销书作家和 Chima 的联合创始人。