Inception 是一家位于帕洛阿尔托的新公司，由斯坦福大学计算机科学教授 Stefano Ermon 创立，声称已经开发了一种基于“扩散”技术的新型 AI 模型。Inception 称其为基于扩散的大型语言模型，或简称“DLM”。
现在最受关注的生成式 AI 模型大致可分为两种类型：大型语言模型 （LLM） 和扩散模型。建立在 transformer 架构上的 LLM 用于文本生成。同时，为 Midjourney 和 OpenAI 的 Sora 等 AI 系统提供动力的扩散模型主要用于创建图像、视频和音频。
据该公司称，Inception 的模型提供了传统 LLM 的功能，包括代码生成和问答，但性能明显更快，计算成本更低。
Ermon 告诉 TC，他在斯坦福大学的实验室里研究了如何将扩散模型应用于文本很长时间。他的研究基于这样一种观点，即与扩散技术相比，传统的 LLM 相对较慢。
对于 LLM，“在生成第一个单词之前，你不能生成第二个单词，在生成前两个单词之前，你不能生成第三个单词，”Ermon 说。
Ermon 正在寻找一种将扩散方法应用于文本的方法，因为与按顺序工作的 LLM 不同，扩散模型从它们生成的数据（例如图片）的粗略估计开始，然后一次性将数据全部聚焦。
Ermon 假设使用扩散模型可以并行生成和修改大块文本。经过多年的尝试，Ermon 和他的一个学生取得了重大突破，他们在去年发表的一篇研究论文中对此进行了详细说明。
Ermon 认识到这一进步的潜力，于去年夏天创立了 Inception，并聘请了两名前学生，加州大学洛杉矶分校教授 Aditya Grover 和康奈尔大学教授 Volodymyr Kuleshov 共同领导该公司。
虽然 Ermon 拒绝讨论 Inception 的融资问题，但 TC 了解到，梅菲尔德基金已经进行了投资。
Emron 表示，Inception 已经通过满足客户对减少 AI 延迟和提高速度的关键需求，获得了包括未透露姓名的财富 100 强公司在内的客户。
“我们发现，我们的模型可以更有效地利用 GPU，”Ermon 说，他指的是通常用于在生产中运行模型的计算机芯片。“我认为这是一件大事。这将改变人们构建语言模型的方式。
Inception 提供 API 以及本地和边缘设备部署选项，支持模型微调，以及一套适用于各种用例的开箱即用的 DLM。该公司声称其 DLM 的运行速度比传统 LLM 快 10 倍，同时成本降低 10 倍。
“我们的'小型'编码模型与 [OpenAI]的 GPT-4o mini一样好，但速度却快了10多倍，”该公司发言人告诉 TC。“我们的'迷你'模型优于 [Meta]的 Llama 3.1 8B 等小型开源模型，每秒可处理 1000 多个tokens。”
“Tokens”是行业术语中原始数据的比特。假设 Inception 的说法成立，每秒 1000 个tokens确实是一个令人印象深刻的速度。