印度初创公司 NeuroDX 的 240M 参数模型 Sphota 在约 11 项基准上略胜 Liquid AI

印度打造前沿AI的雄心，或许在一个拥有2.4亿参数的语言模型身上找到了一个出人意料的竞争者——该模型对构建AI的传统方式提出了挑战。

NeuroDX是一家由IndiaAI Mission支持的印度初创公司，源自脑部研究。该公司表示，其新模型Sphota在约11项基准测试的平均成绩上超过了Liquid AI的一款同类模型，同时所需的训练数据显著更少。

根据该公司报告的基准测试结果，Sphota得分为52.4%，而Liquid AI为52.1%。值得注意的是，NeuroDX首席执行官Siddharth Panwar声称，Sphota以少50倍的训练数据实现了相当的性能，并提供4.5倍更好的内存效率。

这些结果尚属初步，尚未通过独立的公开评测得到证实。不过，它们指向了一种可能不同的语言模型构建方式——这种方式试图直接捕捉意义，而不是主要依赖预测下一个词。

“我们并不是一开始就打算构建一个高效的小模型。我们只是有了一个架构，然后从小规模做起，因为那是我们能玩得起的规模，”Panwar在接受AIM《Front Page》独家采访时说。

Sphota的起源在于理解人脑的努力。

NeuroDX最初专注于医疗健康，开发用于解读从头皮记录的脑电图（EEG）信号的AI模型。这些信号包含有关大脑活动的信息，但与MRI扫描等医学图像不同，难以直接解读。

在电子和信息技术部（MeitY）和IndiaAI Mission的支持下开发大脑基础模型时，Panwar和他的团队遇到了传统AI架构的一个问题。

大多数语言模型将文本划分为token，并通过预测接下来是什么来学习模式。然而，EEG信号并不像书面语言那样具有自然的划分。将其拆分为token需要任意决定，这可能限制模型解读底层信息的有效性。

团队开始探索能否超越token，转而建模信息中嵌入的意义。

由此产生的架构创新被证明可应用于脑信号之外，促使该公司尝试语言模型。

Sphota的名字取自与印度哲学家和语言学家Bhartrihari相关的语言学概念，他认为意义是作为整体被领会的，而不仅仅是通过处理单个词来拼装。

Panwar认为，传统语言模型最终能够达到对意义的理解，但往往需要海量训练数据和算力才能做到。

设想两个描述同一事件的句子：某人把一本书给另一个人，接受者从给予者那里收到一本书。尽管措辞不同，底层事件保持不变。

传统模型通过大量训练学会识别这种关系。相比之下，Sphota从一开始就把识别这些底层相似性作为一项设计原则。

“你要构建的是那个主层，不仅关乎token，而且有意识地在工程架构层面，你试图看看如何构建这个后来者，”Panwar说。

该公司认为，这种方法可以帮助较小的模型以更少的训练数据发展出某些能力。这些收益能否在更广泛的任务和更大的模型上持续存在，仍有待确定。

训练数据少50倍，内存效率高4.5倍

围绕Sphota最具影响的说法涉及训练和运行AI模型的成本。

据Panwar称，50倍这一数字比较的是Sphota和Liquid AI的模型为达到相似基准性能所使用的训练数据量。4.5倍内存效率的说法则涉及模型在可比条件下能保留多少对话上下文。

更长的对话和更大的上下文窗口要求模型管理越来越多的信息，这给内存资源带来额外需求。

Panwar表示，Sphota的架构可以让它在使用更少内存的同时，比同类模型保留多得多的上下文。

然而，这些数字代表的是该公司报告的比较结果，而非在所有模型和工作负载上经独立验证的结果。最终收益将取决于该架构在扩展时的表现，以及它在同等测试条件下与其他系统的比较。

Panwar还提醒说，迄今为止观察到的效率提升，在模型广泛可用时可能不会直接转化为相同的数字。

该公司在一个小团队的情况下，只用了几个月时间开发Sphota。它现在正在开发一个参数规模在10亿至20亿之间的大型模型，Panwar的目标是在12月前后发布。他说，用户有可能通过公司网站上的聊天机器人访问它。

下一个模型将是对Sphota早期结果能否在更大规模上成立的重要检验。

NeuroDX更名为MANNAS AI

在推进模型雄心的同时，NeuroDX正准备更换身份。

Panwar透露，公司正在更名为Manaas AI，以反映其从一家专注于医疗健康的企业向基础模型公司的转型。

这家初创公司仍涉足神经科医疗健康领域，但其更宏大的目标是开发通用智能，并在印度打造一家全球性科技公司。

Panwar表示，公司的脑基础模型已公开可用，而在MeitY和IndiaAI Mission支持下开发的模型则计划开源。

不过，公司目前计划将底层的Sphota架构保持专有，以便建立竞争优势，并吸引进一步发展该技术所需的资源。

“我们只是要确保这一架构保持专有，”Panwar说。

Sphota的出现还引出一个更大的问题：在无法获得全球科技巨头所拥有的算力资源和资本的情况下，印度公司能否在前沿AI领域参与竞争？

NeuroDX是入选IndiaAI Mission主权AI模型开发计划的公司之一。Panwar表示，公司获得了368块H200 GPU、为期18个月的算力资源，以及1250万卢比资金，用于开发一个200亿参数的多模态EEG模型。

这一分配凸显了印度AI开发者在资源有限的情况下尝试构建雄心勃勃的模型时所面临的制约。

Panwar承认，工程师已准备好进行实验，却没有足够的GPU来探索每一个研究方向，这令人沮丧。但他认为，这种短缺不应迫使印度放弃前沿AI竞赛。

“仅仅因为我们没有足够的风险资本就放弃前沿，这是自杀式的，”他说。

对Panwar而言，构建前沿模型的理由不止于商业回报。在国内开发这些系统将使印度研究人员能够理解先进AI的运作方式，调查模型的意外行为并开发适当的保障措施，而不是完全依赖其他地方构建的技术。

已有人工智能实验室在基于Transformer的系统上投入巨资，这为初创公司提供了机会，去研究不依赖相同基本假设的方法。

“你无法通过追赶他们来实现跨越。你可以通过在他们所走的技术方向上构建某种完全正交的东西来实现跨越，然后发现自己走在了他们前面，”他说。

Panwar表示，公司正寻求筹集超过1000万美元，不过此次采访并未确认已完成融资轮。

尽管新重心转向基础模型，Mannas AI的医疗健康雄心仍是其工作的核心。

公司正在开发基于EEG的筛查系统，旨在识别可能面临神经系统疾病风险的人群，包括痴呆症、癫痫和抑郁症。

该系统使用一种小型、相对廉价的设备记录脑信号，无需高度专业化的人员即可操作。其AI模型随后生成风险画像，帮助MBBS医生决定是否将患者转诊给专科医生。

其目标是將筛查扩展到神经科专家资源有限的初级医疗中心和村庄。

Panwar表示，这些模型正在接受评估，可能在2026年底或2027年初准备好部署。更广泛的部署将取决于与政府及其他医疗健康利益相关方的合作。

公司已在较长时期内收集了经过仔细标注的EEG数据，并获得了必要的伦理批准和知情同意，用于开发和微调这些模型。

Sphota面临的直接考验是，其报告的基准测试和效率提升能否经受独立审查，并在超过2.4亿参数后依然成立。其更长期的考验是，一支小型印度团队能否将架构突破转化为具有竞争力的基础模型。

对Panwar而言，这一雄心不止于再建一家AI初创公司。他希望印度工程师相信，他们能够创造前沿技术，而不仅仅是为已经拥有这些技术的公司工作。

“Mannas的全部目的就是表明，绝对没有什么是我们做不到的，”他说。