巴勒斯坦Brains Build Research团队的模块化AI突破

这项由巴勒斯坦Brains Build Research团队主导的研究发表于2026年4月，论文编号为arXiv:2604.01152v1，提出了一种名为"Brainstacks"的革命性架构。有兴趣深入了解的读者可以通过该编号查询完整论文。

目前的大语言模型就像一个巨大的图书馆，所有的书籍都混在一起，想要添加新书就必须重新整理整个图书馆。当你想让AI既能写代码又能回答医学问题时，通常需要把所有训练数据混合在一起重新训练，这不仅耗时费力，还容易让模型"忘记"之前学会的技能。

研究团队开发的Brainstacks系统彻底改变了这种局面。它就像建造一栋智能公寓楼，每个专业技能都住在独立的房间里，需要的时候可以灵活调用不同房间的专家来协作解决问题。更神奇的是，当需要新技能时，只需要添加新房间，而不会影响其他房间里的专家。

这项研究最令人震惊的发现是：医学问题的最佳解决方案竟然不是调用医学专家，而是让聊天专家和数学专家联手合作，成功率达到97%。这完全颠覆了人们对AI学习的理解，原来AI学习的不是具体知识，而是可以跨领域使用的思维能力。

一、模块化AI的诞生：从单体巨兽到灵活积木

传统的AI训练就像烘焙一个巨大的蛋糕，所有原料必须一次性混合烘烤。一旦想要改变口味，就必须重新制作整个蛋糕。这种方式存在三个致命问题：首先，添加新技能需要从头开始训练，就像重新烘焙整个蛋糕一样耗时耗力；其次，无法单独移除或更新某项技能，就像无法从烘焙好的蛋糕中单独取出某种原料；最后，模型会对所有输入使用全部技能，就像用治疗心脏病的药物来治疗感冒一样不合适。

Brainstacks的解决方案就像开设一家专业餐厅，每个厨师都专精某种菜系，并且可以根据顾客需求灵活组合不同厨师来制作菜品。这个系统的核心是"冷冻的MoE-LoRA堆栈"，听起来很复杂，但本质就像冷冻保存专业厨师的技能。每当训练完成一个领域的技能后，就将其"冷冻"保存，确保这些技能永远不会退化或遗忘。

这种架构有五个关键组件协同工作。首先是MoE-LoRA构建模块，就像一个智能分配器，能够在四个专家中选择最合适的两个来处理每个具体任务，并且采用4位量化技术大幅减少内存占用。其次是内循环系统，通过"残差提升"技术让多个专家叠加工作，第一个专家处理主要问题，第二个专家处理第一个专家遗漏的细节，如此反复直到达到最佳效果。

外循环系统负责按照精心设计的顺序训练不同领域，就像学习语言一样，先掌握基本语法再学习专业词汇。接下来是零空间投影技术，这是一个数学上的巧妙设计，确保新技能的训练不会干扰已有技能，就像在已有的房间旁边建造新房间时，不会影响原有房间的结构。最后是结果导向的元路由器，这个智能调度系统通过实际测试发现最佳的技能组合方式，而不是简单地按照标签分类。

研究团队还进行了两个边界实验来验证架构的适用性。一个是在随机初始化的模型上进行预训练实验，测试架构是否需要预训练基础；另一个是领域强化学习实验，验证这种堆叠方式是否与后续的对齐训练兼容。

二、技术核心：让AI专家学会协作的秘密

MoE-LoRA构建模块是整个系统的基础，它的工作原理就像一个智能餐厅的点菜系统。当客户下单时，系统不是让所有厨师都参与制作，而是从四个专业厨师中选择最合适的两个来协作完成菜品。每个专家都由两个低秩矩阵组成，就像每个厨师都有自己的专用工具箱，这些工具通过特殊的缩放因子进行优化，确保新加入的厨师不会在一开始就破坏菜品质量。

系统采用了Shazeer风格的噪声路由机制，这就像给点菜系统增加一些随机性，防止总是选择同样的厨师组合。在训练期间，系统会故意引入一些"噪声"来鼓励尝试不同的专家组合，就像鼓励顾客偶尔尝试新的菜品搭配一样。在实际使用时，这种噪声会被关闭，确保系统选择最可靠的专家组合。

更令人印象深刻的是，这个系统应用到了transformer的全部七个关键部分，包括注意力机制的四个投影（查询、键、值、输出）和前馈网络的三个投影（门控、上升、下降）。这相当于给餐厅的每个工作环节都配备了专业团队，从接待客人、准备原料到烹饪和摆盘，每个步骤都有专门的专家负责。

堆叠式管理层负责协调所有专家的工作。它就像一个经验丰富的餐厅经理，知道如何将不同专家的技能组合起来。已经"冷冻"的专家技能被永久保存，不再改变，就像资深厨师的经典菜谱一样稳定可靠。只有当前正在训练的专家会接受新的学习和调整。为了节省资源，已冷冻的专家平时存储在CPU内存中，只有需要时才临时调用到GPU进行计算。

三、双环训练：内外兼修的学习策略

Brainstacks采用了一种独特的双环训练策略，就像培养一个全能运动员，既要在单项技能上精益求精，又要在不同项目间找到最佳组合。内环专注于单个领域的深度优化，外环则负责跨领域的协调发展。

内环的"残差提升"技术特别巧妙。第一个专家学会了领域的基础技能后被冷冻保存，然后添加第二个专家来学习第一个专家没有掌握的细节。这就像学习钢琴，第一遍练习掌握基本旋律，第二遍练习加入情感表达，第三遍练习完善技巧细节。每一轮都在前一轮的基础上补充完善，而不是重新开始。

这种方法的效果非常显著。在聊天领域的测试中，单个专家的表现会在某个水平上停滞不前，但通过残差提升，系统能够突破这个"天花板"，在三轮训练后实现2.4%的相对改进。每一轮都会增加约5300万个参数的专家网络，这些专家学会了前面专家遗漏的技能点。

系统还配备了智能监控机制，就像健身教练一样监督训练过程。当发现某轮训练的改进幅度小于预设阈值（0.002）时，系统会自动停止继续添加专家，避免浪费资源。同时，最佳状态回调机制会持续监控训练质量，一旦发现性能下降就立即恢复到之前的最佳状态，确保每个被冷冻的专家都是高质量的。

外环的训练顺序经过精心设计，就像学习语言一样遵循从基础到高级的规律。聊天技能作为第一个训练领域，为所有后续技能提供指令遵循和输出格式化的基础能力。代码技能紧随其后，引入结构化和程序性思维模式。数学技能在第三位，受益于代码的计算思维和聊天的解释结构。医学技能排在第四位，能够运用前面学到的数学计算、聊天交流和代码逻辑。推理技能最后训练，作为综合所有前述领域的元技能。

四、零空间投影：确保技能永不冲突的数学魔法

零空间投影技术是Brainstacks最精妙的设计之一，它就像在一个多维空间中为每个专家划分专属领域，确保他们永远不会相互干扰。这种技术的数学原理虽然复杂，但可以用一个简单的比喻来理解：假设整个技能空间是一张巨大的画布，每个领域的专家都在上面作画，零空间投影就是确保每个专家只能在自己的区域作画，不会覆盖其他专家的作品。

具体实现过程就像考古学家的精确发掘工作。系统首先运行400个来自已训练领域的验证样本，收集所有已冻结专家在每一层的输出增量。这些数据被组织成矩阵形式，然后通过奇异值分解（SVD）技术找出主要的64个方向，这些方向代表了已有专家占用的"空间"。

接下来的投影过程就像建筑师在设计新房间时避开已有的承重墙。当新专家产生输出时，系统会计算这个输出与已有专家方向的重叠部分，然后将这部分完全移除，确保新专家只能在剩余的"空白区域"发挥作用。这种约束是通过纯粹的线性代数实现的硬约束，不是软性的正则化惩罚，因此能够提供数学上的严格保证。

这种方法在TinyLlama和Gemma 3 12B的实验中都证明了其有效性。对于Gemma 3 12B的3840维隐藏空间，每个领域占用64个方向只使用了1.7%的空间，理论上可以支持50多个领域而不出现容量问题。在更大规模的模型中，比如70B参数的模型通常有8192维隐藏空间，可以支持超过100个领域的共存。

实验数据显示，使用零空间投影后，所有领域的干扰都显著减少。在代码训练完成后，聊天领域的验证损失从1.507降低到1.477。在医学训练后，医学领域本身的改进最为显著，损失减少了0.116。数学训练后，所有四个领域都受益，其中数学领域自身改进最大，损失减少了0.143，相当于12.1%的相对改进。

五、元路由器：发现跨领域协作的智能调度员

元路由器是整个Brainstacks系统中最具创新性的组件，它的工作方式完全颠覆了传统的分类思维。传统方法就像图书管理员，看到医学书就放到医学区，看到编程书就放到计算机区。但元路由器更像一个经验丰富的私人导师，它不关心问题的表面标签，而是测试哪种技能组合能最好地解决具体问题。

这个路由器的架构相当精巧，包含约200万个参数的神经网络，能够接收提示的深层语义特征。它使用中间层和最后层隐藏状态的加权平均作为输入，权重比例为0.45和0.55，就像结合短期记忆和长期理解来做决策。网络内部采用学习查询注意力机制获取全局上下文，然后通过交叉注意力机制为每个领域生成专门的上下文表示。

最关键的是，这个路由器输出独立的sigmoid概率而不是传统的softmax分布。这意味着它可以同时激活多个领域进行协作，就像一个指挥家可以让小提琴、钢琴和大提琴同时演奏，而不是只能选择其中一种乐器。每个领域都有独立的激活概率，从0到1之间任意取值，真正实现了跨领域组合。

元路由器的训练过程是整个研究最令人惊叹的部分。研究团队开发了"结果发现"机制，对每个提示-答案对进行详尽的组合测试。系统首先计算基础模型的损失，然后测试所有五个领域的单独性能，接着贪婪搜索最佳的领域组合，每次添加能够显著降低损失（超过0.01阈值）的领域。对于推理领域，系统采用软增强策略，只要添加推理能带来任何改进就将目标设为0.5而不是1.0，避免低估其微妙贡献。

训练目标巧妙地融合了发现的最优组合（80%权重）和原始标签（20%权重），使用二元交叉熵损失和置信度边际惩罚，推动预测向明确的是非决策靠拢。训练数据按照唯一提示进行分割，防止数据泄露，经过8个周期的余弦学习率调度。最佳检查点通过综合评分选择：50%单领域顶级准确率，35%混合集匹配率，减去15%验证BCE损失。

六、震撼发现：AI学的是思维模式而非具体知识

这项研究最令人震撼的发现完全颠覆了人们对AI学习本质的理解。当研究团队测试医学问题的最佳解决方案时，结果让所有人大跌眼镜：97%的医学问题最好的解决方案不是使用医学专家，而是让聊天专家和数学专家联手合作。这就像发现治疗疾病最好的医生不是专业医生，而是一个善于沟通的数学家。

研究团队仔细验证了这个结果的可靠性。他们确认UltraFeedback数据集中没有医学闪卡内容，GSM8K数据集中也没有临床内容，完全排除了数据泄露的可能性。那么，从未接触过医学数据的聊天和数学专家为什么能在医学问题上表现出色呢？答案令人深思：这些专家学会的不是具体的医学知识，而是可迁移的认知能力。

聊天专家掌握了清晰的答案结构化、指令遵循和解释格式化能力，这些技能不局限于闲聊对话，而是普适的交流能力。数学专家学会了数值推理和逐步计算能力，这种能力同样适用于医学中的剂量计算和定量分析。代码专家掌握了程序性逻辑、顺序分解和结构化输出，这种思维模式在处理任何需要逻辑推理的问题时都很有用。

推理专家更是特殊，它从不独立工作，总是与其他专家组合，100%表现出跨领域特性。它学会了思维链分解，这是一种元认知能力，能够增强任何其他专家的表现。

这个发现彻底重新定义了微调的本质。传统观念认为微调是在向模型注入领域知识，就像往图书馆添加新书。但Brainstacks的证据表明，微调实际上是在注入可组合的认知能力，这些能力恰好通过特定领域的训练数据被激发出来，但本质上是跨领域通用的思维工具。

为了进一步验证这个发现，研究团队进行了一个控制实验。他们使用PSN v2架构，在只训练过儿童故事的基础模型上测试相同现象。这个基础模型从未见过Python语法、医学术语或数学符号。当系统正确激活代码专家处理"编写Python函数反转字符串"的请求时，模型产生了令人惊讶的输出：虽然使用的完全是儿童故事的词汇，但展现出了Python函数的结构模式，包括def关键字、缩进块和冒号语句。

这个结果彻底排除了预训练基础模型已有代码知识的影响。TinyStories基础模型没有任何Python训练数据，但代码能力块学会了代码的结构模式，并通过唯一可用的词汇表达出来。这独立证实了核心发现：领域专家编码的是可迁移的认知原语，而不是领域特定的知识。

七、跨领域协作：AI的隐式工具使用能力

当推理领域作为最后一个训练项目，推理提示路由到聊天、代码和推理的组合时，这些专家不是在执行顺序工具调用，而是在同一隐藏状态上并行工作。代码专家学会的结构化逻辑注意力模式在隐藏状态中处于活跃状态，同时推理专家驱动逐步生成过程。

这种现象可以理解为"知识即思维"而非"知识即行动"。传统工具使用在词元级别操作，生成工具调用指令、接收响应、然后继续。Brainstacks在表征级别操作，模型的内部隐藏状态同时被多个专家塑造，产生隐式能力组合，无需显式的工具使用训练。

这种发现对理解AI的能力组合机制具有重要意义。元路由器通过损失测量发现这些组合，而不是通过手工制作的工具描述，表明智能体能力选择可以作为损失最小化的涌现特性出现在冻结能力模块上。

研究团队观察到的三阶段结果最清楚地证明了元路由器的必要性。在聊天领域完成2个专家后，生成质量完美，神经网络解释连贯，反转字符串产生正确的s[::-1]，医学症状包含正确术语，数学计算产生60公里每小时的准确答案。

但在10个专家未门控状态下，出现了灾难性退化。数学专家的激进思维模式开始主导输出，反转字符串触发关于排列的数学推理，训练速度问题产生关于极限和变量的无意义输出，500毫克/3剂量的医学问题产生关于"可能解决方案"的混乱漫谈。10个同时激活的专家的幅度累积淹没了连贯输出。

而在应用元路由器后，生成质量恢复正常。非数学提示关闭数学专家，非代码提示关闭代码专家。路由器的sigmoid输出选择性地激活相关领域专家，防止跨领域干扰，同时在有益时保留跨领域组合能力，比如BMI计算会激活医学1.0、数学1.0、聊天0.59。

八、实验验证：从理论到实践的全面测试

研究团队在两个不同规模的模型上进行了全面验证：TinyLlama-1.1B（4个领域，9个专家）和Gemma 3 12B IT（5个领域，10个专家）。实验设计非常严密，既验证了单个组件的有效性，也测试了整个系统的综合性能。

首先验证MoE-LoRA构建块的基础性能。在TinyLlama-1.1B上，使用4位量化，对比了MoE-LoRA（4个专家，rank=16，总共53.6M参数）与参数匹配的单一LoRA（rank=64，50.5M参数）。两者使用完全相同的超参数：批次大小16，400步，学习率2×10??。结果显示MoE-LoRA实现了略低的最终验证损失（0.872 vs 0.874），尽管训练损失看起来更高，但这是因为辅助负载平衡损失被加到交叉熵损失中的伪象。

更重要的发现是收敛速度：MoE-LoRA在验证损失每步方面收敛快2.5倍，在约160步时达到单一LoRA 400步的最终性能。虽然MoE-LoRA训练慢2倍（20.2分钟 vs 9.5分钟），这是由于每词元路由计算和4专家评估的开销，但更快的收敛提供了训练效率优势。

TinyLlama多领域持续学习实验训练了4个领域：聊天（tatsu-lab/alpaca，约52K样本）、代码（python_code_instructions_18k_alpaca，约18K样本）、医学（medalpaca闪卡，约33K样本）、数学（GSM8K，约7.3K样本）。内环残差提升最多3轮，外环持续堆叠，零空间投影使用200个样本和32个顶级方向。

训练结果显示了内环残差提升的持续效果：聊天领域3个专家（损失：2.587→1.305→1.303），代码显示最戏剧性改进（0.953→0.505→0.493），医学和数学各训练2轮。高原检测（最小损失增量0.002）正确终止了代码、医学和数学的第3轮，其中进一步的专家将提供可忽略的收益。

为了验证零空间投影的效果，研究团队比较了有无零空间保护的运行。在所有训练阶段，零空间投影持续减少了先前训练领域的干扰。医学训练后，最大的单次改进在医学本身（-0.116），聊天显示小幅减少（-0.015），代码基本不变（+0.002）。数学训练后，所有四个领域都受益：聊天-0.061，代码-0.060，医学-0.082，数学-0.143。

九、大规模验证：在Gemma 3 12B上的突破性表现

研究团队将Brainstacks扩展到更大规模的Gemma 3 12B IT模型，这是一个已经经过指令调优的高能力基础模型。在这种情况下，Brainstacks的价值不是教授模型新知识，而是提供结构化的能力增强，让12B参数中包含但无法可靠激活的能力得以发挥。

实验配置采用4位NF4量化，SDPA注意力，在Colab G4 96GB上运行。五个领域包括：聊天（Nemotron v2 + UltraFeedback + Daring-Anteater，约40K样本）、代码（Python 18k + Nemotron代码 + OpenCodeReasoning + OpenThoughts代码过滤，约48K）、数学（GSM8K + OpenMathReasoning CoT + NuminaMath + Nemotron数学，约53K）、医学（MedQA USMLE + medical-o1-reasoning-SFT + PubMedQA，约20K）、推理（OpenThoughts-114k + Nemotron STEM + Sky-T1 + OpenMathReasoning工具集成，约50K）。

训练过程中出现了一些有趣的现象。聊天领域训练2个专家，验证损失1.021，第2个专家在首次评估时从1.02飙升到2.64，BestStackCallback正确触发早停和权重恢复。代码和数学领域训练顺利，但数学训练后生成质量出现退化：数学专家从OpenMathReasoning和NuminaMath学会了激进的思维推理模式，在非数学提示上压倒了聊天和代码专家。

医学领域的训练经历了数据集迭代。初始使用medalpaca闪卡由于短小重复样本在50步内过拟合，被替换为MedQA（多选题，强制推理）、medical-o1-reasoning（思维链）和PubMedQA（研究多样性），最终验证损失1.38。

推理领域作为元技能训练，但数据敏感性很高：OpenThoughts在格式上严重类似代码，后来导致元路由器将推理信号与代码信号混淆。这直接促成了从v1到v2路由器的迭代改进。

零基线评估测试显示了混合结果，但关键观察是路由系统在任何基准上都没有灾难性退化。在200样本的限制下，差异0.02-0.03落在采样噪声范围内，但元路由器的选择性门控保持了基础模型性能，同时增加了领域特定能力。

十、技术局限与未来展望：模块化AI的挑战与机遇

尽管Brainstacks展现了令人印象深刻的性能，但研究团队诚实地指出了几个重要局限性。首先是推理开销，每个词元都要流过所有加载的冻结专家，每次从CPU传输一个专家。对于10个专家、每个567MB的配置，这为每个生成步骤增加了延迟。生产部署将受益于持久GPU驻留、内核融合或潜在空间压缩技术。

隐藏维度容量上限是另一个考虑因素。每个领域声明64个零空间方向，消耗Gemma 3 12B IT的3840维空间的约1.7%。在50个以上领域时，容量可能成为问题，尽管在70B+模型规模（8192隐藏维）下，超过100个领域可以共存。

路由器训练数据敏感性通过v1到v2推理迭代暴露出来，显示元路由器的质量严重依赖于匹配训练数据特征与每个领域专家的学习信号。推理数据中的代码类格式污染了路由信号，直到用纯语言来源替换。

预训练基础需求通过PSN实验得到确认，该系统需要具有连贯隐藏状态几何的预训练基础模型。在随机初始化权重上堆叠MoE-LoRA产生较差结果，因为修正没有有用的表征空间可供细化。

然而，这些局限性也指向了激动人心的未来方向。研究团队提出了"自扩展LLM"概念，当所有领域得分低于门控阈值时，元路由器的sigmoid输出提供自然的间隙检测器。这种不确定性信号成为自主能力获取的触发器：系统识别能力缺口，使用工具搜索和策划领域特定训练数据，训练新的MoE-LoRA专家，重新训练元路由器整合新领域。

分区子空间网络概念解决了预训练基础需求，提出在预训练期间物理分割残差流本身。每个领域阶段将通过构造声明隐藏维度的专用切片，跨子空间注意力实现领域间组合。与事后纠正现有表征空间的Brainstacks不同，PSN将从初始化开始将模块化结构构建到基础模型几何中。

LatentMoE压缩方向特别实用。每个领域专家当前在全隐藏维度操作，但LatentMoE可以将隐藏状态投影到小潜在空间进行路由和专家计算，然后投影回来，将每专家内存减少约16倍，从Gemma 3 12B上的567MB减少到约35MB。

最令人兴奋的可能是超位置LLM原则的实现：一个模型根据提示呈现不同领域能力，按需加载专业知识，GPU内存与磁盘上存在的总领域专家数量无关。医院加载基础+医学专家，律师事务所加载基础+法律专家，相同基础模型，不同能力，无需重新训练。

这项研究从根本上重新定义了我们对AI学习和能力组合的理解。通过证明领域专家编码可转移的认知原语而非领域特定知识，Brainstacks为可扩展、模块化AI系统铺平了道路，其中能力是货币：一次训练，永久冻结，任意组合。这种范式转变可能会重塑大型语言模型的设计、组合和扩展方式，从单体架构走向真正的模块化智能系统。

说到底，Brainstacks的真正突破不仅仅是技术架构，而是对AI学习本质的重新理解。它告诉我们，AI系统学会的不是孤立的知识片段，而是可以跨领域迁移的思维工具。这种发现让我们重新思考如何构建更智能、更灵活的AI系统，也为未来的AI发展指明了一个全新的方向。当AI能够像人类一样将不同领域的思维方式巧妙组合时，我们或许正在见证通用人工智能的早期形态。

Q&A

Q1：Brainstacks系统是如何实现零遗忘的？

A：Brainstacks通过两个关键机制实现零遗忘：首先是"冷冻"技术，一旦某个领域的专家训练完成就永久冻结其参数，就像把专家技能保存在冰箱里永不变质；其次是零空间投影技术，用数学方法确保新专家的训练不会影响已有专家占用的"空间"，就像在已有房间旁边建新房间时不会影响原房间结构。

Q2：为什么医学问题用聊天和数学专家解决效果更好？

A：这个发现颠覆了传统认知。研究发现AI学习的不是具体知识而是认知能力：聊天专家掌握了清晰的指令遵循和解释能力，数学专家学会了数值推理和逐步计算，这些通用思维工具组合起来处理医学问题比单纯的医学专家更有效，就像一个善于沟通的数学家有时比专业医生更能解释医学计算问题。

Q3：Brainstacks系统能应用到现有的AI模型上吗？

A：目前Brainstacks需要在具有良好预训练基础的模型上使用，比如Gemma 3 12B或TinyLlama这样已经训练好的模型。它不能直接应用到随机初始化的模型上，因为需要基础模型提供稳定的表征空间。不过研究团队正在开发新的架构，让这种模块化能力从模型训练一开始就内置进去。