<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
    <channel>
        <title>MoE on 有鱼智界 | 森林有鱼</title>
        <link>https://www.iyouyu.tech/tags/moe/</link>
        <description>Recent content in MoE on 有鱼智界 | 森林有鱼</description>
        <generator>Hugo -- gohugo.io</generator>
        <language>zh-cn</language>
        <lastBuildDate>Sat, 10 Oct 2026 00:00:00 +0000</lastBuildDate><atom:link href="https://www.iyouyu.tech/tags/moe/index.xml" rel="self" type="application/rss+xml" /><item>
        <title>JetBrains Mellum2.1 深度评测：12B MoE 开源编码模型，靠强化学习把 SWE-bench 从 2.0 拉到 47.0</title>
        <link>https://www.iyouyu.tech/p/jetbrains-mellum2.1-%E6%B7%B1%E5%BA%A6%E8%AF%84%E6%B5%8B12b-moe-%E5%BC%80%E6%BA%90%E7%BC%96%E7%A0%81%E6%A8%A1%E5%9E%8B%E9%9D%A0%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E6%8A%8A-swe-bench-%E4%BB%8E-2.0-%E6%8B%89%E5%88%B0-47.0/</link>
        <pubDate>Sat, 10 Oct 2026 00:00:00 +0000</pubDate>
        
        <guid>https://www.iyouyu.tech/p/jetbrains-mellum2.1-%E6%B7%B1%E5%BA%A6%E8%AF%84%E6%B5%8B12b-moe-%E5%BC%80%E6%BA%90%E7%BC%96%E7%A0%81%E6%A8%A1%E5%9E%8B%E9%9D%A0%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E6%8A%8A-swe-bench-%E4%BB%8E-2.0-%E6%8B%89%E5%88%B0-47.0/</guid>
        <description>&lt;img src="https://images.unsplash.com/photo-1544256718-3bcf237f3974?w=800&amp;h=600&amp;fit=crop" alt="Featured image of post JetBrains Mellum2.1 深度评测：12B MoE 开源编码模型，靠强化学习把 SWE-bench 从 2.0 拉到 47.0" /&gt;&lt;h2 id=&#34;摘要&#34;&gt;摘要
&lt;/h2&gt;&lt;p&gt;2026 年 10 月 8 日，JetBrains 发布了其开源编码模型的下一代 &lt;strong&gt;Mellum2.1&lt;/strong&gt;。规格上它几乎没有变化：仍是 &lt;strong&gt;12B 总参数、2.5B 激活参数&lt;/strong&gt;的混合专家（MoE）模型，&lt;strong&gt;131K 上下文&lt;/strong&gt;，&lt;strong&gt;Apache 2.0&lt;/strong&gt; 许可。真正的变化发生在预训练&lt;strong&gt;之后&lt;/strong&gt;——JetBrains 把强化学习（RL）从&amp;quot;收尾环节&amp;quot;提升为训练的&lt;strong&gt;主体&lt;/strong&gt;，在&lt;strong&gt;数千个真实仓库、数百万个沙箱&lt;/strong&gt;里让模型自己探索代码库、改文件、跑测试并根据结果获得奖励。结果是：&lt;strong&gt;SWE-bench Verified 从 2.0 暴涨到 47.0&lt;/strong&gt;，&lt;strong&gt;LiveCodeBench v6 达到 82.0&lt;/strong&gt;，在重负载下的吞吐量还是同组里最快的。它并不试图当&amp;quot;明星模型&amp;quot;，而是被明确定位成一个&lt;strong&gt;能在你自己的硬件上跑的快速编码工作马与子代理&lt;/strong&gt;。本文评测它的架构、基准、速度与真实定位。&lt;/p&gt;
&lt;p&gt;&lt;img src=&#34;https://images.unsplash.com/photo-1587620962725-abab7fe55159?w=800&amp;amp;h=500&amp;amp;fit=crop&#34;
	
	
	
	loading=&#34;lazy&#34;
	
		alt=&#34;开发者在编辑器前编写代码&#34;
	
	
&gt;&lt;/p&gt;
&lt;h2 id=&#34;事件背景&#34;&gt;事件背景
&lt;/h2&gt;&lt;p&gt;JetBrains 是 IntelliJ、PyCharm 等主流 IDE 的厂商，长期押注&amp;quot;&lt;strong&gt;模型不必都是巨无霸&lt;/strong&gt;&amp;ldquo;这条路线。它把这类模型称为&amp;rdquo;&lt;strong&gt;focal model（焦点模型）&lt;/strong&gt;&amp;quot;——不是要取代栈里的每一个模型，而是让整条技术栈&lt;strong&gt;更快、更便宜、更可控&lt;/strong&gt;。2026 年 6 月，JetBrains 把 Mellum2 完全开源：一个刻意&lt;strong&gt;放弃多模态&lt;/strong&gt;、专注软件工程工作流的 12B MoE 模型，靠 64 专家、每 Token 激活 8 个，把 12B 的容量压到 2.5B 的推理成本。&lt;/p&gt;
&lt;p&gt;但 Mellum2 有一个明显短板：它&lt;strong&gt;快，却&amp;quot;进不了仓库&amp;quot;&lt;/strong&gt;。它能做补全、路由、摘要，却无法真正完成&amp;quot;探索代码库 → 定位 bug → 改文件 → 自检&amp;quot;的代理式闭环。对自建编码代理的团队来说，这恰恰是最缺的能力。于是，Mellum2.1 的核心任务很明确：&lt;strong&gt;架构不动，把&amp;quot;能干活&amp;quot;这件事补上&lt;/strong&gt;。&lt;/p&gt;
&lt;h2 id=&#34;核心技术解析&#34;&gt;核心技术解析
&lt;/h2&gt;&lt;h3 id=&#34;技术架构&#34;&gt;技术架构
&lt;/h3&gt;&lt;p&gt;Mellum2.1 的架构&lt;strong&gt;与 Mellum2 完全一致&lt;/strong&gt;——这本身就是本次发布最重要的信息点：提升不是靠堆参数，而是靠后训练。&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;MoE 设计&lt;/strong&gt;：64 个专家，每 Token 激活 8 个，总参数 12B、激活 2.5B，约等于一次前向只付出 2–3B 稠密模型的计算量。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;层与注意力&lt;/strong&gt;：28 层，采用分组查询注意力（32 个查询头、4 个 KV 头）；&lt;strong&gt;每 4 层中有 3 层使用 1024 Token 的滑动窗口注意力&lt;/strong&gt;，大幅压缩 KV Cache、提升长上下文下的显存效率。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;上下文与词表&lt;/strong&gt;：上下文长度 131,072 Token，词表 98,304，权重以 bfloat16 发布。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;多 Token 预测（MTP）头&lt;/strong&gt;：既用作预训练辅助目标，又充当投机解码的内置草稿模型。在 14B 代理模型的消融实验中，MTP 目标把 HumanEval pass@1 从 20.73 提升到 31.10（+10.4）。&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id=&#34;关键创新点&#34;&gt;关键创新点
&lt;/h3&gt;&lt;p&gt;&lt;strong&gt;1. 把 RL 变成训练主体。&lt;/strong&gt; Mellum2.1 几乎全部的工作量投在&lt;strong&gt;后训练&lt;/strong&gt;上，RL 从&amp;quot;最后一个小阶段&amp;quot;变成了&amp;quot;训练的主要部分&amp;quot;。JetBrains 在数学、竞赛编程、科学、工具调用和软件工程上新增了大量 RL 任务，并&lt;strong&gt;对每一个数据源做严格过滤&lt;/strong&gt;——开源 RL 数据常带坏测试、无法验证的答案，以及过易或不可能完成的任务，这些都在进入训练前被剔除。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;2. 在真实环境里训练代理技能。&lt;/strong&gt; 对软件工程任务，模型&lt;strong&gt;在真实仓库中训练&lt;/strong&gt;，配备 shell 与文件编辑工具，&lt;strong&gt;以测试是否通过作为奖励&lt;/strong&gt;。JetBrains 自建基础设施，内部同时运行&lt;strong&gt;数千个 RL 环境&lt;/strong&gt;，整个训练过程&lt;strong&gt;启动了数百万个沙箱&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;3. 明确的&amp;quot;工作马/子代理&amp;quot;定位。&lt;/strong&gt; 它不追求取代 Claude Code 或前沿闭源模型，而是定位为编码代理系统中的&lt;strong&gt;快速子代理&lt;/strong&gt;：负责根因分析、草拟并自检修复，把昂贵的前沿模型留给真正困难的规划。&lt;/p&gt;
&lt;p&gt;下面这张图展示了 Mellum2.1 在真实仓库中的代理式 RL 闭环：&lt;/p&gt;
&lt;pre class=&#34;mermaid&#34;&gt;
  graph TD
    A[真实代码仓库] --&amp;gt; B[模型探索代码库]
    B --&amp;gt; C[定位失败测试根因]
    C --&amp;gt; D[编辑文件]
    D --&amp;gt; E[运行测试]
    E --&amp;gt; F{测试通过?}
    F --&amp;gt;|是| G[获得正奖励]
    F --&amp;gt;|否| H[获得负奖励并回退]
    G --&amp;gt; I[更新策略]
    H --&amp;gt; I
    I --&amp;gt; B
&lt;/pre&gt;

&lt;h3 id=&#34;性能评测&#34;&gt;性能评测
&lt;/h3&gt;&lt;p&gt;JetBrains 用&lt;strong&gt;同一套评测流程（thinking 模式、Pi v0.73.1 代理框架、114K 上下文）&lt;strong&gt;对比了 Mellum2.1、Mellum2、Qwen3.5-9B 与 Gemma 4 E4B（分数为&lt;/strong&gt;厂商自报&lt;/strong&gt;）：&lt;/p&gt;
&lt;table&gt;
	&lt;thead&gt;
			&lt;tr&gt;
					&lt;th&gt;基准&lt;/th&gt;
					&lt;th&gt;Mellum2.1&lt;/th&gt;
					&lt;th&gt;Mellum2&lt;/th&gt;
					&lt;th&gt;Qwen3.5-9B&lt;/th&gt;
					&lt;th&gt;Gemma 4 E4B&lt;/th&gt;
			&lt;/tr&gt;
	&lt;/thead&gt;
	&lt;tbody&gt;
			&lt;tr&gt;
					&lt;td&gt;SWE-bench Verified&lt;/td&gt;
					&lt;td&gt;&lt;strong&gt;47.0&lt;/strong&gt;&lt;/td&gt;
					&lt;td&gt;2.0&lt;/td&gt;
					&lt;td&gt;50.0&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;SWE-bench Pro&lt;/td&gt;
					&lt;td&gt;&lt;strong&gt;28.0&lt;/strong&gt;&lt;/td&gt;
					&lt;td&gt;0.0&lt;/td&gt;
					&lt;td&gt;38.0&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;Terminal-Bench 2.1&lt;/td&gt;
					&lt;td&gt;17.4&lt;/td&gt;
					&lt;td&gt;0.6&lt;/td&gt;
					&lt;td&gt;21.7&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;LiveCodeBench v6&lt;/td&gt;
					&lt;td&gt;&lt;strong&gt;82.0&lt;/strong&gt;&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;75.4&lt;/td&gt;
					&lt;td&gt;69.4&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;HumanEval+&lt;/td&gt;
					&lt;td&gt;91.5&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;MBPP+&lt;/td&gt;
					&lt;td&gt;79.4&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;BFCL v4&lt;/td&gt;
					&lt;td&gt;62.3&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;HarmBench（越低越好）&lt;/td&gt;
					&lt;td&gt;8.5&lt;/td&gt;
					&lt;td&gt;21.5&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
					&lt;td&gt;—&lt;/td&gt;
			&lt;/tr&gt;
	&lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;几个关键结论：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;代理能力的跃迁最惊人&lt;/strong&gt;：SWE-bench Verified 从 2.0 到 47.0，说明&amp;quot;架构不变、RL 规模化&amp;quot;能带来质变。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;它并非全面领先&lt;/strong&gt;：在硬核代理软件任务上，Qwen3.5-9B 仍更强（SWE Verified 50.0、SWE Pro 38.0），在 AIME、GPQA Diamond 等知识与推理项上也是 Qwen 领先。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;评测口径很重要&lt;/strong&gt;：Qwen 官方卡上 LiveCodeBench v6 是 65.6、GPQA Diamond 是 81.7，而 JetBrains 自测同一模型为 75.4 与 77.8——&lt;strong&gt;不同 harness 会显著改变结论&lt;/strong&gt;，跨厂商数字不宜直接横比。&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id=&#34;行业影响&#34;&gt;行业影响
&lt;/h2&gt;&lt;h3 id=&#34;对市场的影响&#34;&gt;对市场的影响
&lt;/h3&gt;&lt;p&gt;Mellum2.1 代表了一类正在成型的产品形态：&lt;strong&gt;&amp;ldquo;够用且便宜&amp;quot;的专用小模型&lt;/strong&gt;。当企业发现前沿模型的 Token 账单难以长期承受时，把高频、低难度的编码子任务下沉到自托管的小模型上，是很自然的成本优化路径。JetBrains 用一个开源模型补上了&amp;quot;能进仓库干活&amp;quot;这块拼图，会进一步推动&lt;strong&gt;大模型做规划、小模型做执行的混合架构&lt;/strong&gt;普及。&lt;/p&gt;
&lt;h3 id=&#34;对开发者的意义&#34;&gt;对开发者的意义
&lt;/h3&gt;&lt;p&gt;对开发者最直接的价值是&lt;strong&gt;可自托管&lt;/strong&gt;：把权重下载到自己的 GPU 上，用 vLLM 或 SGLang 部署，数据不必出内网，也没有按 Token 计费的持续成本。官方给出的最快启动方式是：&lt;/p&gt;
&lt;div class=&#34;highlight&#34;&gt;&lt;div class=&#34;chroma&#34;&gt;
&lt;table class=&#34;lntable&#34;&gt;&lt;tr&gt;&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code&gt;&lt;span class=&#34;lnt&#34;&gt;1
&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;
&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code class=&#34;language-bash&#34; data-lang=&#34;bash&#34;&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;vllm serve JetBrains/Mellum2.1-12B-A2.5B-Thinking --reasoning-parser qwen3
&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;&lt;/tr&gt;&lt;/table&gt;
&lt;/div&gt;
&lt;/div&gt;&lt;p&gt;GGUF 构建从 7.0 GB 起，可跑在 llama.cpp、Ollama、LM Studio 上，MTP 头则用于 vLLM 的投机解码。对做&lt;strong&gt;编码代理、路由、RAG 摘要、IDE 补全&lt;/strong&gt;的团队来说，这是一块可插拔、可控的组件。&lt;/p&gt;
&lt;h3 id=&#34;商业化前景&#34;&gt;商业化前景
&lt;/h3&gt;&lt;p&gt;开源是 JetBrains 的一贯策略：&lt;strong&gt;用开放权重扩大生态、反哺自家 IDE 与 AI 助手&lt;/strong&gt;。它的商业闭环不在模型本身收费，而在于让更多团队把&amp;quot;跑在本地/私有云的小模型&amp;quot;纳入 JetBrains 的工具链，从而强化 IDE 与企业开发平台的粘性。&lt;/p&gt;
&lt;p&gt;&lt;img src=&#34;https://images.unsplash.com/photo-1607799279861-4dd421887fb3?w=800&amp;amp;h=500&amp;amp;fit=crop&#34;
	
	
	
	loading=&#34;lazy&#34;
	
		alt=&#34;屏幕上显示的程序代码&#34;
	
	
&gt;&lt;/p&gt;
&lt;h2 id=&#34;实际体验&#34;&gt;实际体验
&lt;/h2&gt;&lt;h3 id=&#34;使用场景演示&#34;&gt;使用场景演示
&lt;/h3&gt;&lt;p&gt;一个典型的私有化编码代理流程可以是这样的：团队自建一个代理系统，主规划交给前沿模型，&lt;strong&gt;把&amp;quot;找到失败测试的根因并草拟修复&amp;quot;这一步交给 Mellum2.1&lt;/strong&gt;。因为它激活参数只有 2.5B，重负载下仍能保持高吞吐，很适合并发处理大量子任务（如批量修 lint、补单元测试、做小范围重构）。团队关掉所有外部 API 调用后，代码库数据完全不出内网。&lt;/p&gt;
&lt;h3 id=&#34;速度表现&#34;&gt;速度表现
&lt;/h3&gt;&lt;p&gt;由于后训练没有改动架构，Mellum2.1 的推理速度和 Mellum2 一致。JetBrains 称，在单张 NVIDIA H200、重负载条件下，它服务的 Token 量&lt;strong&gt;接近 Qwen3.5-9B 的两倍&lt;/strong&gt;；在单请求场景下，&lt;strong&gt;MTP 让速度再提升约 1.6 倍&lt;/strong&gt;。对于延迟敏感的 IDE 内联补全与后台分析，这是决定体验的关键指标。&lt;/p&gt;
&lt;h3 id=&#34;优势与不足&#34;&gt;优势与不足
&lt;/h3&gt;&lt;p&gt;&lt;strong&gt;优势：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;代理能力质变&lt;/strong&gt;：SWE-bench Verified 从 2.0 到 47.0，补齐了 Mellum2 最大的短板；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;极致轻量&lt;/strong&gt;：2.5B 激活参数，可在自有 GPU 甚至消费级硬件上部署；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;高吞吐&lt;/strong&gt;：重负载下吞吐量接近同组最快，单请求靠 MTP 再提速约 1.6×；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Apache 2.0 + 完全离线&lt;/strong&gt;：无 API、无 Token 账单、数据不出内网；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;安全指标改善&lt;/strong&gt;：HarmBench 从 21.5 降到 8.5。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;&lt;strong&gt;不足：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;硬核代理任务仍逊于 Qwen3.5-9B&lt;/strong&gt;：SWE Verified、SWE Pro、知识与推理项均落后；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;放弃多模态&lt;/strong&gt;：不接受图像/音频输入，界面截图类任务不适用；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;自报分数&lt;/strong&gt;：全部基准由厂商自测，缺乏第三方复现；&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;生态仍在补齐&lt;/strong&gt;：GGUF/Ollama/LM Studio 与 MTP 头部分仍标注&amp;quot;coming soon&amp;rdquo;。&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id=&#34;总结与展望&#34;&gt;总结与展望
&lt;/h2&gt;&lt;p&gt;Mellum2.1 最大的启示不是某个分数，而是它证明的路径：&lt;strong&gt;当一个架构够好时，把强化学习从&amp;quot;收尾&amp;quot;提到&amp;quot;主体&amp;quot;，就能在参数量不变的前提下，把一个&amp;quot;快但无能&amp;quot;的模型变成&amp;quot;能进仓库干活&amp;quot;的代理&lt;/strong&gt;。它坦诚地不接受&amp;quot;最强&amp;quot;的头衔，而是把自己定位成代理系统里那颗&lt;strong&gt;又快又便宜的螺丝钉&lt;/strong&gt;。&lt;/p&gt;
&lt;p&gt;展望未来，编码 AI 的竞争很可能分成两层：&lt;strong&gt;前沿闭源模型负责高难规划，开源小模型负责高频执行&lt;/strong&gt;。Mellum2.1 是后一层里一个很有代表性的样本。对开发者而言，真正该做的是&lt;strong&gt;在自己的代理框架与业务数据上重新跑一遍基准&lt;/strong&gt;——毕竟，不同的 harness 之间，结论可能天差地别。&lt;/p&gt;
&lt;hr&gt;
&lt;p&gt;&lt;strong&gt;参考来源：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://blog.jetbrains.com/ai/2026/10/mellum2-1-gets-to-work-a-fast-open-model-for-coding-agents/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Mellum2.1 Gets to Work: A Fast Open Model for Coding Agents&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://www.aicoder.com/news/news-20261009-jetbrains-mellum2-1-coding-agents&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;JetBrains ships Mellum2.1: 12B MoE (2.5B active) open coding-agent model, SWE-bench Verified jumps 2.0→47.0&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://metaailabs.com/jetbrains-releases-mellum2-1-a-12b-moe-open-model-for-coding-agents/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;JetBrains Releases Mellum2.1: A 12B MoE Open Model For Coding Agents&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;JetBrains/Mellum2.1-12B-A2.5B-Thinking (Hugging Face)&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;
</description>
        </item>
        <item>
        <title>Mistral 发布 Large 4（代号&#34;Le Chonk&#34;）深度解析：1.05 万亿参数 MoE、原生多模态，欧洲最强大开源模型的进击</title>
        <link>https://www.iyouyu.tech/p/mistral-%E5%8F%91%E5%B8%83-large-4%E4%BB%A3%E5%8F%B7le-chonk%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%901.05-%E4%B8%87%E4%BA%BF%E5%8F%82%E6%95%B0-moe%E5%8E%9F%E7%94%9F%E5%A4%9A%E6%A8%A1%E6%80%81%E6%AC%A7%E6%B4%B2%E6%9C%80%E5%BC%BA%E5%A4%A7%E5%BC%80%E6%BA%90%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%BF%9B%E5%87%BB/</link>
        <pubDate>Thu, 08 Oct 2026 00:00:00 +0000</pubDate>
        
        <guid>https://www.iyouyu.tech/p/mistral-%E5%8F%91%E5%B8%83-large-4%E4%BB%A3%E5%8F%B7le-chonk%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%901.05-%E4%B8%87%E4%BA%BF%E5%8F%82%E6%95%B0-moe%E5%8E%9F%E7%94%9F%E5%A4%9A%E6%A8%A1%E6%80%81%E6%AC%A7%E6%B4%B2%E6%9C%80%E5%BC%BA%E5%A4%A7%E5%BC%80%E6%BA%90%E6%A8%A1%E5%9E%8B%E7%9A%84%E8%BF%9B%E5%87%BB/</guid>
        <description>&lt;img src="https://images.unsplash.com/photo-1629904853893-c2c8981a1dc5?w=800&amp;h=600&amp;fit=crop" alt="Featured image of post Mistral 发布 Large 4（代号&#34;Le Chonk&#34;）深度解析：1.05 万亿参数 MoE、原生多模态，欧洲最强大开源模型的进击" /&gt;&lt;h2 id=&#34;摘要&#34;&gt;摘要
&lt;/h2&gt;&lt;p&gt;2026 年 10 月 6 日，法国 AI 公司 Mistral AI 发布了其新一代旗舰模型 &lt;strong&gt;Mistral Large 4&lt;/strong&gt;，内部代号 &lt;strong&gt;&amp;ldquo;Le Chonk&amp;rdquo;&lt;/strong&gt;（英文俚语，意为&amp;quot;胖乎乎的大块头&amp;quot;）。这是一款&lt;strong&gt;总参数量 1.05 万亿、激活参数约 490 亿&lt;/strong&gt;（计入嵌入层约 520 亿）的混合专家（MoE）模型，配备 &lt;strong&gt;16 亿参数的视觉编码器&lt;/strong&gt;，原生支持文本与图像输入（输出为文本），上下文窗口官方宣称可达 &lt;strong&gt;100 万 Token&lt;/strong&gt;。Mistral 把它定位为&amp;quot;美国与中国之外最智能的模型&amp;quot;，并承诺在 &lt;strong&gt;10 月底开放权重&lt;/strong&gt;。这次发布的看点不只是参数规模，更在于它把&amp;quot;欧洲自研、自有数据中心、从零训练&amp;quot;这条路线完整走了一遍。本文从架构、基准、定价与工程现实四个层面，做一次尽量不带滤镜的评测。&lt;/p&gt;
&lt;h2 id=&#34;事件背景&#34;&gt;事件背景
&lt;/h2&gt;&lt;p&gt;Mistral AI 是欧洲最具代表性的大模型公司，此前靠一系列&amp;quot;小而强&amp;quot;的开源权重模型和面向企业的商业化产品站稳了脚跟。其上一轮融资是一笔 &lt;strong&gt;3 亿欧元（Series D）&lt;/strong&gt;，公司的核心叙事一直是&amp;quot;主权的、开放的、可自主部署的欧洲 AI&amp;quot;。在 OpenAI、Google、Anthropic 轮番发布前沿模型，而中国厂商用密集的开放权重模型（Kimi、DeepSeek、Qwen 等）持续冲击开源榜单的背景下，Mistral 需要一个真正意义上的旗舰，来证明欧洲路线依然站在第一梯队。&lt;/p&gt;
&lt;p&gt;Mistral Large 4 就是这个答案。它是 Mistral 首次在&lt;strong&gt;总参数迈过万亿门槛&lt;/strong&gt;，也是它第一次把&lt;strong&gt;原生多模态&lt;/strong&gt;（视觉编码器内置于模型）和&lt;strong&gt;超长上下文&lt;/strong&gt;同时做进旗舰模型。更重要的是，Mistral 强调这次是&lt;strong&gt;在自己的欧洲数据中心、用 3,800 张 NVIDIA Grace Blackwell GPU、从头训练约两个月&lt;/strong&gt;完成的——在当前算力与地缘政治的语境里，这句话本身就是一种宣言。&lt;/p&gt;
&lt;h2 id=&#34;核心技术解析&#34;&gt;核心技术解析
&lt;/h2&gt;&lt;h3 id=&#34;技术架构&#34;&gt;技术架构
&lt;/h3&gt;&lt;p&gt;Mistral Large 4 的技术路线可以概括为&amp;quot;&lt;strong&gt;大稀疏 + 全模态 + 长上下文&lt;/strong&gt;&amp;ldquo;三条主线。&lt;/p&gt;
&lt;p&gt;首先是&lt;strong&gt;极致的稀疏化&lt;/strong&gt;。1.05 万亿总参数里，每个 Token 实际只激活约 490 亿（约占总量的 4.7%）。这种高稀疏 MoE 的好处是：模型容量（知识存储与表达能力）可以做得极大，而单次推理的计算量仍维持在数十亿参数级别，推理成本与响应速度不至于失控。Mistral 还把它设计成&lt;strong&gt;混合式&amp;quot;指令 + 推理&amp;quot;模型&lt;/strong&gt;——同一个权重既服务于快速指令响应，也服务于需要多步思考的推理任务，而不是拆成两个模型。&lt;/p&gt;
&lt;p&gt;其次是&lt;strong&gt;原生多模态&lt;/strong&gt;。一个 16 亿参数的视觉编码器被直接编入模型，使它能&amp;quot;看懂&amp;quot;图片输入并与文本联合推理，而不是靠外挂一个视觉模块。对文档、图表、界面截图这类企业场景，这种原生融合通常比拼接方案更稳。&lt;/p&gt;
&lt;pre class=&#34;mermaid&#34;&gt;
  graph TD
    A[Mistral Large 4 &amp;#39;Le Chonk&amp;#39;] --&amp;gt; B[总参数 1.05 万亿 / 激活约 490 亿 MoE]
    A --&amp;gt; C[16 亿参数原生视觉编码器]
    A --&amp;gt; D[官方 100 万 Token 上下文]
    B --&amp;gt; E[高稀疏: 单 Token 仅激活约 4.7%]
    C --&amp;gt; F[文本 + 图像输入, 文本输出]
    D --&amp;gt; G[长文档 / 整仓代码 / 多轮智能体]
    A --&amp;gt; H[混合式: 指令 + 推理同权重]
    A --&amp;gt; I[自建欧洲数据中心训练]
    I --&amp;gt; J[3,800 张 Grace Blackwell GPU]
    J --&amp;gt; K[从零训练约两个月]
    A --&amp;gt; L[160+ 语言, 覆盖全部欧盟官方语言]
&lt;/pre&gt;

&lt;p&gt;&lt;img src=&#34;https://images.unsplash.com/photo-1531297484001-80022131f5a1?w=800&amp;amp;h=500&amp;amp;fit=crop&amp;amp;crop=center&#34;
	
	
	
	loading=&#34;lazy&#34;
	
		alt=&#34;AI 模型训练背后的 GPU 算力集群与芯片&#34;
	
	
&gt;&lt;/p&gt;
&lt;p&gt;最后是&lt;strong&gt;长上下文与多语言&lt;/strong&gt;。官方给出的上下文窗口是 &lt;strong&gt;100 万 Token&lt;/strong&gt;，但独立测评机构的实测口径更保守，落在 &lt;strong&gt;512K–524K&lt;/strong&gt; 区间——这种&amp;quot;宣传口径 vs 实测口径&amp;quot;的差距在前沿模型里并不罕见，使用时应以实测为准。语言方面，模型覆盖 &lt;strong&gt;160 多种语言&lt;/strong&gt;，并包含&lt;strong&gt;全部欧盟官方语言&lt;/strong&gt;，这显然是为欧洲公共部门与跨国企业客户准备的。&lt;/p&gt;
&lt;h3 id=&#34;关键创新点&#34;&gt;关键创新点
&lt;/h3&gt;&lt;ol&gt;
&lt;li&gt;&lt;strong&gt;万亿级高稀疏 MoE，训练全程自研&lt;/strong&gt;：在自有数据中心、用 3,800 张 Grace Blackwell 从零训练约两个月，意味着 Mistral 试图证明&amp;quot;不依赖美国云、也能训出前沿模型&amp;rdquo;。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;原生多模态 + 长上下文同框&lt;/strong&gt;：视觉编码器内嵌、上下文拉到数十万至上百万 Token，瞄准的是文档理解、图表问答、整仓代码分析等重场景。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;&amp;ldquo;欧盟官方语言全覆盖&amp;quot;的合规卖点&lt;/strong&gt;：对受数据主权与合规约束的欧洲客户，这是比纯榜单分数更实在的吸引力。&lt;/li&gt;
&lt;/ol&gt;
&lt;h3 id=&#34;性能评测&#34;&gt;性能评测
&lt;/h3&gt;&lt;p&gt;Mistral 公布的部分基准数据（偏智能体与编码方向）如下：&lt;/p&gt;
&lt;table&gt;
	&lt;thead&gt;
			&lt;tr&gt;
					&lt;th&gt;基准&lt;/th&gt;
					&lt;th&gt;Mistral Large 4&lt;/th&gt;
					&lt;th&gt;说明&lt;/th&gt;
			&lt;/tr&gt;
	&lt;/thead&gt;
	&lt;tbody&gt;
			&lt;tr&gt;
					&lt;td&gt;Cybench&lt;/td&gt;
					&lt;td&gt;93%&lt;/td&gt;
					&lt;td&gt;网络安全攻防类任务&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;CyberGym-E2E&lt;/td&gt;
					&lt;td&gt;82%&lt;/td&gt;
					&lt;td&gt;端到端网络攻防&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;DeepSWE v1.1&lt;/td&gt;
					&lt;td&gt;61.7%&lt;/td&gt;
					&lt;td&gt;软件工程任务&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;Coding Agent Index&lt;/td&gt;
					&lt;td&gt;49.8%&lt;/td&gt;
					&lt;td&gt;编码智能体综合指数&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;Artificial Analysis 智能指数&lt;/td&gt;
					&lt;td&gt;38.4&lt;/td&gt;
					&lt;td&gt;开放权重模型第 8 名&lt;/td&gt;
			&lt;/tr&gt;
	&lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;这里有几个必须点出的细节。&lt;strong&gt;Artificial Analysis 智能指数 38.4&lt;/strong&gt;，在开放权重榜单上排到&lt;strong&gt;第 8 位&lt;/strong&gt;，前面是 7 款中国模型；换句话说，Mistral 称它是&amp;quot;美中之外最智能的模型&amp;quot;是成立的，但&amp;quot;全球最智能的开放权重模型&amp;quot;并不成立。另外，该指数对应的&lt;strong&gt;强化学习（RL）训练据报道&amp;quot;仍在进行中&amp;rdquo;（still in flight）&lt;/strong&gt;，所以现在的分数很可能不是最终形态，开放权重版本的实际上限还要等等看。&lt;/p&gt;
&lt;h2 id=&#34;行业影响&#34;&gt;行业影响
&lt;/h2&gt;&lt;h3 id=&#34;对市场的影响&#34;&gt;对市场的影响
&lt;/h3&gt;&lt;p&gt;Mistral Large 4 的意义不只是&amp;quot;欧洲又出了一个强模型&amp;quot;，而是它对&lt;strong&gt;开放权重阵营格局&lt;/strong&gt;的一次重新划线。此前开放权重榜单的头部几乎被中国厂商包揽，Mistral 用一个万亿级、原生多模态的旗舰重新挤进前十，等于给&amp;quot;非美非中&amp;quot;这条路线续上了存在感。对于受合规约束、又不愿完全依赖美国闭源 API 的欧洲与部分亚洲客户，它提供的是第三种选择。&lt;/p&gt;
&lt;h3 id=&#34;对开发者的意义&#34;&gt;对开发者的意义
&lt;/h3&gt;&lt;p&gt;三个可落地的判断：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;关注开源权重的时间表&lt;/strong&gt;：Mistral 承诺 &lt;strong&gt;10 月底开放权重&lt;/strong&gt;（外界普遍预期在 10 月 27 日前后），但&lt;strong&gt;具体许可证尚未公布&lt;/strong&gt;。许可证条款（尤其是商用与再分发限制）将直接决定它能否像 Llama、Qwen 那样被广泛二次集成。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;别只看宣传口径的上下文&lt;/strong&gt;：官方说 100 万 Token，独立实测在 512K–524K。长文档任务应按实测上限设计分段策略。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;RL 未收敛意味着分数会变&lt;/strong&gt;：现在的榜单分数带有&amp;quot;训练中&amp;quot;的水分或滞后，做选型决策时应等权重开放后的复核结果。&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id=&#34;商业化前景&#34;&gt;商业化前景
&lt;/h3&gt;&lt;p&gt;Mistral 采取的是&amp;quot;&lt;strong&gt;开放权重 + 官方 API 双轨&lt;/strong&gt;&amp;ldquo;打法：一边用开放权重吸引生态与自部署客户，一边用 API 变现。其 API 定价（列表价）为每百万 Token &lt;strong&gt;输入 1.36 美元 / 输出 4.18 美元&lt;/strong&gt;，并在&lt;strong&gt;为期两周的推广期内腰斩&lt;/strong&gt;到 &lt;strong&gt;0.68 美元 / 2.09 美元&lt;/strong&gt;。这个促销价在旗舰级模型里颇具攻击性，但促销期结束后是否回归常态，将直接影响它的性价比定位。&lt;/p&gt;
&lt;h2 id=&#34;实际体验&#34;&gt;实际体验
&lt;/h2&gt;&lt;h3 id=&#34;使用场景演示&#34;&gt;使用场景演示
&lt;/h3&gt;&lt;p&gt;从能力面看，Mistral Large 4 最舒服的场景有三类：&lt;strong&gt;长文档与图表理解&lt;/strong&gt;（原生视觉 + 长上下文的组合）、&lt;strong&gt;代码仓库级分析&lt;/strong&gt;（数十万 Token 上下文可容纳中等规模仓库）、以及&lt;strong&gt;网络安全与软件工程智能体&lt;/strong&gt;（Cybench 93%、DeepSWE 61.7% 的分数指向这一类动手型任务）。对需要&amp;quot;读懂截图 + 结合长文本推理&amp;quot;的企业流程，原生多模态比外挂视觉方案更省心。&lt;/p&gt;
&lt;p&gt;&lt;img src=&#34;https://images.unsplash.com/photo-1487058792275-0ad4aaf24ca7?w=800&amp;amp;h=500&amp;amp;fit=crop&amp;amp;crop=center&#34;
	
	
	
	loading=&#34;lazy&#34;
	
		alt=&#34;开发者部署与调试开源大模型的代码界面&#34;
	
	
&gt;&lt;/p&gt;
&lt;p&gt;反之，在纯对话、短文本这类轻量场景里，用它属于&amp;quot;杀鸡用牛刀&amp;rdquo;——万亿参数模型的部署与推理门槛都不低，轻量任务应交给更小的模型。&lt;/p&gt;
&lt;h3 id=&#34;优势与不足&#34;&gt;优势与不足
&lt;/h3&gt;&lt;p&gt;&lt;strong&gt;优势：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;万亿级高稀疏 MoE，容量大而推理计算量可控。&lt;/li&gt;
&lt;li&gt;原生视觉编码器 + 超长上下文，文档与代码场景竞争力强。&lt;/li&gt;
&lt;li&gt;网络安全、软件工程类智能体基准表现亮眼（Cybench 93%）。&lt;/li&gt;
&lt;li&gt;160+ 语言、覆盖全部欧盟官方语言，合规与本地化优势明显。&lt;/li&gt;
&lt;li&gt;自有数据中心从头训练，主权叙事完整。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;&lt;strong&gt;不足：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;开放权重榜单仅第 8，前面全是 7 款中国模型，&amp;ldquo;最智能&amp;quot;需加限定词。&lt;/li&gt;
&lt;li&gt;上下文宣传口径（100 万）与实测（512K–524K）存在差距。&lt;/li&gt;
&lt;li&gt;RL 训练&amp;quot;仍在进行中&amp;rdquo;，当前基准分数未必是终态。&lt;/li&gt;
&lt;li&gt;许可证尚未公布，商用与再分发条款存在不确定性。&lt;/li&gt;
&lt;li&gt;万亿参数对自部署的显存与运维要求极高，普通团队难以上手。&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id=&#34;总结与展望&#34;&gt;总结与展望
&lt;/h2&gt;&lt;p&gt;Mistral Large 4（Le Chonk）是欧洲开源路线的一次&amp;quot;正面强攻&amp;quot;：用万亿级高稀疏 MoE 把容量做上去，用原生多模态和长上下文把场景做宽，再用自建数据中心和全欧盟语言覆盖把主权叙事做满。它的亮点清晰——架构选择务实、企业场景针对性强、基准在智能体方向上有真东西。需要保持清醒的地方也不少——开放权重只排第 8、上下文口径有水分、许可证未定、RL 还没收敛。&lt;/p&gt;
&lt;p&gt;对开发者来说，接下来的关键节点是&lt;strong&gt;10 月底权重开放&lt;/strong&gt;：届时许可证条款、真实上下文长度与收敛后的基准分数，才是决定它能否被广泛采用的三个硬指标。如果 Mistral 能在开源许可上足够宽松，它有望在欧洲及合规敏感市场撕开一条稳定的口子；如果许可偏严，它更可能停留在&amp;quot;官方 API 为主&amp;quot;的商业化形态。无论哪种结果，2026 年下半年的开放权重之争，都因为&amp;quot;Le Chonk&amp;quot;的到来而更有看头。&lt;/p&gt;
&lt;hr&gt;
&lt;p&gt;&lt;strong&gt;参考来源：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://mistral.ai/news&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Mistral AI 官方发布：Mistral Large 4&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://the-decoder.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;The Decoder：Mistral 发布万亿参数 Large 4&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://artificialanalysis.ai/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Artificial Analysis：Mistral Large 4 智能指数与排名&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://www.bloomberg.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Bloomberg：Mistral 新旗舰模型报道&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;
</description>
        </item>
        <item>
        <title>Reflection AI Beam 深度解读：5010 亿参数只激活 230 亿，美国开源前沿模型的&#34;算力宣言&#34;</title>
        <link>https://www.iyouyu.tech/p/reflection-ai-beam-%E6%B7%B1%E5%BA%A6%E8%A7%A3%E8%AF%BB5010-%E4%BA%BF%E5%8F%82%E6%95%B0%E5%8F%AA%E6%BF%80%E6%B4%BB-230-%E4%BA%BF%E7%BE%8E%E5%9B%BD%E5%BC%80%E6%BA%90%E5%89%8D%E6%B2%BF%E6%A8%A1%E5%9E%8B%E7%9A%84%E7%AE%97%E5%8A%9B%E5%AE%A3%E8%A8%80/</link>
        <pubDate>Thu, 08 Oct 2026 00:00:00 +0000</pubDate>
        
        <guid>https://www.iyouyu.tech/p/reflection-ai-beam-%E6%B7%B1%E5%BA%A6%E8%A7%A3%E8%AF%BB5010-%E4%BA%BF%E5%8F%82%E6%95%B0%E5%8F%AA%E6%BF%80%E6%B4%BB-230-%E4%BA%BF%E7%BE%8E%E5%9B%BD%E5%BC%80%E6%BA%90%E5%89%8D%E6%B2%BF%E6%A8%A1%E5%9E%8B%E7%9A%84%E7%AE%97%E5%8A%9B%E5%AE%A3%E8%A8%80/</guid>
        <description>&lt;img src="https://images.unsplash.com/photo-1558494949-ef010cbdcc31?w=800&amp;h=600&amp;fit=crop" alt="Featured image of post Reflection AI Beam 深度解读：5010 亿参数只激活 230 亿，美国开源前沿模型的&#34;算力宣言&#34;" /&gt;&lt;h2 id=&#34;摘要&#34;&gt;摘要
&lt;/h2&gt;&lt;p&gt;2026 年 10 月 5 日，成立不久的 &lt;strong&gt;Reflection AI&lt;/strong&gt; 发布了其开源旗舰模型 &lt;strong&gt;Beam&lt;/strong&gt;。这是一款**稀疏混合专家（MoE）**模型：总参数 &lt;strong&gt;501B&lt;/strong&gt;，但每个 Token 只激活约 &lt;strong&gt;23B&lt;/strong&gt;（激活比例约 &lt;strong&gt;4.6%&lt;/strong&gt;），预训练使用了 &lt;strong&gt;23.8T tokens&lt;/strong&gt;，中训练阶段把上下文扩展到 &lt;strong&gt;100 万 Token&lt;/strong&gt;，强化学习（RL）阶段动用了 &lt;strong&gt;10,500 张 NVIDIA GB300 GPU 训练 4 周&lt;/strong&gt;、完成 &lt;strong&gt;1 亿+ rollouts&lt;/strong&gt;。基准方面，Beam 取得 SWE-bench Verified &lt;strong&gt;80.9&lt;/strong&gt;、AIME 2026 &lt;strong&gt;97.8&lt;/strong&gt;、Terminal Bench v2.1 &lt;strong&gt;80.1&lt;/strong&gt;、SWE-bench Multilingual &lt;strong&gt;78.0&lt;/strong&gt; 的成绩，并计划以 &lt;strong&gt;Apache 2.0&lt;/strong&gt; 许可发布权重。本文从架构、训练流程、基准表现与背后叙事四个层面做一次解读。&lt;/p&gt;
&lt;h2 id=&#34;事件背景&#34;&gt;事件背景
&lt;/h2&gt;&lt;p&gt;Reflection AI 由 &lt;strong&gt;Misha Laskin&lt;/strong&gt; 与 &lt;strong&gt;Ioannis Antonoglou&lt;/strong&gt;（前 DeepMind 成员）创立。这家公司从成立起就带着强烈的&amp;quot;美国开源前沿&amp;quot;叙事：它拿下了约 &lt;strong&gt;47 亿美元&lt;/strong&gt;融资、估值达到 &lt;strong&gt;250 亿美元&lt;/strong&gt;，&lt;strong&gt;Nvidia 领投 8 亿美元&lt;/strong&gt;，并与 SpaceX / Nebius 签署了总额 &lt;strong&gt;70 亿美元以上、延续至 2029 年&lt;/strong&gt;的算力协议。&lt;/p&gt;
&lt;p&gt;在这样的背景下，Beam 的发布更像一份&amp;quot;算力宣言&amp;quot;：它要证明，开放权重模型同样可以在最前沿的工程规模上训练，而不是只能做&amp;quot;追赶者&amp;quot;。Apache 2.0 的许可选择也颇具信号意义——这是最宽松的开源许可之一，明确允许商用与再分发。&lt;/p&gt;
&lt;h2 id=&#34;核心技术解析&#34;&gt;核心技术解析
&lt;/h2&gt;&lt;h3 id=&#34;技术架构&#34;&gt;技术架构
&lt;/h3&gt;&lt;p&gt;Beam 的技术底色是&lt;strong&gt;稀疏 MoE&lt;/strong&gt;。它的设计哲学是&amp;quot;总参数很大、单次激活很小&amp;quot;：501B 的总参数储备了广泛的知识容量，而每 Token 只激活约 23B（约 4.6%），从而在推理时保持相对可控的算力开销。这正是当前前沿开源模型普遍采用的思路——用&amp;quot;稀疏&amp;quot;换取&amp;quot;大容量 + 低推理成本&amp;quot;的平衡。&lt;/p&gt;
&lt;p&gt;训练流程分为三段：&lt;strong&gt;预训练 → 中训练（mid-training）→ 强化学习&lt;/strong&gt;。&lt;/p&gt;
&lt;pre class=&#34;mermaid&#34;&gt;
  graph TD
    A[预训练: 23.8T tokens] --&amp;gt; B[6144 GPU &amp;lt; 4 周, goodput 92.3%]
    B --&amp;gt; C[中训练: 上下文扩展到 100 万]
    C --&amp;gt; D[强化学习: 10.5K NVIDIA GB300, 4 周]
    D --&amp;gt; E[1 亿+ rollouts]
    E --&amp;gt; F[Beam 发布]
    F --&amp;gt; G[Apache 2.0 权重发布(本月)]
    F --&amp;gt; H[SWE-bench Verified 80.9]
    F --&amp;gt; I[AIME 2026 97.8]
    F --&amp;gt; J[Terminal Bench v2.1 80.1]
&lt;/pre&gt;

&lt;p&gt;值得注意的是，Reflection AI 公布的不仅是结果，还有&lt;strong&gt;训练效率指标&lt;/strong&gt;：预训练在 &lt;strong&gt;6144 张 GPU 上用了不到 4 周&lt;/strong&gt;，&lt;strong&gt;goodput（有效算力利用率）达到 92.3%&lt;/strong&gt;。在动辄数万卡的大规模训练里，把有效利用率做到 92% 以上，本身就是一项不小的工程成就——它意味着绝大部分算力确实用在了有效计算上，而非被通信、故障、重启吃掉。&lt;/p&gt;
&lt;h3 id=&#34;关键创新点&#34;&gt;关键创新点
&lt;/h3&gt;&lt;ol&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;稀疏 MoE 的规模控制&lt;/strong&gt;：501B 总参 / 23B 激活的组合，在&amp;quot;知识容量&amp;quot;与&amp;quot;推理成本&amp;quot;之间找到了一个激进的平衡点。4.6% 的激活率意味着它在推理时的实际开销更接近一个 20B 级别的稠密模型，而不是 500B 级别。&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;中训练扩展长上下文&lt;/strong&gt;：把上下文扩展到 100 万 Token 放在&amp;quot;中训练&amp;quot;而非预训练阶段完成，是一种被越来越多团队采用的成本控制策略——先在小上下文上完成主体预训练，再针对性扩展。&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;RL 阶段的巨大投入&lt;/strong&gt;：10.5K 张 GB300、4 周、1 亿+ rollouts，这个量级说明 Beam 的能力很大程度上靠后训练（尤其是强化学习）打磨。SWE-bench 与 Terminal Bench 这类&amp;quot;动手型&amp;quot;基准的高分，正是 RL 投入的直接体现。&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Apache 2.0 许可&lt;/strong&gt;：选择最宽松的开源许可，是对&amp;quot;开放权重&amp;quot;承诺的实质性背书，也降低了企业商用的法律顾虑。&lt;/p&gt;
&lt;/li&gt;
&lt;/ol&gt;
&lt;h3 id=&#34;性能评测&#34;&gt;性能评测
&lt;/h3&gt;&lt;table&gt;
	&lt;thead&gt;
			&lt;tr&gt;
					&lt;th&gt;基准&lt;/th&gt;
					&lt;th&gt;Beam 成绩&lt;/th&gt;
					&lt;th&gt;说明&lt;/th&gt;
			&lt;/tr&gt;
	&lt;/thead&gt;
	&lt;tbody&gt;
			&lt;tr&gt;
					&lt;td&gt;SWE-bench Verified&lt;/td&gt;
					&lt;td&gt;80.9&lt;/td&gt;
					&lt;td&gt;真实软件工程任务&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;AIME 2026&lt;/td&gt;
					&lt;td&gt;97.8&lt;/td&gt;
					&lt;td&gt;数学竞赛&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;Terminal Bench v2.1&lt;/td&gt;
					&lt;td&gt;80.1&lt;/td&gt;
					&lt;td&gt;终端/命令行任务&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;SWE-bench Multilingual&lt;/td&gt;
					&lt;td&gt;78.0&lt;/td&gt;
					&lt;td&gt;多语言软件工程&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;预训练算力&lt;/td&gt;
					&lt;td&gt;6144 GPU，&amp;lt;4 周&lt;/td&gt;
					&lt;td&gt;goodput 92.3%&lt;/td&gt;
			&lt;/tr&gt;
			&lt;tr&gt;
					&lt;td&gt;RL 算力&lt;/td&gt;
					&lt;td&gt;10.5K GB300，4 周&lt;/td&gt;
					&lt;td&gt;1 亿+ rollouts&lt;/td&gt;
			&lt;/tr&gt;
	&lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;这组数据的分布很有信息量：&lt;strong&gt;软件工程（SWE-bench）与终端操作（Terminal Bench）&lt;/strong&gt; 是它最强的地方，数学（AIME）也接近满分。这说明 Beam 的定位明显偏向&amp;quot;能干活的智能体&amp;quot;，而不是纯粹的聊天问答模型——与它 RL 阶段的重投入方向一致。&lt;/p&gt;
&lt;h2 id=&#34;行业影响&#34;&gt;行业影响
&lt;/h2&gt;&lt;h3 id=&#34;对市场的影响&#34;&gt;对市场的影响
&lt;/h3&gt;&lt;p&gt;Beam 的出现，把&amp;quot;开放权重能否做到前沿&amp;quot;这个问题又往前推了一步。此前，开放权重模型通常被认为落后闭源前沿半年到一年；而 Beam 用接近顶级的 SWE-bench 成绩、百万级上下文和 47 亿美元融资背书，直接对标一线闭源模型。对闭源厂商而言，这是一个需要正视的竞争信号。&lt;/p&gt;
&lt;h3 id=&#34;对开发者的意义&#34;&gt;对开发者的意义
&lt;/h3&gt;&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;软件工程与智能体场景&lt;/strong&gt;：Beam 的强项在代码与终端任务，适合做代码智能体、自动化运维、仓库级重构等。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;低成本推理&lt;/strong&gt;：4.6% 的激活率意味着在自建推理时，硬件门槛比同规模稠密模型低得多，但要真正跑起来，仍需相当规模的显存与工程能力。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;许可友好&lt;/strong&gt;：Apache 2.0 允许商用，企业集成时的合规负担较小。&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id=&#34;商业化前景&#34;&gt;商业化前景
&lt;/h3&gt;&lt;p&gt;Reflection AI 的路径是&amp;quot;开源模型引流 + 算力/服务变现&amp;quot;。它一边用 Apache 2.0 的 Beam 建立开发者心智，一边通过与 SpaceX/Nebius 的算力协议、Nvidia 的投资，把商业闭环搭在&amp;quot;训练与推理基础设施&amp;quot;上。开源权重是入口，算力与云服务才是长期收入来源。&lt;/p&gt;
&lt;h2 id=&#34;实际体验&#34;&gt;实际体验
&lt;/h2&gt;&lt;h3 id=&#34;使用场景演示&#34;&gt;使用场景演示
&lt;/h3&gt;&lt;p&gt;最直接的场景是&lt;strong&gt;仓库级代码任务&lt;/strong&gt;：把 Beam 接入开发流程，让它读代码、改代码、跑测试，SWE-bench Verified 80.9 的分数说明它在&amp;quot;真实缺陷修复&amp;quot;这类任务上有实战能力。另一个场景是&lt;strong&gt;终端智能体&lt;/strong&gt;：Terminal Bench v2.1 80.1 意味着它能较好地完成命令行操作、脚本编写与系统管理任务。&lt;/p&gt;
&lt;p&gt;但也要有现实预期：501B 的模型即使只激活 23B，部署依然需要专业的推理基础设施，个人开发者更适合通过托管 API 或量化版本使用，而不是本地裸跑。&lt;/p&gt;
&lt;h3 id=&#34;优势与不足&#34;&gt;优势与不足
&lt;/h3&gt;&lt;p&gt;&lt;strong&gt;优势：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;稀疏 MoE 设计兼顾大容量与较低推理激活成本。&lt;/li&gt;
&lt;li&gt;软件工程与终端任务基准表现顶尖（SWE-bench 80.9、Terminal Bench 80.1）。&lt;/li&gt;
&lt;li&gt;100 万上下文，长文档与仓库级任务友好。&lt;/li&gt;
&lt;li&gt;Apache 2.0 许可，商用友好。&lt;/li&gt;
&lt;li&gt;训练效率指标亮眼（goodput 92.3%）。&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;&lt;strong&gt;不足：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;501B 总参数对部署硬件要求高，个人本地运行不现实。&lt;/li&gt;
&lt;li&gt;权重&amp;quot;本月发布&amp;quot;，发布前无法独立复现与验证。&lt;/li&gt;
&lt;li&gt;开源模型的生态、工具链与长期维护仍待观察。&lt;/li&gt;
&lt;li&gt;大量能力依赖 RL 投入，&amp;ldquo;开源之后能否持续更新&amp;quot;是长期问题。&lt;/li&gt;
&lt;li&gt;公司融资与估值极高，市场对其商业化兑现能力会有更高期待。&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id=&#34;总结与展望&#34;&gt;总结与展望
&lt;/h2&gt;&lt;p&gt;Reflection AI Beam 的意义，不只是一款&amp;quot;分数很高的开源模型&amp;rdquo;。它用一个稀疏 MoE 架构、92.3% 的训练 goodput、以及 10.5K 张 GB300 的 RL 投入，试图证明&lt;strong&gt;开放权重路线也能站上前沿&lt;/strong&gt;。它在软件工程与终端任务上的成绩，恰好踩中了当下最热门的&amp;quot;智能体&amp;quot;方向。&lt;/p&gt;
&lt;p&gt;接下来最该盯的三件事：一是权重按计划以 Apache 2.0 发布后，社区能否独立复现其基准；二是它在真实生产环境（而非基准）中的稳定性与长上下文表现；三是 Reflection AI 能否把&amp;quot;开源引流 + 算力变现&amp;quot;的故事讲通。如果 Beam 的权重如期开放且表现稳定，2026 年下半年&amp;quot;开源 vs 闭源&amp;quot;的边界会进一步模糊——而对开发者来说，选择权会变得更多，这本身就是好事。&lt;/p&gt;
&lt;hr&gt;
&lt;p&gt;&lt;strong&gt;参考来源：&lt;/strong&gt;&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://reflection.ai/blog&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Reflection AI 官方博客：Beam 发布&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://www.marktechpost.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;MarkTechPost：Reflection AI Beam 技术解析&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://www.devx.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;DevX：Reflection AI 发布开源模型 Beam&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://how2shout.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;How2Shout：Beam 基准与融资背景&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://startupfortune.com/&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;StartupFortune：Reflection AI 估值与算力协议&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;
</description>
        </item>
        
    </channel>
</rss>
