单人3.5个月炼出1000万上下文模型：Mirendil Fern的极限与野心
一个研究员、千万级上下文与AI原生的新范式
当主流大模型还在为200万token上下文窗口争得头破血流时，一家名为Mirendil的AI实验室直接抛出了1000万token的解决方案。其首款模型Fern 0.1甫一亮相，便以惊人的上下文容量在技术社区引发热议。这不是简单的参数堆砌，而是一次对传统AI研发流程的彻底重构——从模型训练到代码编写，人类研究员的角色被重新定义，AI agent首次成为构建基础设施的主力军。
根据官方披露，Fern 0.1的参数量介于0.1T到0.5T之间，具体数值及活跃参数量并未公开。该模型目前仅通过托管早期访问渠道提供，既未开源权重，也未发布量化版本。在性能维度上，Fern呈现出鲜明的长板与短板：它在RULER单针检索任务中于32K至10M token的全长度区间均取得100%准确率，展现出无与伦比的长程记忆能力；然而在Terminal Bench 4.0这一更具实战意义的编码基准上，其得分仅为6.1%，与同期顶级模型的66.4%形成刺眼对比。
极客式研发：3.5个月与1000万美元的极限压缩
真正让行业震动的并非模型参数本身，而是其背后的生产方式。支撑Fern 0.1的底座模型Mirendil-Base，由一名研究员在3.5个月内独立完成预训练。整个项目的全周期投入——涵盖实验开销、agent token消耗及数据处理——控制在1000万美元以内。更关键的是，超过99%的代码由AI agent自主生成，人类研究员仅负责决策干预方向与时机。
这种研发模式与此前曝光的某知名AI实验室早期路径高度相似，但Mirendil将成本控制推向了新的极端。在数据策略上，团队坚持只使用公开来源：GitHub仓库、公开代码、网页及公共数据集，明确排除蒸馏数据、合成数据与授权数据。技术栈层面，模型基于PyTorch和JAX从零手写，这种选择在工程层面意味着更高的灵活性与更低的框架依赖风险。
Mirendil规划了三款递进模型，Fern 0.1仅是其中最小的一员。Mirendil-Base-Large（0.5T至2T参数）预训练进度已超80%，而Mirendil-Base-XL（2T至10T参数）也完成了逾20%。这种阶梯式布局暗示着团队对 scaling law 的持续押注，试图通过规模扩张弥补当前模型在推理与复杂编码能力上的不足。
长上下文的真实价值：是噱头还是刚需？
关于长上下文是否具备实用价值，学术界与工业界始终存在争议。Mirendil设计了一项颇具说服力的测试：将自有仓库拼接成42.9MB的连续数据流，在不同窗口尺寸下测量next-token预测的交叉熵（以bits per byte计，越低越好）。结果显示，Fern的损失值从32K字节窗口的0.246逐步下降至16M与23M字节时的0.155，表明其上下文利用能力随窗口扩张持续优化，未出现饱和拐点。
横向对比暴露了另一重事实。在1M字节窗口处，Kimi-K3取得0.140的得分，优于Fern的0.165。这意味着在同等上下文条件下，Fern并非最优预测器；它的独特优势在于当其他模型因架构限制停摆时，它的性能曲线仍能继续延伸。这种特性决定了Fern的价值不在常规任务，而在那些必须通览全局的极端场景——例如一次性加载整个超大规模代码库、解析数日的agent执行轨迹，或审计预训练数据分片中的重复与污染。
Mirendil为Fern锚定了六个典型应用场景：跨大型代码库操作、持续执行命令直至测试通过的agentic编码、研究类代码（训练循环、数据管道与评估）、基于长日志与堆栈跟踪的运行调试、端到端读取完整agent或训练轨迹、以及预训练数据审计。这些用例高度聚焦于AI研发本身，而非面向普通用户的对话交互，显示出清晰的B端工具定位。
能力断层：实验室指标与工程现实的鸿沟
审视Fern 0.1的性能报表，一种结构性的能力割裂跃然纸上。在RULER这类标准化长上下文基准上，基础模型凭借架构特性近乎完美地完成了信息检索任务；然而一旦进入Terminal Bench 4.0所模拟的真实开发环境——需要理解业务逻辑、调用工具链、处理边界条件——其表现便断崖式下跌。这种落差揭示了一个残酷现实：长上下文只是智能的必要条件，远非充分条件。
当前模型在复杂推理、代码生成质量与自主任务分解上的短板，无法单纯通过扩展上下文窗口弥补。Mirendil团队对此似乎有清醒认知，其后续模型规划明显指向更大规模参数与更深层训练，试图以量变触发质变。但行业经验表明，当模型跨越特定能力阈值后，单纯扩大规模带来的边际收益会急剧衰减，而数据质量、对齐技术与架构创新的重要性则显著上升。
后训练时代的生存法则：小团队如何撬动大模型
Mirendil的案例为AI创业生态提供了一个极具参考价值的样本。在算力成本日益高企的今天，单人驱动的大模型研发从科幻走向工程现实，其核心杠杆在于将AI agent深度嵌入研发管线，形成自我强化的生产闭环。人类从编码者转变为架构师与决策者，这种角色迁移不仅压缩了时间成本，更重塑了技术迭代的速度上限。
未来竞争的关键或许不在于谁能训练出最大模型，而在于谁能构建最高效的AI原生工作流。Fern 0.1的1000万上下文窗口固然吸睛，但真正值得警惕的是其背后那套由AI驱动、快速验证、精准聚焦的研发方法论。当这种能力被复制到更大规模模型上时，现有市场格局或将面临真正的冲击波。对于Mirendil而言，从实验室指标到工程可用之间的那道深谷，仍是其必须跨越的终极考验。