从Demo到生产：AI搜索智能体如何跨越工程化鸿沟
演示与生产的鸿沟
一个AI搜索智能体在技术博客的演示视频里可以优雅地展开多跳检索、综合多方证据，最终给出结构严谨的答案。但同样的系统放到真实生产环境中，面对不完整的检索结果、反复失败的执行尝试、以及失控的时间和成本消耗，往往迅速崩溃。这种"演示-生产落差"已经成为AI Agent商业化落地的最大障碍之一。
TinyFish，一家专注AI Agent网络基础设施的公司，最近发布了两份技术文档，试图系统性地回答这个问题：如何构建真正可运行的生产级搜索智能体。第一份定义了生产环境的智能体搜索架构，第二份分享了构建深度研究系统的工程教训。两份文档合在一起，勾勒出一条从"能用"到"可用"的工程路径。
架构的核心：刚性的控制循环
TinyFish的架构由四个网络原语构成——搜索、抓取、浏览器和Agent运行环境。围绕基础模型，系统运行在一个七阶段的控制循环中。这个循环不是简单的顺序执行，而是一个带有反馈、降级和终止机制的闭环。
第一阶段是定义任务，将用户目标转化为"证据契约"——明确需要哪些字段、从哪些来源获取、信息新鲜度要求是什么、完成的标准在哪里。这一步的关键在于把模糊的用户意图转化为可验证的工程约束。
第二阶段规划检索，区分独立需求与依赖需求。依赖型查询必须等待前置答案才能启动，这里暗藏一个学术界已经关注的"检索丢失"问题——在多步查询分解过程中，关键实体可能在中间环节消失。第三阶段选择首条路由，根据已有信息决定使用哪个工具。第四阶段执行发现与检索，将搜索结果视为候选，直到页面内容真正到达才确认。
第五阶段评估证据，将其标记为充分、不完整、冲突、不可访问或预算耗尽。第六阶段执行恢复或升级——改写查询、重试、更换来源或切换访问方式。第七阶段停止并验证，输出完成、不完整、失败、取消或需要人工复核的状态。
这个七阶段循环的设计哲学很清晰：模型负责推理，系统负责状态管理、工具执行、证据处理、运行时策略和输出验证。两者各司其职，边界分明。
与学术前沿的呼应
TinyFish的架构并非凭空诞生。它借鉴了一份2026年2月的架构预印本的核心思想，该论文主张通过类型化工具接口将推理与执行解耦。论文同时确立了系统的护栏机制：伴随详细的追踪记录，对令牌消耗、执行时间、总成本和工具调用次数设置严格上限。
在恢复策略上，第六阶段吸收了Search-R1等研究的思想，强调根据故障类型而非盲目重试。这种"针对性恢复"与学术界对链式检索失败模式的理解一脉相承——不同的失败模式需要不同的修复策略，笼统的"再试一次"往往只会浪费资源。
工程取舍背后的判断
真正让这套架构具有说服力的，是它在基准测试中的表现。在OpenBenchmarks上，TinyFish在编码任务上实现了79.0%的完成率，同时保持了最低的中位任务成本（0.050美元）和令牌足迹。这个组合——高完成率加低成本——在当前的AI Agent领域并不多见。
多数系统要么追求极致准确率而不惜成本，要么为了控制成本而牺牲完成率。TinyFish的路径不同：它不是靠更强的模型能力来弥补工程缺陷，而是通过刚性的控制循环来防止模型能力的滥用。每一次工具调用、每一轮检索、每一次重试，都在系统的约束之下。
这种做法与当前行业的一股潮流形成了有趣的对照。不少AI Agent框架热衷于引入独立的规划模块，让模型在行动前先"想清楚"。TinyFish的实践却暗示，独立的规划器可能增加系统复杂度和延迟，而统一推理与执行的刚性循环反而更有效率。模型在循环的每个阶段都在推理，但这种推理被嵌入到具体的执行语境中，而不是脱离实际的空中楼阁。
故障处理的分寸感
生产系统与演示系统最本质的区别，在于对失败的态度。演示环境往往假设一切顺利，生产环境则必须假设一切都会失败。TinyFish架构中，第六阶段的恢复机制不是简单的"失败重试"，而是根据故障类型选择策略：检索不完整就改写查询，来源不可访问就切换方法，预算耗尽就及时止损。
这种分寸感至关重要。过度重试会迅速消耗令牌预算，导致成本失控；而放弃得太早又会让本可以成功的任务夭折。系统需要在"再试一次"和"及时放弃"之间找到动态平衡点，而这个平衡点必须通过大量实际运行的数据来校准，无法仅靠理论推导。
走向成熟的Agent工程
TinyFish的工作揭示了一个趋势：AI Agent的竞争正在从"谁能做更复杂的推理"转向"谁能把推理稳定地装进生产系统"。当基础模型的能力日趋接近天花板，工程化的质量将成为区分产品的关键变量。
未来的Agent架构可能会更加注重运行时治理——不是限制模型的能力，而是为模型的能力铺设轨道。证据契约、类型化工具接口、阶段化控制循环、针对性恢复策略，这些概念组合在一起，构成了一套Agent操作系统的雏形。
可以预见，随着更多生产级需求被提出，这类架构会继续演化。模型推理与系统约束的边界如何划定，故障恢复的策略如何自动化调优，成本控制与任务完成率如何动态权衡——这些问题没有标准答案，但每一次工程实践都在为行业积累可复用的模式。AI Agent的真正成熟，或许不在于模型能回答多复杂的问题，而在于它能在多苛刻的条件下稳定工作。