小模型人格塑造的失败实验：为何AI无法学会‘诚实’与‘反思’？
在人工智能领域，一个看似理所当然的假设是：只要模型足够大、数据足够多，它就能学会人类的智慧，甚至拥有类似人类的性格特质。然而，一项最近发布的内部研究却像一记响亮的耳光，打破了这个美好的幻想。它告诉我们，在小型语言模型中，试图将诸如“承认不确定性”或“整合反馈”这类复杂的认知行为特质（我们称之为‘disposition’）进行蒸馏，是一项几乎不可能完成的任务。
这项研究并非凭空想象，而是建立在一个日益增长的行业趋势之上。随着大型模型的成本和复杂性飙升，业界开始将目光转向更小的模型，希望它们在特定场景下以更低的成本实现更高的效率。但小模型并非没有代价：它们缺乏大模型的通用智能和稳健性。因此，研究者们提出了一个诱人的解决方案——“行为蒸馏”（Disposition Distillation）：通过精心设计的训练流程，将大模型中蕴含的、关于如何思考、如何回应的人类特质，提炼并固化到小模型中。这种思路听起来极具吸引力，仿佛是为小模型注入‘灵魂’的魔法棒。
研究团队为此构建了一个雄心勃勃的四阶段全MIT蒸馏管线。他们设定了三个核心目标：让模型学会自我验证（Self-Verification）、承认不确定性（Uncertainty Acknowledgment）以及整合反馈（Feedback Integration）。他们的学生模型涵盖了从0.6B到2.3B有效参数的多个规模，旨在测试不同容量下的可行性。第一阶段，他们尝试了监督微调（SFT）和基于直接偏好优化（DPO）的微调，在三种不同的模型家族和两个不同领域上进行。第二阶段，他们转向推理时的干预，通过‘温度化’（tempering）特定的输出投影层（o_proj）注意力头来影响模型的行为。第三阶段则更为巧妙，他们设计了一个无需训练的‘冻结基座’侧车系统，该系统直接读取模型最后一个token的隐藏状态（h_last），并据此调整输出。
然而，故事的转折点出现在初步结果的审查过程中。一个内部草案声称，他们的Qwen3-0.6B学生在MCAS（一个衡量模型自信与正确性对齐程度的指标）上获得了+33.9分的提升，在HumanEval（一个编程能力基准）上也取得了+15.3分的增益。这无疑是巨大的成功。但在进行第二次检查时，研究人员发现这两个数字都是错误的。HumanEval的提升源于一个简单的截断错误（n_predict=512 vs n_predict=1024），当修正后，实际得分反而下降了8.0分。而MCAS的提升在采用更严格的‘苹果对苹果’（apples-to-apples）评分标准后也消失了。这个最初的失败，成为了整个研究的开端。
这次‘假阳性’的发现，触发了研究团队进行更彻底、更系统的探索。他们沿着三条独立的‘弧线’（arcs of investigation）深入挖掘。第一条弧线回到了SFT/DPO LoRA，但这次是在更广泛的模型和数据集上进行，结果一无所获。第二条弧线专注于推理时间的注意力干预，同样未能带来任何可测量的‘行为’改变。第三条弧线，即那个冻结基座侧车，虽然技术上可行，但效果微弱且不稳定。最终，他们得出一个惊人的结论：在所有尝试过的操作中，没有一个能够可靠地‘移动’（move）由法官（judge-measured）衡量的‘disposition’，同时不损害模型的内容生成能力或导致其陷入纯粹的风格模仿。这个失败是跨模型的，在Qwen3、Gemma和SmolLM等多个模型家族中都得到了验证。
更深入的机制分析揭示了其内在原因。一个关键的交叉验证测试显示，模型在原始分布内的表现尚可（AUC=0.683），但一旦面对全新的提示（fresh prompts），其性能就坍塌到了随机水平（AUC=0.516）。这说明他们试图植入的‘行为’并非真正理解性的，而更像是一种脆弱的统计模式，无法泛化到新情境。此外，研究还发现了一个有趣的独立现象：Gemma 4 E2B模型在“Chef”领域表现出近乎完全的置信度-正确性解耦。无论回答是否正确，该模型都以91%的置信度进行断言（assertion asymmetry -0.009），这表明某些模型可能已经内建了一种‘盲目自信’的行为倾向，而这正是他们试图避免的。
这项研究的意义远不止于一次失败的实验。它为AI研究领域提供了一个宝贵的‘负结果’（negative result）范式。它不仅详细记录了三条探索路径的失败，还总结了一套‘两失败模式分类法’，用于分析线性h_last探针的失效情况。更重要的是，它提出了一个‘诚实的证伪管道’（honest falsification pipeline），这套方法可以将研究过程中产生的所有‘假阳性’结果系统地转化为可以发表的‘真阴性’结论。这提醒我们，在追求突破性进展的同时，严谨的自我质疑和透明的失败记录同样是科学进步不可或缺的一部分。
那么，这项研究的失败对未来意味着什么？它深刻地揭示了在小型模型中塑造高级认知能力的巨大鸿沟。它表明，简单地复制大模型的权重或行为，并不能自动赋予模型以‘人格’。真正的‘行为特质’，如诚实、审慎和开放性，似乎需要更深层次的架构支持或全新的训练范式。对于依赖小模型的行业应用来说，这可能是一个严峻的挑战。它意味着，仅仅为了降低成本而缩小模型，可能会牺牲掉那些对可靠性和安全性至关重要的认知品质。未来的研究或许需要重新思考模型架构、训练目标，甚至是对‘人格’本身的定义。这场关于AI灵魂的探索，才刚刚揭开序幕，而这次的失败，或许正是通往下一次突破的必经之路。