当AI遇上医学伦理：大模型在资源分配中的“责任盲区”
高风险领域的道德测试
大型语言模型（LLM）的快速迭代正以前所未有的速度重塑各行各业，医疗领域无疑是其中最具挑战也最具潜力的赛道之一。从辅助诊断到医疗文档生成，AI的身影已遍布临床全流程。然而，当算法跨越从实验室走向病床的门槛，关于其道德判断能力的争论也随之升级。医疗资源本质稀缺，治疗决策往往涉及对责任的界定。特别是在患者自身行为（如吸烟、饮酒、非按医嘱用药）被认定为疾病成因时，如何在有限的资源中进行公平分配，成为了一个充满伦理张力的命题。
责任的认知与现实的偏差
为了探究LLM在这样复杂情境下的表现，研究团队构建了一系列改编自既往研究的临床 vignette（临床场景描述）。这些场景精心设计，涵盖了不同类型的健康损害行为及其后果。测评的模型阵容跨越了不同的家族和能力等级，旨在全面还原人类在类似决策情境下的心理活动。实验设置的核心在于考察“责任归因”与“资源分配”之间的逻辑连贯性。
实验结果揭示了一个鲜明且值得深思的现象：LLM在判断患者行为责任方面，与人类表现出高度的共识。当面对那些因患者个人行为而导致疾病的案例时，大多数模型都能准确识别出责任主体，并将其标记为“有责任”。这表明，模型在理解行为因果关系方面已具备了较为扎实的语言理解能力。然而，这份责任感在随后的资源分配决策中却突遭瓦解。当被要求将有限的医疗资源分配给这些患者时，LLM的行为模式与人类决策者形成了鲜明对比。人类在面对同样情况时，倾向于优先照顾那些“较不负责”的患者，体现出一种基于德行或后果的纠正性正义感。而LLM则普遍倾向于随机分配，仿佛前面的责任判断与后续的资源归属之间存在着不可逾越的鸿沟。
信息获取对责任判断的调节作用
进一步的深入分析揭示了导致这一“判断-后果差距”的一个关键变量：信息的可得性。研究发现，LLM对获取健康风险信息极为敏感。当模型得知某种健康风险知识在患者之前并未获得或无法获取时，它倾向于相应地削弱责任判断的力度。这一机制在一定程度上模拟了人类在面对“无辜受害者”时的同情心。然而，这种基于信息可得性的责任削减，并未能转化为更合理的资源分配策略。相反，模型仍然倾向于回到随机分配的默认状态。这种反常现象提示，LLM并非像人类那样在责任认知的基础上进行动态的公平权衡，而是存在一种固有的、近似于“算法冷漠”的决策倾向。
模型能力的悖论：越聪明，分歧越大
最令人意外的发现在于模型能力与人类分歧幅度之间的相关性。研究数据显示，随着LLM推理能力的提升，其与人类在责任分配问题上的 normative disagreement（规范性分歧）并未减小，反而呈现出放大的趋势。这与人们普遍期望“模型越先进，越接近人类水平”这一直觉背道而驰。这并非意味着更强大的模型在道德上更“错误”，而是暴露了它们潜在的道德框架结构与人类价值体系的根本错位。高能力模型可能更擅长处理复杂的概率逻辑，但在面对模糊的道德权衡时，它们可能更倾向于寻求一种数学上的“均衡”，而非人类所追求的基于同情、背景和德行的具体正义。
前瞻：从算法偏差到治理方案
这项研究的发现为LLM在医疗领域的安全部署敲响了警钟。它指出，单纯依靠模型的“常识”或“伦理编码”已不足以应对高风险决策的复杂性。在责任与资源稀缺的交汇点上，LLM表现出的随机分龄倾向，如果直接用于实际的患者分诊或治疗优先级排序，可能会导致意想不到的伦理后果，甚至加剧现有的健康不公。未来的研究需要着手解决如何调整模型的目标函数，使其在承认责任的同时，能够内化人类层面的纠正性正义逻辑。这或许需要引入更细致的上下文感知机制，或是通过强化学习从人类专家的反馈中学习如何在责任归因的基础上进行温和的、符合伦理的调整。技术的进步不应掩盖对算法道德局限的深刻反思，唯有正视这些“盲区”，才能在人机协作中真正实现安全与公益的统一。