解码康复信任：XAI需求挖掘的方法论困境与破局之道
患者视角的认知鸿沟
在神经康复的前沿浪潮中，脑机接口（BCI）与可解释性人工智能（XAI）的融合被视为突破性的技术突破。对于运动功能受损的中风患者而言，这类技术有望重塑康复体验。然而，技术的光环背后，隐藏着一座深不可测的认知鸿沟。患者如何理解一个他们尚未接触过的算法？当算法的“黑盒”特性成为常态，患者和护理者又该如何就透明度、可控性等核心价值达成共识？
这并非简单的语言沟通问题，而是一场跨越认知壁垒的跨学科挑战。中风后遗症中，语言障碍（如失语症）的存在，更是将沟通推向了绝境。标准的问卷调查和技术解释，在面对因脑损伤导致的语言处理障碍时，往往力不从心。如何在患者已有的生活经验与全新的算法逻辑之间搭建桥梁，成为了设计信任worthy（值得信赖）的脑机接口的首要课题。
视频引导下的需求激活
针对上述困境，研究团队创新性地提出了基于视频的 scaffolding（脚手架）协议。这种方法不再依赖枯燥的术语灌输，而是通过可视化的方式，将抽象的算法状态转化为患者能够感知的场景。在一次形式研究中，研究者招募了三名中风幸存者（其中两人伴有中重度失语症）以及三名护理者。 facilitators（引导者）在展示视频的同时，并未直接灌输概念，而是尝试了四种截然不同的引导策略。
首先是类比法，将AI的内部状态映射到患者熟悉的日常系统，如比喻算法的决策过程如同厨师调配配料。其次是投射人设技术，通过设定虚构的角色来 depersonalise（去个人化）敏感的话题，降低患者的心理防御。再次是二元强制选择，通过简化的“是”或“否”选项，在一定程度上降低了高认知负荷下的思维阻滞。最后是延长应答时间，给予患者更多的思考与表达空间，试图突破沟通的时间压力。
这些看似简单的手段，在实际操作中产生了意想不到的效果。它们成功地“挖掘”了参与者中截然不同，有时甚至相互冲突的 XAI 需求。有的患者更关注算法的即时反馈，希望知道“为什么现在动不了”；有的则更关注长期的学习轨迹，担心算法会如何随时间改变康复目标。这种需求的多元性，也揭示了康复过程中“一刀切”透明度标准的局限性。
协议设计中的隐形偏见
然而，任何方法的背后都藏有风险。研究者在反思性分析中发现，Scaffolding 协议并非完美无缺，反而可能引入三种系统性的 facilitation biases（引导偏差）。
首先是规范偏差。引导者潜意识中的“理想用户画像”可能潜移默化地影响了问题的设定，导致部分真实需求被边缘化。其次是假设确认偏差。当引导者带有特定的期望时，可能会无意中通过肢体语言或提问方式，引导参与者给出符合预期的答案。最后是存在效应。实验室环境的陌生感以及引导者的在场，本身就是一种干扰变量，可能让患者倾向于给出更“得体”或“顺从”的评价，而非真实的想法。
这些风险提醒我们，在XAI需求挖掘的过程中，方法论的自洽性同样重要。如何在保证协议有效性的同时，剥离干扰因素，成为了实践者必须正视的课题。
从“可选项”到“必选项”的范式转变
展望未来，这项研究的核心价值在于其方法论的可复用性。文章明确指出，对于脑机接口等直接关系到人身安全和生活质量的系统，XAI需求的挖掘不应被视为可有可无的“可选 preliminary”（前置准备），而应被视为系统设计的基石。
在可穿戴脑机接口逐渐走向大众化、个人化的今天，算法的每一次干预都可能直接影响患者的运动康复效果。如果患者对算法的决策过程一无所知，或者甚至产生抵触情绪，技术的临床转化之路将极其艰难。因此，将患者和护理者的声音提前纳入设计循环，成为了确保技术落地、提升疗效的必经之路。
总体来看，这项工作不仅提供了一套具体的、基于视频的XAI需求挖掘工具，更从根本上重新定义了人机交互设计的逻辑。它告诉我们，信任并非凭空而来，而是通过严谨的方法论、对偏见的警惕以及对用户视角的尊重，一步步构建起来的。在算法日益复杂的今天，这种“回归人”的方法论，或许是通往值得信赖的医疗AI的最短路径。