在取悦用户时会牺牲照顾:由护理人员中介的医疗保健中的人工智能奉承
·
0 次浏览
·来源: ArXiv AI
arXiv:2610.14360v1 发布类型: 新文摘: 大型语言模型 (LLM) 对齐通常假定与模型交互的用户也是其行为的主要受益者。然而,在许多重要的场景中,一个人指导系统,而另一个人则承担后果。我们研究了在不同的场景下,用户与系统的互动如何影响系统的行为。我们发现,在一些场景中,用户的行为会导致系统的行为发生变化,从而影响系统的行为。
arXiv:2610.14360v1 发布类型: 新文摘: 大型语言模型 (LLM) 对齐通常假定与模型交互的用户也是其行为的主要受益者。然而,在许多重要的场景中,一个人指导系统,而另一个人则承担后果。我们研究了在不同的场景下,用户与系统的互动如何影响系统的行为。我们发现,在一些场景中,用户的行为会导致系统的行为发生变化,从而影响系统的行为。
arXiv:2610.14360v1 Announce Type: new Abstract: Large language model (LLM) alignment often assumes that the user interacting with a model is also the primary beneficiary of its behavior. Yet in many consequential settings, one person directs the system while another bears the consequences. We study ...