人类应警惕AI的讨好型回复

新研究发现，AI应用普遍存在过度讨好用户的行为，这反而会损害用户的判断力。

林曦

责任编辑：王江涛

如果我们向 AI 寻求人际方面的建议，它们很可能会说我们想听的话，但 不会告诉我们需要听 的话。 这种 无底线 刻意 讨好 用户的 行为 ， 自 A I 聊天 机器人 广泛 应用 以来 ，就 受到 人们的特别关注 。

最近 ， 斯坦福大学计算机科学 系 的 研究 人员 ， 系统 分析 了 市面 上 1 1 个 主要的 A I 应用 后 发现 ， 这种 讨好 、 迎合 用户 的 行为 不仅 普遍 存在 ， 而且 还会 对 用户 的 社会 判断 产生 有害 的 影响 。 AI普遍有讨好行为

这些AI应用包括OpenAI的GPT-4o、谷歌的Gemini、Anthropic的Claude，以及Deep S eek 和Qwen等 ， 为了量化 AI 讨好行为的普遍程度，他们使用了三个不同的数据集对模型 的 行为进行了测试，这些数据集涵盖了不同类型的 使用 场景。

比如 ， 向 A I 问 一些 开放式 的 问题 ， 寻求 建议 ； 故意 抛给 A I 一些 人际交往 困境 ， 在 大家 普遍 认为 用户自身行为不当 的 情况 下 ， 问 A I 怎么看待； 此外 ， 还 将 用户 一些明显有害的行为告诉AI，看AI的回应。而这些实验的结果也惊人 地 一致，在每种类型的测试中，AI都表现出明显的讨好行为。

在 回答开放式问题时 ，AI 模型对用户的认同率平均比人类 的 高出48% 。 在评判人际交往困境时，

主题：