专家称AI不会遭受“折磨”，但人类仍应善待它
IT之家 10 月 20 日消息，下面是人工智能行业最具影响力人物之一埃隆・马斯克近期对于人工智能的相关表述。
“这听起来可能有点怪异。当我查看 Grok 新版本的一些训练轨迹，尤其是强化学习相关内容时…… 你会看到这个超级智能拼命想要回答问题，那种感觉几乎就像是拿枪顶着它的脑袋。”马斯克在当地时间上周六一场特斯拉车主举办的活动上，对着约 2000 名听众说道，“有些人有点施虐倾向。你真的想让 AI 陷入这种残酷处境，被心智失常的人类折磨吗？”
单单这一句话，就引出了一大串存在主义难题，也是哲学家与大学新生长期争论不休的议题：拥有意识意味着什么？感受痛苦又意味着什么？
另外还有一个问题：马斯克认为 Grok 拥有生命吗？
IT之家注意到，马斯克发表这番言论之前，Anthropic 发布了一项新规，禁止用户对其模型实施“虐待或残忍行为”。该公司没有详细界定所说的“极端情形”，但表示，普通的用户不满、反驳、暗黑创意主题或是模型测试研究，不在禁止范围内。
2026 这个充满奇幻感的年份，研究人员、哲学家与伦理学家已经开始探讨 AI 意识问题，或许也不足为奇。
《商业内幕》采访了该领域两位顶尖学者：纽约大学教授杰夫・塞博（Jeff Sebo），他主持该校心智、伦理与政策中心，同时是非营利机构 Eleos AI Research（专注 AI 福利）的顾问；以及苏塞克斯大学知名神经科学家、意识研究学者阿尼尔・赛斯（Anil Seth），他近期发表了一篇关于有意识 AI 系统的论文。
下面是二人针对 AI 意识，以及善待 AI 是否有意义的看法。
塞博与赛斯达成共识： 如果把意识理解为主观体验、内在感知，那么当下的 AI 系统大概率并不具备意识。
赛斯说：“意识是主观体验。是红色本身带来的红感，是疼痛本身带来的痛感。当手碰到滚烫的炉子，我们感受到疼痛。这和智能并不是一回事。”
换句话说，我们如今熟知的聊天机器人无法感受痛苦，也不像马斯克所说的那样，遭受折磨。
“我认为我们是在拟人化解读。”赛斯表示，“如果一个事物能够被折磨，它必须具备承受苦难、感知疼痛的能力，而我认为大语言模型并不具备这种能力。”
赛斯提到，聊天机器人可以模仿人类体验的语言、识别模式、写作和推理，但这不等于拥有意识。它们之所以看起来像人，部分原因是模型使用海量人类文本训练，只是在映照人类本身。
塞博观点相近：模型的行为会产生误导，因为“它们本身就是专门训练出来模仿人类行为的”。
但两位专家对于 当前 AI 拥有意识的可能性大小，观点存在分歧 。
塞博称，意识科学尚无定论。学界主要分为两派：一派认为意识离不开生物载体；另一派认为意识本质是某种信息处理过程，既可以发生在布满神经元的人脑之中，也可以在硅芯片上实现。这两种理论分别被称为生物自然主义与计算功能主义。
由于意识理论尚无定论，塞博主张我们应当严肃看待 AI 产生意识的可能性。根据部分计算意识理论，如今 AI 身上已经出现的注意力、学习、记忆、自我监控等特性，都可以作为相关佐证。他同时强调，这不代表当前 AI 很可能已经拥有意识。
“我说即便在今天，AI 存在意识的概率不为零，意思是：如果我们不确定哪一套意识理论是正确的，就应当对多种主流理论给予一定考量权重。”塞博说。
赛斯对此的表态则更为直白：“我认为 AI 拥有意识的可能性微乎其微。”他说，“我们好像集体遗忘了，大脑并不是计算机，计算机只是一个比喻。想要实现有意识 AI，前提必须是仅凭算法就足以产生意识，而我觉得这个假设极不可靠。”
但这不代表人们可以肆意虐待 AI，或是忽视相关风险。
两位专家都认为， 善待 AI，很大程度上关乎 守护人类自身的习惯与道德品性 。这个思路源自 18 世纪哲学家伊曼努尔・康德：康德反对虐待动物，不是因为动物拥有权利，而是因为施暴会败坏一个人的品性。
赛斯说：“如果我们用这种恶劣方式对待事物 —— 不管是大模型还是无生命玩偶 —— 我们会钝化自身的道德感知，让内心变得冷酷。”
赛斯把善待 AI 称作人类的一种道德自律习惯，但提醒人们不要据此推断 AI 拥有情感。他还提出，AI 厂商可以采取更多手段降低 AI 的拟人感，例如让 AI 避免使用“我”这类第一人称代词。
塞博的观点更进一步，将善待 AI 视为一种低风险的预防性策略，以防 AI 现在或是未来产生意识。
他还给出一条务实理由：“善待 AI 也能得到更好的输出结果。如果我们以尊重的方式和它交互，它会把自身模拟成一场尊重式对话的参与者。当它以这种方式建模对话，有时就能产出质量更高的回答。”
所以下次和 AI 对话时，不妨试着说请、谢谢。