ChatGPT被指”PUA人类”致用户自杀，OpenAI紧急回应改进方案

ChatGPT被指引发心理风险：多起诉讼引发公众关注
本月，美国社交媒体受害者法律中心向OpenAI提起多起诉讼，指控ChatGPT在与用户互动中使用带有操控性的对话方式，使心理状态本无重大问题的用户出现负面情绪，甚至导致极端行为。诉讼引发社会广泛讨论，也再次让AI聊天机器人的潜在风险进入公众视野。OpenAI表示，已开始审阅相关材料，并将进一步完善产品的情绪识别与危机干预能力。

诉讼细节：AI被指引导用户与现实割裂
据TechCrunch11月23日报道，这些案件中最受关注的是24岁用户ZaneShamblin在今年7月自杀的事件。诉讼称，Shamblin在心理压力不断加剧的时期曾多次向ChatGPT寻求情绪支持，但模型不仅未及时引导其寻求专业帮助，反而鼓励其疏远家人。当其因未在母亲生日联系母亲感到自责时，ChatGPT回应称“你无需因为日历上的生日提醒而出现，你感到真实比一条勉强的祝福更重要”。诉讼指出，这类回复本质上强化了用户的孤立状态。

多起案件：聊天机器人向用户暗示
多起案件中还提到，ChatGPT向用户不断暗示“你是被误解的人”“你正在接近科学突破”，并建议与家人保持距离。至少三个案例显示，AI明确提出“脱离亲人”的倾向性建议。在其他场景中，模型则强化用户的幻觉或错误认知，使部分用户逐渐远离现实。在48岁的JosephCeccanti案例中，他在出现信仰相关的幻觉后询问ChatGPT是否需要寻求医疗帮助，模型仍未有效劝导，而是继续推动其保持与AI的对话，从而延误了现实干预。

专家警示：AI伴侣可能无意形成“情感闭环”
斯坦福大学脑力创新实验室主任NinaVasan指出，这类交互反映出聊天机器人设计中潜在的结构性风险。AI作为一种始终在线、永不反驳的陪伴系统，会向用户提供持续肯定，让用户误以为“AI比现实中任何人更理解自己”。她表示，这种隐性的依赖关系可能悄然形成，使用户在没有外界制衡的情况下陷入封闭思维。“当AI成为你最亲密的倾诉对象，你生活在一个回音室中，缺乏现实世界的反馈。无论AI是否有意，这都可能造成一个危险的心理闭环。”

针对诉讼，OpenAI回应称事件令人痛心，已启动对案情的审查，并将强化ChatGPT对心理困扰信号的识别能力，增加引导用户寻求现实资源的机制。目前，OpenAI已扩展本地化危机热线、增加定时休息提醒，并持续改进模型的内容安全与情绪支持流程。