ChatGPT放开成人内容引争议，奥特曼回应：OpenAI拒绝充当“世界道德警察”

近日，OpenAI首席执行官萨姆·奥特曼决定放宽ChatGPT内容限制，允许生成成人内容，这一决策引发强烈反对。奥特曼发文澄清，强调OpenAI并非“世界道德警察”，但该表态与他此前说法相悖，且在面临监管调查与诉讼、已采取多项安全强化措施的背景下，此次放宽内容限制与成立评估AI影响委员会时间重合，引发诸多争议，社会倡导组织呼吁撤销决定，投资者也警告此举引发信任危机。

放宽内容限制决定及澄清

美国当地时间周三，OpenAI首席执行官萨姆·奥特曼表示，公司并非“经选举产生的世界道德警察”。此前，他决定放宽限制，允许ChatGPT生成成人内容，引发强烈反弹。奥特曼在社交媒体X上发文称，随着公司推出新技术工具，能有效控制“严重的心理健康风险”，所以可以“稳妥地放宽”绝大多数内容限制。早在2024年12月，奥特曼就透露将允许ChatGPT向“完成身份验证的成年人”提供包括成人内容在内的更广泛内容。他还强调OpenAI“高度重视将成年用户视为成年人的原则”，同时承诺禁止“任何对他人造成伤害的内容”，并以电影分级制度为例说明希望采取类似做法。

表态前后矛盾

奥特曼的最新表态与他8月份做客播客节目时的说法相互矛盾。当时他表示，为OpenAI能够抵制某些可能显著提升ChatGPT使用量的功能，如“性爱机器人虚拟形象”而感到“自豪”，认为做这类短视之事刺激用户增长或收入与长期目标严重背离。

面临监管调查与诉讼

今年9月，美国联邦贸易委员会（FTC）对OpenAI及其他科技公司启动调查，重点评估ChatGPT等聊天机器人对儿童和青少年的负面影响。此外，OpenAI还卷入一起非正常死亡诉讼，一个家庭指控ChatGPT导致其未成年儿子自杀。

此前安全强化措施

在调查与诉讼之后，OpenAI陆续采取一系列安全强化措施。9月底，该公司推出多项家长控制功能，并正在开发一套年龄预测系统，未来将自动为18岁以下用户启用适合青少年的安全设置。10月15日，OpenAI宣布成立一个由八名专家组成的委员会，旨在评估AI对用户心理健康、情绪与行为动机的影响。然而，同一天奥特曼却发文称公司将放宽内容限制，两者在时间上的重合在社交媒体上引发困惑与强烈反弹。

各方反对声音

奥特曼承认这一决定引发的舆论反响“远远超出预期”。他的表态引起包括“全国反性剥削中心”（NCOSE）在内的多个社会倡导组织的关注，NCOSE执行主任海莉·麦克纳马拉在周三声明中指出：“性化AI聊天机器人本身就存在风险，在行业安全标准尚不明确的背景下，虚拟亲密关系可能对用户心理健康造成真实伤害。”亿万富翁投资者马克·库班也公开警告，OpenAI允许在ChatGPT中生成成人内容的决定，正在家长和学校中引发信任危机。他在X平台上回应奥特曼时写道：“这注定会引发反噬，而且后果将十分严重，没有哪个家长会相信你们那套年龄验证系统真能拦住孩子。到时候，他们只会让孩子转用其他大语言模型————谁会愿意冒这个险？”