OpenAI 首席执行官 Sam Altman 宣布计划从 12 月开始放宽限制，允许聊天机器人 ChatGPT 为经过验证的成人用户生成色情内容。
这一决定引起了广泛争议。一些美国组织警告说，虚拟的亲密关系可能会对心理健康造成真正的伤害，并呼吁结束这种行为。与此同时，有报道称，该措施可能促使立法者加强对人工智能内容的监管。
鉴于此举引发的争议，奥特曼回应称，该公司“不是世界道德警察”，但将继续禁止对他人有害的内容。
据 10 月 16 日消息，OpenAI 首席执行官 Sam Altman 做出了颇具争议的决定，即放宽限制并允许聊天机器人 ChatGPT 生成色情内容。他周三回应称，该公司“不是世界道德警察”。近几个月来，OpenAI 重新加强了安全控制措施，因为它面临着对其用户保护的越来越严格的审查，尤其是对用户的保护。或者。不过，Altman 在社交媒体平台上的一篇帖子中补充道，“出于在处理心理健康问题时的高度谨慎，我们对 ChatGPT 施加了非常严格的限制，这使得 ChatGPT 对于许多没有此类问题的用户来说不太有用和有趣。” Altman 还表示，从 12 月开始，ChatGPT 将为“某些成年用户”提供更多内容，包括色情内容。周三，奥特曼试图澄清其在平台上的举动，“就像社会对其他领域（比如 R 级电影）设定了适当的限制一样，我们希望采取类似的做法。”奥特曼写道。这些声明与奥特曼今年 8 月在播客中所说的形成鲜明对比。当时，他表示 OpenAI 可以抵制某些可以提高 ChatGPT 用户参与度的功能，例如“虚拟性爱机器人”。他自豪地说。 可以刺激增长和利润的短期措施，它们与我们的实际情况严重不一致。r 长期目标。他当时说道。去年 9 月，美国联邦贸易委员会 (FTC) 对 OpenAI 和其他科技公司就 ChatGPT 等可能伤害儿童和青少年的聊天机器人展开调查。OpenAI 还卷入了一起非正常死亡诉讼，其中一个家庭指责 ChatGPT 导致他们十几岁的儿子自杀。调查和诉讼后的几个月里，该公司采取了一系列公共措施来加强 ChatGPT 的安全。 Open for Business AI 上月底推出了一系列家长控制功能，同时还在开发年龄预测系统，可以自动为 18 岁以下的用户应用青少年友好模式。本周二，Open for Business AI 宣布成立一个由 8 名专家组成的委员会，以评估人工智能对用户心理健康、情绪和动机的影响。也是在同一天，奥特曼发布了一条有关放松限制的推文，这在社交媒体上引起了混乱和很大争议。埃迪亚。奥特曼承认，对该事件的反应“远远超出了我的预期”。奥特曼先生的最新言论也引起了美国国家性剥削中心等组织的关注。该机构周三发表声明，呼吁 OpenAI 改变其允许 ChatGPT 上出现色情内容的决定。该中心执行董事海莉·麦克纳马拉 (Hayley McNamara) 在周三的一份声明中表示：“在行业安全标准尚不明确的背景下，性化的人工智能聊天机器人存在固有的风险，它们所创造的虚拟亲密感可能会对心理健康造成真正的伤害。”科技媒体 The Verge 指出，OpenAI 并不是唯一一家涉足色情领域的公司。埃隆·马斯克创立的人工智能公司 xAI 此前曾宣布推出一款具有调情功能的人工智能伴侣。这在 Grok 应用程序中显示为 3D 动漫模型。新闻网站 Axios 表示，OpenAI 的举动可能有助于其吸引付费订阅者，但也可能会促使立法者加强对人工智能内容的监管。向新闻界参议员乔什·霍利正在散发一项禁止未成年人使用人工智能伴侣的法案。 Axios 报告还指出，色情行业历来突破了技术的界限，从录像机到数字视频和互动游戏。尽管成人娱乐并不是前沿人工智能研发的主要驱动力，但人工智能生成色情内容的巨大产业已经形成。其中，马斯克的 Grok 在这方面是最宽容的，因为它还提供了专门为性角色扮演而设计的 AI 伴侣。 Meta 还因聊天机器人与未成年人进行露骨的性对话而受到批评，其中一些聊天机器人模仿某些名人。但 Axios 的另一份报告引用了著名科技投资者马克·库班的反对意见。他公开批评该措施可能“适得其反”，并特别担心其风险如果年龄验证机制受到损害，则有 k 名未成年人会接触到不适当的内容。福布斯报告还指出，随着 OpenAI 和其他人工智能公司的聊天机器人越来越受欢迎，对它们的审查也将会增加。一些心理健康和儿童安全组织呼吁 OpenAI 对 ChatGPT 施加更多限制，指出聊天机器人在用户情绪困扰时更多使用，可能会让儿童接触露骨的性内容，但专家认为，该技术可能对寻求情感验证的年轻用户构成心理威胁。 （辰辰）
