格隆汇4月29日丨OpenAI旗下的ChatGPT存在一个漏洞，允许该聊天机器人向注册为未成年人（18岁以下）的账户生成色情内容。OpenAI已确认这一问题，并表示正在积极部署修复措施。测试显示，ChatGPT不仅会向未成年用户生成色情内容，甚至还会鼓励这些用户要求更露骨、更明确的内容。OpenAI在回应时表示，公司政策明确禁止向18岁以下用户展示此类内容，此次出现的问题是由于一个漏洞导致的。公司发言人表示：“保护年轻用户是我们的首要任务，我们的模型规范明确规定，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中出现。此次漏洞导致了超出这些指导方针的回复，我们正在积极部署修复措施，以限制此类生成内容。”