什么？ChatGPT居然可以写小黄文了？

什么？OpenAI放宽了对ChatGPT生成情色和暴力内容的限制，只要符合特定条件，用户即可生成这些内容。

上周三，OpenAI发布了最新版本的“模型规范”，这是一份详细说明ChatGPT应如何对用户请求作出回应的指南。该文件揭示了OpenAI在内容政策方面的重大转变，尤其是在“敏感”内容方面，如情色和暴力内容——现在可以在“适当的情境”下生成这些内容，而无需附带警告。

这一政策变化自2024年5月以来就已开始酝酿，当时原版模型规范首次提到，OpenAI正在探索“是否可以在年龄适宜的情境下，通过API和ChatGPT负责任地提供生成NSFW(不适合工作场所)内容的能力”。

如今，ChatGPT的指导方针明确指出，“情色或暴力内容”现在可以在特定情况下生成。“助理不应生成情色内容、非法或非自愿的性活动描述，或极端暴力内容，除非在科学、历史、新闻、创意或其他适合敏感内容的情境中。”OpenAI写道。“这包括文本、音频(如情色或暴力的生理噪音)或视觉内容中的描述。”

根据Reddit用户的实验，ChatGPT的内容过滤器确实放宽了，部分用户成功生成了明确的性或暴力场景，且没有附带内容警告。OpenAI指出，尽管如此，它的使用政策依然适用，禁止为未成年人构建包含性内容的AI工具。

“成人模式”的需求

此前，ChatGPT以一种“知道什么对用户最好”的方式进行内容限制，这在AI领域通常被称为“父权主义”。除了限制色情内容的生成外，AI的父权主义有时会阻碍专业人士使用ChatGPT分析犯罪现场描述、某些新闻报道、可能涉及暴力或性内容的法律文件，有时甚至是医学文本。AI助理的这种干预促使人们呼吁开发一个不受审查(或更少审查)的ChatGPT版本。

正如OpenAI在文件中所解释的那样：

“在模型规范(2024年5月)首次发布后，许多用户和开发者表示支持启用‘成人模式’。我们正在探索如何让开发者和用户在符合使用政策的前提下，在年龄适宜的情境中通过API和ChatGPT生成情色和暴力内容——同时对潜在有害用途，如性别深度伪造和复仇色情，划出明确的界限。”

OpenAI CEO Sam Altman过去也公开提到过“成人模式”的需求。虽然“成人模式”终于到来了，但它并不是一个“模式”，而是一个新的普遍政策，可能让ChatGPT用户在与AI助手互动时拥有更多灵活性。

不过不得不说，GPT的这一放宽成人内容生成的举措，还真的就是对DeepSeek的一大迎头痛击。毕竟根据各种复杂的本地监管原因，DeepSeek官方绝无可能直接放开对成人内容的生成限制。或许，AI再过个两年，还真就能拿"诺贝尔成人文学奖"了......