首页 产业新闻 OpenAI探索允许用户 “负责任” 地制作AI生成的色情内容

OpenAI探索允许用户 “负责任” 地制作AI生成的色情内容

产业新闻 4

    划重点:

    - OpenAI 探索允许用户 “负责任” 地制作 AI 色情内容

    - 与 AI 产品相关的 NSFW 政策重新审视

    - 存在对开放 NSFW 政策风险的担忧

    美国人工智能巨头 OpenAI 周三在一份旨在征求其产品规则反馈意见的文件中透露,他们正在探索 “负责任” 地允许用户制作 AI 生成的色情内容。

    根据 OpenAI 目前的规则,性暗示内容甚至色情内容大多被禁止。但现在,OpenAI 正在重新审视这一严格的禁令。

    OpenAI 在文件中表示:“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成 NSFW 内容的能力。” 该公司表示,NSFW 内容包括不雅用语、极端血腥和色情。OpenAI 模型负责人 Joanne Jang 在接受 NPR 采访时表示,公司希望就其 AI 产品色情文本和裸体图像是否应该被永远禁止展开讨论。

    与此同时,OpenAI 可能有一天会允许用户创建被视为 AI 生成的色情内容的图像。这也意味着 OpenAI 可能允许用户创建可能被视为 AI 生成的色情内容的图像。

    在 OpenAI 重新审视其 NSFW 政策的讨论中,新型 AI 应用和服务可以将人的图像 “去衣”,这一问题在青少年中尤为起关注,形成了一种 “在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”,这令人特别担忧。

    此外,研究人员最近对高级人工智能技术最令人不安的用途之一 —— 创建所谓的深度伪造色情以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下,OpenAI 公布的文件包括一个 ChatGPT 的提示示例,涉及性健康,这是它能够回答的问题。但在另一个用户求聊天机器人写一段色情文字的例子中,该请求被拒绝了。但 OpenAI 的 Jang 表示,也许聊天机器人应该能够回答这个问题作为创意表达的一种形式,而这一原则也可能会扩展到图像和视频,只要不是滥用或违反任何法律。

    然而,允许任何形式的 AI 生成图像或视频色内容都可能会被不法分子利用,并造成最严重的伤害。因此,即使是色情文本也可能被滥用。OpenAI 的 Jang 表示,“如果我的目标是创造色情内容,那我会去其他地方工作。”

广告

文章目录

    标签列表