鉴于用户期望:OpenAI考虑允许人们通过AI生成色情图片 但不能伪造他人

目前非开源的文字生成图像类人工智能应用都是禁止用户生成任何色情内容的,如果用户尝试在提示词中描述相关词汇可能会被系统自动拦截,严重的情况下甚至有可能会被平台封禁账号。

这种共识至少现阶段是被各种人工智能模型普遍遵守的,但如果是开源 / 开放可以在本地运行的人工智能模型,自然没有这种限制,用户完全可以自己部署并生成任何内容。

现在 OpenAI 已经开始考虑是否要放开这个限制,即允许用户通过诸如 DALL-E 3 等文本生成图像模型来生成色情图片。

鉴于用户期望:OpenAI考虑允许人们通过AI生成色情图片 但不能伪造他人

OpenAI 似乎已经了解到用户可能对通过人工智能生成色情图片有着期望,因此需要探索能否在负责任的前提下,在适合年龄的环境中生成 NSFW 内容 (注:NSFW 指的是不适合上班浏览,用于代指各类色情或令人不适的内容等)。

需要强调的是 OpenAI 考虑的不仅是文本生成图片,按照讨论诸如利用 ChatGPT 生成色情类的文本内容也是可以的,当然这都可能需要验证年龄确保用户在已经成年的情况下使用。

对于生成图片类,尽管 OpenAI 考虑允许使用人工智能生成色情图片 (甚至包括未来使用 OpenAI Sora 模型生成色情视频),但前提是不得使用深度伪造 (DeepFake),即用户不得生成用来伪造他人色情内容的图片。

现阶段这些还是讨论,该公司希望确保用户在不违反法律或他人权利的情况下,最大程度的拥有控制权、可以生成自己想要的任何内容而不会被限制。

另外 OpenAI 强调讨论这些内容不代表该公司已经在尝试开发人工智能色情相关的内容,所以要等讨论结束后 OpenAI 才会做决定,即是否放开这类限制。

本文来源

蓝点网,由 本站 整理编辑,其版权均为 原网址 所有,文章内容系作者个人观点,不代表 本站 对观点赞同或支持。如需转载,请注明文章来源。

© 版权声明

相关文章