首页 产业新闻 OpenAI CEO坚称公司的 AI 技术安全可广泛使用

OpenAI CEO坚称公司的 AI 技术安全可广泛使用

产业新闻 11

    划重点:

    - OpenAI CEO Sam Altman 坚称公司的 AI 技术安全可广泛使用

    - AI 模型类似斯嘉丽・约翰逊引发争议,OpenAI 应对长期 AI 风险的团队解散

    - 尽管存在担忧,Altman 强调 OpenAI 已经投入大量工作确保模型安全

    OpenAI 首席执行官 Sam Altman 在微软活动中坚称,OpenAI 的 AI 技术已经足够安全,可以广泛应用。这一表态发生在一场新的争议爆发之际,涉及一款 OpenAI 的 AI 语音与女演员斯嘉丽・约翰逊的声音极为相似。

    Altman 在2022年 OpenAI 发布 ChatGPT 之后声名鹊起,如今他也面临着关于公司 AI 安全性的问题,尤其是在负责减轻长期 AI 风险的团队离职之后。Altman 告诉寻求利用 OpenAI 技术开发新产品的开发者们说:“现在是一个特殊的时刻,抓住机会。” 他强调:“现在不是推迟计划或等待下一个时机的时候。”

    OpenAI 与微软关系密切,为构建 AI 工具提供了基础技术,主要是 GPT-4大型语言模型。微软已经加入 AI 浪潮,推出新产品,并敦促用户拥抱生成式 AI 的功能。Altman 表示:“我们有点理所当然地认为”,GPT-4虽然 “远非完美... 但被普遍认为足够稳健和安全,可以广泛应用。”

    然而,就在 OpenAI 解散负责减轻长期 AI 风险的 “超对齐” 团队后,关于 OpenAI 对安全的承诺再次浮出水面。在宣布离职时,团队联合负责人 Jan Leike 在 X(原名 Twitter)上发帖批评 OpenAI 优先考虑 “闪亮的新产品” 而非安全性。接着,女演员斯嘉丽・约翰逊公开发表声明,对 OpenAI 的 ChatGPT 中使用类似她在2013年电影《她》中的声音感到愤怒。OpenAI 最近发布的更接近人类的 GPT-4o 模型中出现了名为 “Sky” 的声音。

    在周二的一份简短声明中,Altman 向约翰逊道歉,但坚称该声音并非基于她的声音。尽管存在争议,Altman 强调 OpenAI 已经投入 “大量工作” 确保模型的安全性。

广告

文章目录

    标签列表