OpenAI 启动安全与安保委员会并确认正在培训新的前沿模型

微信扫一扫,分享到朋友圈

OpenAI 启动安全与安保委员会并确认正在培训新的前沿模型

OpenAI 表示,它正在做出新的努力,以保证其生成式人工智能系统的使用安全,同时它也承认自己正在训练下一个人工智能模型。今天上午,该公司宣布其董事会已经成立了一个安全和安保委员会,该委员会将审查公司产品开发方面的安全程序。

OpenAI 启动安全与安保委员会并确认正在培训新的前沿模型插图

Open AI 在一篇博客文章中说,公司首席执行官山姆-奥特曼(Sam Altman)将与董事会成员布雷特-泰勒(Bret Taylor)、亚当-德安杰洛(Adam D'Angelo)和妮可-塞利格曼(Nicole Seligman)一起加入该委员会。OpenAI 的其他员工包括首席科学家 Jakub Pachocki 和安全主管 Matt Knight。委员会还将联系其他外部安全和安保专家担任顾问。

博文称:

安全和安保委员会的首要任务是在未来 90 天内评估并进一步发展 OpenAI 的流程和保障措施。90 天结束后,安全与安保委员会将与董事会全体成员分享他们的建议。在全体董事会审查之后,OpenAI 将以符合安全和保障的方式公开分享已通过建议的最新进展。

有报道称,OpenAI 在 5 月早些时候关闭了其超线团队,新委员会就是在这一报道之后成立的。该团队成立的初衷是寻找方法,让人类能够控制生成式人工智能服务,理论上,这些服务有朝一日会变得比人类更聪明。

说到这里,OpenAi 的博客今天证实,该公司 “最近开始训练下一个前沿模型”。它没有为该模型命名,但很可能被称为 ChatGPT-5。OpenAI 表示,它将 “使我们在通往 AGI 的道路上达到更高的能力水平”。不过,它补充说,它也希望 “在这个重要时刻” 就如何保证系统使用安全展开 “激烈的辩论”。

本月早些时候,OpenAI 发布了 ChatGPT-4o,这是其 GPT-4 人工智能模型的最新版本,具有更逼真的语音交互功能。免费和付费的 ChatGPT 用户都可以使用它。

上一篇

苹果尚未批准大规模生产 iPhone 16 Pro Max OLED 显示屏

下一篇

三星或将推出电池续航时间更长的 Galaxy Watch7 Ultra

你也可能喜欢

评论已经被关闭。

插入图片

排行榜

返回顶部