HawkInsight

  • 联系我们
  • App
  • 中文

OpenAI宣布成立安全委员会 并确认正开发下一代AI模型

近日,OpenAI发布公告称,董事会已成立一个安全委员会,负责监督AI发展的方向。

近日,OpenAI发布公告称,董事会已成立一个安全委员会,负责监督AI发展的方向,这被广泛认为是长期传闻的GPT-5的开发工作。

OpenAI在公告中表示,公司已经开始训练下一代前沿模型,预计该新系统将在通向人工通用智能(AGI)的道路上迈出重要一步。

自2023年3月发布GPT-4以来,OpenAI逐步推出了一系列以GPT-4为核心的文本、图像、音频和视频生成应用。就在两周前,公司发布了最新版本GPT-4o。通过显著提高模型的交互率,实现了类似于人类对话的实时交互。尽管在多个方面有所增强,GPT-4o依然未能超越GPT-4的能力范围。

因此,市场对GPT-5的期待值非常高。然而,根据OpenAI的最新声明,下一代模型可能要到明年才会与公众见面。AI模型的训练通常需要数月甚至数年时间,开发团队还需要几个月进行微调,才能公开发布。

与此同时,随着OpenAI的AI系统越来越接近人类水平的智能,关于AGI的表述变得更加谨慎。OpenAI全球事务副总裁Anna Makanju在周二的一次采访中表示,OpenAI的使命是构建能够执行当前人类认知任务的通用智能。

几年前,Sam Altman曾自信地表示,OpenAI的最终目标是创造比人类更先进的超级智能。他还表示,他将一半的时间用于思考如何构建超级AI。然而,Anna强调,OpenAI的目标是构建AGI,而非超级智能,因为后者将比地球上任何人类都要聪明几个数量级。

OpenAI的最新公告还旨在解决另一争议——公司联合创始人Ilya Sutskever在本月初辞职。他曾负责处理超级智能系统潜在安全问题的超级对齐团队。随着该团队的解散,一些团队成员在网上批评OpenAI管理层边缘化了安全团队。

值得注意的是,去年年底OpenAI的内部动荡也是由Sutskever催化的,他在罢免Altman中扮演了关键角色。Altman重新掌权后,Sutskever并未在新董事会中占有一席之地。

周二,OpenAI宣布成立由Altman和另外三位董事领导的安全委员会,负责就OpenAI项目和运营的关键安全决策向董事会提供建议。新委员会在接下来的90天内的主要任务是评估和进一步完善OpenAI的流程和安全措施。一旦董事会审核通过,OpenAI将公开分享这些更新。

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。