IT之家 9 月 14 日消息，科技媒体 The Decoder 昨日（9 月 13 日）发布博文，报道称在 OpenAI 自家的“防备框架”（Preparedness Framework）下，将最新发布的 o1 AI 模型归类为“中等风险”（medium risk）。
IT之家曾于 2023 年 12 月报道，OpenAI 成立了新的“防备”（Preparedness）团队，并提出“防备框架”指导方针。
防备团队将反复评估 OpenAI 最先进、尚未发布的 AI 模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。根据新的指导方针，OpenAI 将只推出评级为“低”和“中”的模型。
OpenAI 公司在官方新闻稿中表示，最终确定 o1 模型归类为“中等风险”主要有以下两个原因：
类人推理能力
o1 模型展现出类似人类的推理能力，并能在类似主题上产生与人类撰写同样令人信服的论点。
这种说服力并非 o1 独有，先前的 AI 模型也已展示出此能力，有时甚至超越人类表现。
可辅助制作生物武器
评估显示，o1 模型能辅助专家复制已知生物武器威胁。
OpenAI 宣称，o1 模型显著提升数学和科学领域的能力。
例如，在全美奥林匹克数学队（）USA Mathematical Olympiad，简称 USAMO）的预选赛中，新模型的表现能跻身美国前 500 名学生之列，并且在物理、生物和化学问题的基准测试中，准确度超过了人类博士水平。
OpenAI 首次将其模型在化学、生物、放射性和核武器（CBRN）风险方面的评级定为“中性”。这些模型的发布伴随着对其潜在危险的多次警告。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。