因类人通用推理、可辅助制作生物武器等因素,OpenAI o1 AI 模型归类为“中等风险”

2024-09-14 09:29IT之家 - 故渊

IT之家 9 月 14 日消息,科技媒体 The Decoder 昨日(9 月 13 日)发布博文,报道称在 OpenAI 自家的“防备框架”(Preparedness Framework)下,将最新发布的 o1 AI 模型归类为“中等风险”(medium risk)。

防备框架简介

IT之家曾于 2023 年 12 月报道,OpenAI 成立了新的“防备”(Preparedness)团队,并提出“防备框架”指导方针。

防备团队将反复评估 OpenAI 最先进、尚未发布的 AI 模型,根据不同类型的感知风险评为四个等级,从低到高依次是“低”、“中”、“高”和“严重”。根据新的指导方针,OpenAI 将只推出评级为“低”和“中”的模型。

OpenAI o1 模型

OpenAI 公司在官方新闻稿中表示,最终确定 o1 模型归类为“中等风险”主要有以下两个原因:

类人推理能力

o1 模型展现出类似人类的推理能力,并能在类似主题上产生与人类撰写同样令人信服的论点。

这种说服力并非 o1 独有,先前的 AI 模型也已展示出此能力,有时甚至超越人类表现。

可辅助制作生物武器

评估显示,o1 模型能辅助专家复制已知生物武器威胁。

OpenAI 宣称,o1 模型显著提升数学和科学领域的能力。

例如,在全美奥林匹克数学队()USA Mathematical Olympiad,简称 USAMO)的预选赛中,新模型的表现能跻身美国前 500 名学生之列,并且在物理、生物和化学问题的基准测试中,准确度超过了人类博士水平。

OpenAI 首次将其模型在化学、生物、放射性和核武器(CBRN)风险方面的评级定为“中性”。这些模型的发布伴随着对其潜在危险的多次警告。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享