消息称亚马逊第二代自研 AI 模型训练芯片 Trainium2 有望下月广泛可用

2024-11-12 18:14IT之家 - 溯波(实习)

IT之家 11 月 12 日消息,英媒《金融时报》当地时间今日表示,亚马逊有望于 12 月宣布其第二代自研 AI 模型训练芯片 Trainium2 的“广泛可用”(widespread availability)。

Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大会上发布。亚马逊表示与第一代产品相比该芯片训练速度提升多达 4 倍,能效提升多达 2 倍,内存容量则达此前 3 倍,能在 EC2 UltraClusters 中扩展至多达 10 万个芯片,可以在极短的时间内训练基础模型和大语言模型。

▲ ES 版本 Trainium2 芯片原型
可见 Annapurna Labs 丝印

Trainium2 芯片由亚马逊在 2015 年以 3500 万美元(IT之家备注:当前约 2.53 亿元人民币)收购的芯片设计部门 Annapurna Labs 牵头负责,据悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 创企以及德国电信、日本理光在内的多个客户的测试

除亚马逊外,微软、谷歌、Meta 等大型科技企业也在自行开发各类 AI 推理或训练芯片,以减少对于英伟达硬件方案的依赖

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享