.hd-box .hd-fr

谷歌推出超级电脑架构 Hypercomputer:整合主流深度学习框架、采用灵活定价策略

2023-12-07 15:11IT之家(漾仔(实习))12评

IT之家 12 月 7 日消息,谷歌今日在推出全新大语言模型 Gemini 1.0、云端 AI 芯片 TPU v5p 外,还推出了超级电脑架构 AI Hypercomputer。

IT之家获悉,AI Hypercomputer 电脑架构号称“软硬结合”,整合了为 AI 优化的硬件、开源软件、主流深度学习框架,并号称采用灵活的定价模式,便于商业及研究部门使用。

谷歌介绍称,传统深度学习硬件主要凭借硬件性能来加强 AI 计算速度,而 AI Hypercomputer 超级电脑架构实现了“软硬结合”,利用软件与硬件的协同式设计,提升 AI 训练效率。

谷歌声称,AI Hypercomputer 支持 JAX、TensorFlow 与 PyTorch 等深度学习框架,以及 Multislice Training 与 Multihost Inferencing 等软件,还深度整合了谷歌 Kubernetes Engine(GKE)与 Compute Engine 两款基础架构服务

IT之家同时发现,谷歌强调了 AI Hypercomputer 在定价费率方面的独特性,谷歌声称该 AI 结构提供了更灵活的消费模式,使用了一项名为“Dynamic Workload Scheduler”的平台计费基准,提供“Flex Start”与“Calendar”。

Flex Start 主要用来微调模型,承载学术实验及较短的训练任务,或进行蒸馏、离线推理及批量性的任务,计费标准主要基于 AI 任务所使用的 GPU 与 TPU 量。

而 Calendar 模式则可替 AI 任务预留开始时间,适用于需要精确开始时间及模型训练持续时间的任务,计费标准主要基于时间长度。

相关阅读:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

下载IT之家APP,分享赚金币换豪礼
相关文章
大家都在买广告
热门评论
查看更多评论