.hd-box .hd-fr

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

2024-12-11 14:17IT之家(溯波(实习))1评

IT之家 12 月 11 日消息,3DMark 开发方 UL Solution 当地时间 9 日宣布推出 Procyon AI 文本生成基准测试,通过使用多种不同参数规模的大语言 AI 模型综合判断 AI 加速器硬件的文本生成能力。

Procyon AI 文本生成基准测试目前支持通过 DirectML 通用 API 调用本地的英伟达、AMD、英特尔 GPU,也可通过英特尔的 OpenVINO 调用其自家 GPU(IT之家注:独立和集成显卡均支持,但对显存 / 内存容量要求存在差异)。

该基准测试现包括 4 种参数规模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可对 AI GPU 在多样化大语言模型文本生成用例中的表现进行相对公允的比较。

▲ 成绩页面

UL Solution 表示 Procyon AI 文本生成基准测试在操作上更为简易轻松,与直接使用完整 AI 模型测试相比又减小了安装体积,能详细展示运行文本生成负载时系统资源的使用情况。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

下载IT之家APP,分享赚金币换豪礼
相关文章
大家都在买广告
热门评论
查看更多评论