“鹏城・脑海”通用 AI 大模型发布:2000 亿参数,国产算力平台

2023-09-21 14:59IT之家 - 汪淼

IT之家 9 月 21 日消息,今日上午,鹏城实验室主任、中国工程院院士高文在 2023 华为全联接大会上正式发布了“鹏城・脑海”(PengCheng Mind)通用 AI 大模型。

高文主任介绍,“鹏城・脑海”通用 AI 大模型以稠密型架构实现 2000 亿参数,依托“鹏城云脑 II”国产化 AI 算力平台进行全程预训练,采用了 MindSpore 昇思国产化深度学习框架,完善了大规模并行训练策略、底层算子性能和容错机制,显著提升了国产算力平台的训练效率,并构建了一套涵盖中文、英文及 50 余个“一带一路”沿线国家及地区语种的多样化语料数据集和数据质量评估工具集。

本次发布的是以中文为核心的“鹏城・脑海”基础版,将在 OpenI 启智社区向全社会开源

▲ 图源鹏城实验室公众号,下同

高文主任强调,鹏城实验室正同步研制“中国算力网”(China Computing Network,C²Net)全国一体化算力协同计算调度平台,以深圳为总调度中心,已汇聚全国协同算力达 3E 规模。“鹏城・脑海”大模型将进一步依托“中国算力网”接入的协同算力,以“算力网算力调度 + 模型赋能”相结合的方式,携手国家新一代 AI 公共算力平台,共同推动国产化 AI 大模型的持续演进与部署应用,最终打造一个基于“中国算力网”的各类领域 AI 大模型及应用生态的数字化基座。

与此同时,实验室将牵头成立“鹏城・脑海”开源联合体,广泛联合企业、高校和科研院所,通过这一全新的开源群智合作模式,“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具,并加强大模型的开源管理与资源共享。

▲ “鹏城・脑海”大模型推广计划

▲ “鹏城・脑海”大模型愿景

IT之家附“鹏城・脑海”大模型(基础版)开源链接:https://openi.pcl.ac.cn/extension/mind

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      请登录后查看评论
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享