前谷歌研究人员创立 Sakana AI,专注于为基础模型创建新架构

2023-08-20 14:44IT之家 - 泽泷(实习)

IT之家 8 月 20 日消息,据路透社报道,两位著名的前谷歌研究人员 David Ha 和 Llion Jones 启动一项研究总部位于东京的新人工智能公司,创立了 Sakana AI。

IT之家从报道中获悉,Jones 是 Google 2017 年研究论文《Attention Is All You Need》的第五位作者,该论文介绍了“transformer”深度学习架构,该架构后来成为聊天机器人 ChatGPT 和当前由生成式 AI 驱动的产品开发竞赛的基础。Ha 此前曾担任 Stability AI 的研究主管和 Google Brain 研究员。

Jones 表示,Sakana AI 将专注于为基础模型创建新架构。“我们的方法不是构建一个吸收所有数据的巨大模型,而是使用大量较小的模型,每个模型都有自己独特的优势和较小的数据集,并让这些模型相互通信和协作来解决问题。”Ha 解释道。

两位联合创始人表示,Sakana 这个名字源自日语单词“さかな”(sa-ka-na),意为“鱼”,旨在唤起“一群鱼聚集在一起,通过简单的规则形成一个连贯的实体”的想法。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      请登录后查看评论
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享