构筑 AI 安全防线,谷歌、微软、英伟达等 14 家公司组建安全 AI 联盟

2024-07-19 07:17IT之家 - 故渊
感谢IT之家网友 HH_KK西窗旧事 的线索投递!

IT之家 7 月 19 日消息,昨日举办的阿斯彭安全论坛(Aspen Security Forum)会议中,谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等 14 家 AI 领域的大公司宣布联合组建安全人工智能联盟(Coalition for Secure AI,CoSAI)。

CoSAI 由 OASIS 全球标准机构主办,是一项开源计划,旨在为所有 AI 从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。CoSAI 将建立一个合作生态系统,共享开源方法、标准化框架和工具等等。

CoSAI 的创始赞助商包括谷歌、IBM、英特尔、微软、英伟达和 PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

CoSAI 首先将致力于实现三个目标:

  • 开发人工智能安全的最佳实践

  • 应对人工智能领域的挑战

  • 确保人工智能应用的安全

CoSAI 的工作范围包括安全地构建、集成、部署和运行人工智能系统,重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI 是一个开源社区,由项目理事会和技术指导委员会领导,前者负责推进和管理其总体技术议程,后者由学术界和产业界的人工智能专家组成,负责监督其工作流。

IT之家附上谷歌安全副总裁希瑟・阿德金斯(Heather Adkins)在声明中的部分内容如下:

AI 发展多年,为防御者带来的持续潜力,同时也认识到它为对手带来的机遇。

CoSAI 将帮助大大小小的组织安全、负责任地整合人工智能,帮助他们利用人工智能的优势,同时降低风险。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享