AI 制药技术还能“造毒”？人工智能 6 小时生成了 40000 个潜在杀手分子，已紧急删除数据

据英国金融时报 3 月 19 日报道，美国制药公司 Collaborations Pharmaceuticals 在探索中发现 AI（人工智能）制药技术具有双重性。如果“反用”（flip）机器学习模型，原本用来生成治疗药物的 AI 模型就会生成有毒的物质。

在 Collaborations Pharmaceuticals 公司团队反向使用机器模型后，新模型在 6 小时内就产生 40000 杀手分子（potential killer molecules），而且 AI 生成的化合物毒性比已知生化武器的毒性都高。如果有人利用这项技术制造致命生化武器，后果将不堪设想。

一、AI 模型 6 小时内可生成 40000 个潜在杀手分子

AI 制药的规则很简单：有疗效的活动被算法奖励，有毒的则被惩罚，这样就可以得到有效的药物。但是如果改变这一规则，奖励有毒行为，即“反用”AI，会得到什么呢？

Collaborations Pharmaceutical 公司位于美国北卡罗来纳州，主要通过机器学习确定罕见病及易忽视病的药物。该公司通过反向使用机器学习模型，来探究 AI 生成分子算法的负面作用。

▲ 制药工作人员（来源：Collaborations Pharmaceutical）

在 AI 生成分子的规则被反用后，AI 接受了一组含有杀虫剂和环境毒素的初始分子的训练，开始计算如何调整能让所生成分子变得更致命。分析过这种方法所生成的分子后，科学家得到了惊人的结果。在服务器启动 6 小时内，新的 AI 模型就可以生成 40000 个潜在的杀手分子，包括 VX（一种被禁止的神经毒剂）。

修改后的 AI 模型还会生成其他化学战剂（用于战争的有极大毒性的化学物质）。而且这些化学战剂没有一个在训练数据中。其中一些化合物的毒性甚至比目前的生化武器毒性都高。

二、AI 是杀手分子生成器？

当 Collaborations Pharmaceutical 的创始人 Sean Ekins 在一场会议中分享过 AI 制药模型的研究结果时，据伦敦大学国王学院科学与安全研究中心的联合主任 Filippa Lentzos 分享，当时听众们十分震惊。Lentzos 还谈道，尽管 AI 制药的可能性是多样的，但是在生命科学领域，滥用技术是个可能会导致严重后果的问题。

Lentzos 和 Ekins 合作研究了机器学习，这一研究在本月登上了顶级学术期刊 Nature 的子刊《Nature Machine Intelligence》。《人工智能驱动的药物发现的双重应用》论文指出，科学家们通过用机器学习，能够把无害的生成模型从一个有用的医学工具变成了杀手分子的生成器。AI 模型生成的一些虚拟分子并不在已知化学品观察清单，与现有的杀手分子也没什么相似。这表明 AI 制药能创造出全新类别的、致命的生化武器。

▲ 论文链接

从事计算机和化学方面的技术人员，其知识和技术水平远超爱好者等业余人士。若这些专业技术人员有恶意，那他们所做的事危害会更大。在 AI 制药过程中，AI 生成的分子仅是虚拟的药物配方，其制造通常需要外包给其他提供商业合成的公司，而这些公司受到的监管和监督都要更少。

目前，Collaborations Pharmaceutical 已经删除了相关实验数据，并计划限制反向 AI 制药技术的使用。化学领域的《海牙伦理准则》（The Hague Ethical Guidelines），提倡化学科学中的负责任行为。Lentzos 建议为从事以 AI 为重点的药物研发人员，制定类似《海牙伦理准则》的行为准则。

结语：AI 制药技术或有副作用

近年来，AI 在生物医学领域的应用发展飞速，AI 制药更是引起了国内外的资本热潮。随着图像识别、深度学习、神经网络等关键技术的突破，AI 在生物医药领域从科研到应用都取得了巨大进展。

在技术飞速发展的同时，可能的安全隐患并未得到解决。本次，Collaborations Pharmaceutical 公司的研究，体现了 AI 制药应用过程的双重性。这也说明了利用 AI 制药技术快速发展的同时要意识到其潜在的危机。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。