美参议院司法听证会：AI 难以控制，恶意分子可能会利用其开发生化武器

IT之家 7 月 26 日消息，据外媒 TechCrunch 报道，美国国会参议院司法委员会在昨日举行了人工智能听证会，在会中，多名 AI 行业从业者警告称，人类无法妥当控制飞速发展的 AI，因此未来几年内 AI 恐造成严重危害，恶意分子有可能利用绕过监管的 AI 工具制造生化武器。

参议院司法委员会小组委员会主席 Richard Blumenthal 主持了此次听证会，他表示，人类已经证明自己有能力发明当时令人难以置信的新技术。他把 AI 比作美国的第二次“曼哈顿计划”或 NASA 的第二次“载人登月计划”，但台下的业界代表却更多表现出对 AI 的担忧。

美国 AI 创业公司 Anthropic 的 CEO Dario Amodei 在听证会上表示，他担心尖端 AI 技术可能在短短两年时间内就会被用来制造危险的病毒和其他生化武器，该公司此前从谷歌获得了 3 亿美元（IT之家注：约 21.47 亿元人民币）的投资，并依靠谷歌的数据中心来训练“更具信赖性”的 AI 模型。

蒙特利尔大学 AI 教授、“现代 AI 科学之父” Yoshua Bengio 则表示，他对 GPT-4 等模型实现的巨大飞跃感到震惊，他认为，当下各国之间应当积极进行合作来控制 AI 的发展，建立类似核技术监管规则的制度。

加州大学伯克利分校计算机科学教授斯 Stuart Russell 则认为，当下的 AI 的工作方式充满“不可知”性，与其他可控的强大技术相比，当下 AI 缺乏一个“超级管理工具”，因此人们目前无法得知 AI 的实际意图和所有可能做出的行为。

据悉，在过去六个月里，业界已经将好莱坞大片中的“超级 AI”可能出现的时间点，从既定的几十年后拨前至“仅仅几年后”，而围绕“超级 AI”可能产生的种种问题也随之而出，引发了社会普遍的担忧。

相关阅读：

《黑客展示“没有道德限制”的 WormGPT 聊天机器人：可自动生成木马、钓鱼链接》

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。