.hd-box .hd-fr

“AI 教父”杰弗里・辛顿从谷歌离职后发声:人工智能正变得比人类更聪明

2023-05-03 16:46IT之家(远洋)44评

IT之家 5 月 3 日消息,人工智能领域的开创者之一,被誉为“AI 教父”的杰弗里・辛顿(Geoffrey Hinton)近日宣布离开他工作了十年的谷歌公司,原因是他对人工智能技术的发展越来越担忧。今日他在接受 CNN 记者杰克・塔珀(Jake Tapper)采访时表示,他认为人工智能正在变得比人类更聪明,他想要“吹哨”提醒人们应该认真考虑如何防止人工智能控制人类。

我只是一个突然意识到这些东西正在变得比我们更聪明的科学家,”辛顿称,“我想在某种程度上‘吹响哨子’,说我们应该认真担心如何阻止这些东西对我们的控制。”

辛顿是神经网络技术的先驱,他的研究为今天许多产品中使用的人工智能系统奠定了基础。IT之家此前曾报道,他在周一接受《纽约时报》采访时首次透露了他的离职消息,并表达了他对人工智能技术的潜在危害的担忧。他说,他担心人工智能会导致大量失业,并创造一个许多人“无法知道什么是真实的”世界。他还指出,人工智能技术的进步速度远远超出了他和其他人的预期。

如果它变得比我们聪明得多,它就会非常擅长操纵,因为它是从我们身上学到的,而且很少有例子证明一个更聪明的东西会被一个更笨的东西控制,”辛顿周二对塔珀说,“它知道如何编程,所以它会想出办法绕过我们对它的限制。它会想出办法操纵人们做它想要的事情。”

辛顿并不是唯一一个对人工智能表示担忧的技术领袖,今年 3 月,一些社区成员联名发表了一封信,呼吁人工智能实验室对最强大的人工智能系统至少暂停训练六个月,理由是“对社会和人类有深刻的风险”。

苹果公司联合创始人史蒂夫・沃兹尼亚克(Steve Wozniak)也是在这封信上签名的人之一,他周二在“CNN 今日早晨”节目中重申了对人工智能传播虚假信息的担忧。“对于那些想要欺骗你的人来说,欺骗将变得更容易。”沃兹尼亚克对 CNN 说,“我们在这方面没有做出任何改变 —— 我们只是假设我们现有的法律会解决这个问题。”沃兹尼亚克还表示,可能需要“某种类型”的监管。

辛顿则表示,他没有签署这封请愿书。“我不认为我们能阻止这种进步,”他说,“我没有签署说我们应该停止研究人工智能的请愿书,因为如果美国人停止研究,中国人不会。”但他承认,他没有一个明确的解决方案,“我不清楚我们能否解决这个问题。我相信我们应该努力思考解决问题的方法。我目前还没有解决方案。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

下载IT之家APP,分享赚金币换豪礼
相关文章
大家都在买广告
热门评论
查看更多评论