.hd-box .hd-fr

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

2023-12-27 22:18IT之家(漾仔(实习))13评

IT之家 12 月 27 日消息,安全公司 Abnormal 日前发布报告,声称如今“AI 钓鱼邮件”愈发泛滥,许多黑客利用各种模型批量创建钓鱼邮件,之后使用脚本群发相关邮件,从而实施“高效率”网络诈骗活动。

该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意 AI 工具,声称当下黑客已经将生成式 AI 融入到攻击策略中,因此用户也需要“以相同的方式做出反击”,利用 AI 过滤“可能由 AI 创建的钓鱼邮件”

IT之家查询安全报告得知,传统的钓鱼邮件通常使用相同的域名,正文拥有固定模板格式,整体邮件内容和风格较为统一,因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件乍眼看“相当独特”,甚至“每一篇都不一样”,因此难以被传统安全软件乃至人类所察觉。

▲ 使用 AI 生成的钓鱼邮件,图源 安全公司 Abnormal 发布的报告(下同)

据悉,研究人员在报告中介绍了一款名为 Giant Language Model Test Room(GLTR)的 AI 检测工具,该工具利用了“相关钓鱼邮件内容主要采用‘预测式’调用‘特定高概率单词’”的特点,从而精确识别 AI 钓鱼邮件

研究人员声称,即使黑客让 AI“使用更为正式的措辞”创建邮件,但 GLTR 工具依然可以判断邮件中哪些部分“高概率由人工智能生成”。不过报告中同时指出,相关检测手法存在“误杀率”,100% 判断邮件内容是否由 AI 创建“几乎是不可能的”

研究人员同时提到,AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少,因此受害者更容易上当,当下“使用 AI 对付 AI”的方案反而更加有效

相关阅读:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

下载IT之家APP,分享赚金币换豪礼
相关文章
大家都在买广告
热门评论
查看更多评论