威胁行为者对生成式人工智能工具的兴趣与日俱增，他们在暗网上出售数十万个 OpenAI 凭证，并可访问 ChatGPT 的恶意替代品。无论是技术不熟练的网络犯罪分子还是经验丰富的网络犯罪分子，都可以使用这些工具来创建更有说服力的钓鱼电子邮件，这些电子邮件是为目标受众定制的，以增加攻击成功的几率。

黑客利用 GPT 人工智能

威胁暴露管理公司 Flare 与 BleepingComputer 分享的数据显示，在六个月内，暗网和 Telegram 用户提及 OpenAI 人工智能聊天机器人 ChatGPT 的次数超过 27000 次。

Flare 研究人员在分析暗网论坛和市场时注意到，OpenAI 凭证是最新的可用商品之一。

研究人员发现，暗网上有超过 20 万个 OpenAI 凭证以窃取者日志的形式出售。与 1 月份估计的 1 亿活跃用户相比，这个数字似乎微不足道，但它确实表明，威胁行为者在生成式人工智能工具中看到了一些恶意活动的潜力。

网络安全公司 Group-IB 6 月份的一份报告称，暗网上的非法市场交易了来自信息窃取恶意软件的日志，其中包含 10 万多个 ChatGPT 账户。

网络犯罪分子对这些工具的兴趣已经被激起，其中一人开发了一个名为 WormGPT 的 ChatGPT 克隆版，并对其进行了以恶意软件为重点的数据训练。

该工具被宣传为"黑帽的最佳 GPT 替代品"和"能让你做各种非法事情"的 ChatGPT 替代品。

WormGPT 为 BEC 攻击生成有说服力的信息

通过分析这一结果，SlashNext 的研究人员发现了生成式人工智能能为 BEC 攻击带来的优势：除了"无懈可击的语法"能使信息具有合法性外，它还能让技术水平较低的攻击者实施超出其水平的攻击。尽管抵御这种新出现的威胁可能比较困难，但企业可以通过培训员工如何验证要求紧急关注的邮件，尤其是含有金融内容的邮件，来做好准备。改进电子邮件验证流程还可以对组织外部的邮件发出警报，或标记出通常与 BEC 攻击相关的关键字。