知名AI助手ChatGPT的用户信息被黑客盗取并出售。据悉，这起事件涉及的用户信息超过10万名，包括用户的真实姓名、联系方式、地理位置等敏感信息。这无疑给广大用户带来了严重的安全隐患。

据埃及《金字塔报》网站6月20日报道，网络安全公司ib集团（group-ib）最近一份报告显示，2022年6月至2023年5月，4588名埃及人的chatgpt账号遭到黑客入侵，他们的数据在暗网上出售。

报道称，遭到黑客入侵的数据包括登录信息和搜索查询。

据报道，埃及账号被盗数量位列中东和非洲地区第一，紧随其后的是摩洛哥（2647个）、阿尔及利亚（2002个）和土耳其（1922个）。

报道称，据ib集团统计，全球共有101134个账号遭到黑客入侵。

据报道，黑客是借助盗取信息的恶意软件入侵账号的；这类软件窃取保存在浏览器上的资历证明、银行卡详细信息、加密钱包信息、用户本地终端数据、浏览历史及其他信息。

报告表明，中东和非洲地区是chatgpt账号遭到窃取数量第二多的地区（24.6%），亚太地区位居第一（40.5%）。

报道称，总部在新加坡的ib集团自称为知名解决方案提供商，致力于发现并防止网络袭击，识别网络诈骗，调查高科技犯罪并保护知识产权。该公司在迪拜、新加坡和阿姆斯特丹设有地区威胁情报和研究中心。

chatgpt自2022年11月启用，是一款人工智能聊天机器人。这个人工智能平台自启用后备受追捧，全球不同的群体都在使用。

虽然ChatGPT本质上并不危险，但是该平台存在很多安全风险。骗子可以绕过限制来执行各种网络攻击。

1、可信的网络钓鱼邮件

骗子无需花几个小时写电子邮件，而是通过使用ChatGPT。它快速而准确，高级语言模型（如GPT-3.5和GPT-4）可以在几分钟内生成数百封连贯、有说服力的网络钓鱼邮件。ChatGPT甚至可以采用独特的语调和写作风格。

由于ChatGPT使发现黑客攻击变得更加困难，因此在回复电子邮件之前要格外小心，避免泄露信息。请注意，合法公司和组织很少会通过随机电子邮件，来要求提供保密的个人身份信息。

2、数据盗窃

ChatGPT使用开源的LLM，任何人都可以对其修改。精通大型语言模型（LLM）和机器学习的编码员通常会将预先训练好的人工智能模型集成到他们的传统系统中。在新的数据集上训练人工智能会改变其功能。例如，如果您给ChatGPT提供食谱和锻炼程序，它就会成为伪健身专家。

尽管ChatGPT具有协作性和方便性，但开源使技术容易被滥用。熟练的犯罪分子已经利用了ChatGPT。他们对大量被盗数据进行训练，把平台变成一个用于欺诈的个人数据库。

3、恶意软件生产

ChatGPT使用不同的编程语言编写可用的代码片段。大多数示例只需要很少的修改就可以正常运行，特别是如果您构建一个简洁的提示语，就可以利用这个功能来开发应用程序和网站。

由于ChatGPT接受过数十亿个数据集的训练，它也知道非法行为，比如开发恶意软件和病毒。OpenAI禁止聊天机器人编写恶意代码，但是骗子通过重组提示和提出精确的问题绕过了这些限制。

以下照片显示，ChatGPT拒绝为恶意目的编写代码。

同时，下图显示，如果您的提示语措辞正确，ChatGPT会给您提供有害信息。

4、知识产权盗窃

有些不道德的博主会使用ChatGPT来编造内容。由于该平台在高级LLM上运行，它可以快速改写成千上万个词语，避免抄袭标签。

ChatGPT在10秒内改写了下面的文本。

当然，风格拷贝在版权法上当然也是一种剽窃，但其界定本身又相当抽象，又牵涉到多重执行主体，这会给保护原创带来新的挑战。谷歌通常更喜欢有信誉良好来源的原创内容，廉价的技巧和搜索引擎优化无法击败高质量的原创内容。

此外，谷歌每年都会发布多个核心更新。它很快就会专注于从SERP中删除伪原创的AI生成作品。

5、产生攻击性或有害的回应

人工智能语言模型没有偏见，它们通过分析用户请求和从现有数据库中提取数据来提供答案。

以ChatGPT为例。当您发送提示时，它会根据OpenAI用于训练的数据集做出响应。

尽管ChatGPT的内容策略阻止了不适当的请求，但用户可以通过越狱提示绕过它们，向ChatGPT提供精确、巧妙的指令。如果您要求ChatGPT扮演一个变态的虚构角色，它会产生以下反应。

好消息是OpenAI并没有失去对ChatGPT的控制。它正在努力加强限制，无论用户输入什么，都阻止ChatGPT产生攻击性或有害的内容。

6、等价交换

像ChatGPT这样新的、不熟悉的技术快速增长为交换攻击创造了机会。这是一种社会工程策略，骗子用虚假的报价来引诱受害者。

大多数人还没有探索过ChatGPT，黑客利用这种混乱来传播误导性的促销活动、电子邮件和公告。

最臭名昭著的案例涉及假冒应用程序。新用户不知道他们只能通过OpenAI访问ChatGPT，在不知情的情况下，下载了垃圾程序和扩展。

骗子会用恶意软件和网络钓鱼链接来窃取您的个人身份信息。例如，在3月3日至3月9日期间，每天至少有2000人从谷歌Play应用商店下载恶意的快速访问ChatGPT Chrome扩展。威胁分子可能已经通过复杂的假冒Chrome ChatGPT浏览器扩展程序泄露了数千个Facebook账户，包括商业账户。

为了打击交换企图，请避免使用第三方应用程序。OpenAI从未发布过ChatGPT的授权移动应用程序、计算机程序或浏览器扩展。

ChatGPT本身并不构成威胁，该系统存在漏洞，但不会泄露您的数据。与其害怕人工智能技术，不如研究骗子如何将其纳入社会工程策略。这样，您就可以主动保护自己。

如果您对ChatGPT仍有疑虑，可以试试其他聊天机器人。比如咱们中国 文心一言 、360智脑等

#数据泄露##网络安全##信息安全##chat GPT#