文章主题:OpenAI, ChatGPT, 网络犯罪, 黑客攻击

666AI工具大全,助力做AI时代先行者!

industry media reports suggest that OpenAI has implemented restrictions on the use of ChatGPT in some countries and regions due to concerns about its potential misuse for criminal activities. However, research indicates that Russian cybercriminals have been attempting to find new ways to bypass these limitations in order to utilize ChatGPT, including cases involving circumvention of IP addresses, payment cards, and phone number restrictions.

研究人员在黑客论坛上发现俄罗斯黑客试图绕过限制以访问ChatGPT的证据

自2022年11月面世以来,ChatGPT已逐渐成为程序员、创作者及学生群体的关键工具,助力他们更高效地完成 respective 任务。然而,与此同时,这一强大的人工智能助手也正被网络犯罪分子充分利用,有明显证据显示,黑客们正在利用它来创作恶意软件以及优化诈骗邮件。

ChatGPT 可能被用于非法用途,这要求 OpenAI 对该工具的部署方式加以限制。黑客利用 ChatGPT 可以更快地进行恶意攻击,因此 OpenAI 实施了地理屏蔽措施,以防止俄罗斯用户接触该系统。

然而,Check Point Software的研究人员最近在地下黑客论坛中注意到,多个俄罗斯黑客正在讨论如何绕过这些限制。例如,一个来自俄罗斯的黑客团队在论坛上提出了一种方法,即当他们无法直接进入ChatGPT时,如何利用盗用的支付卡向OpenAI账户付款,并利用API访问系统。值得注意的是,这个系统目前处于免费试用阶段,而API的使用则需要支付相应的代币费用。

Check Point威胁情报部门经理Sergey Shykevich指出,克服OpenAI的约束并非易事。目前,我们观察到一些俄罗斯黑客正在探讨如何绕过地理限制,并计划将ChatGPT应用于他们的恶意活动。我们推测这些黑客可能试图在他们的网络犯罪行动中测试和采用ChatGPT。值得注意的是,网络犯罪分子对ChatGPT的兴趣日益浓厚,因为其背后的人工智能技术能够提升他们的网络攻击效率。

在一些地下黑客论坛中,竟然存在俄语教程的出现,这无疑提供了一种半合法的方式,让用户可以获得在线短信服务。此外,论坛上还教导用户如何成功注册ChatGPT,从而实现在未被屏蔽的国家使用ChatGPT的目标。

在各大论坛中,黑客们发现了一种便捷的获取虚拟号码的方式,仅需花费2美分即可购买一个,随后利用这些临时号码向OpenAI申请代码。值得注意的是,这些虚拟号码来源广泛,可以是世界各地的真实电话,也可以按照需求随时生成新的号码。

Infostealer和ChatGPT的恶意使用

在之前的调研过程中,我们发现了一些网络犯罪分子在黑客论坛上分享利用ChatGPT实施非法活动的案例。这些实例包括制作诸如Infostealer等简单工具。值得注意的是,随着人工智能技术的日益普及,这些Infostealer将逐渐升级,采用更为先进的手段来实现非法目的。

Infostealer是采用这些“简单工具”的一个例子,它出现在一个黑客论坛上的一篇名为“ChatGPT——恶意软件的好处”的帖子上。发布这个帖子的作者指出,黑客可以使用ChatGPT,通过向人工智能工具输入描述和报告来重新创建恶意软件,然后共享基于Python的窃取代码,该代码可以搜索常见的文件类型,将它们复制到随机文件夹,并将它们上传到硬编码的FTP服务器。

Shykevich说。“网络罪犯分子发现ChatGPT很有吸引力。在最近几周,我们发现了黑客开始使用ChatGPT编写恶意代码的证据。ChatGPT有可能为黑客提供一个良好的起点从而加快网络攻击的进程。正如ChatGPT可以用于帮助开发人员编写代码一样,它也可以用于恶意目的。”

OpenAI表示,已经采取措施限制ChatGPT的使用,包括限制可以发出的请求类型,但有些请求可能会被遗漏。也有证据表明,其提示被用来“欺骗”ChatGPT,以研究为幌子或作为虚构的示例,可以提供可能有害的代码示例。

ChatGPT和潜在的错误信息

与此同时,OpenAI正在与乔治敦大学安全和新兴技术中心以及斯坦福互联网天文台合作,研究大型语言模型(例如ChatGPT的基础GPT-3)可能被用来传播虚假信息的方式。

这种模型可用于降低运营影响力行动的成本,使其处于新型网络犯罪分子的可控范围内,而以前只有大型参与者才能访问这类内容。同样,能够自动制作文本的招聘人员可能会获得新的竞争优势。

黑客利用ChatGPT还会导致不同的行为,加大网络攻击规模,并且与人工创建相比允许创建更多的个性化和针对性内容。最后,他们发现文本生成工具能够生成更有影响力和更有说服力的信息,相比之下,大多数人工生成的宣传文档通常是黑客可能缺乏目标所需的语言或文化知识。

OpenAI的研究人员宣称:“我们的基本判断是,语言模型对品牌的宣传者很有用,并可能改变在线影响力的运营。即使最先进的模型是加密的,或者通过应用程序编程接口(API)访问来控制,宣传者也可能会倾向于采用开源的替代方案。”

OpenAI, ChatGPT, 网络犯罪, 黑客攻击

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

Leave a Reply

Your email address will not be published. Required fields are marked *