一名安全研究人员声称使用过ChatGPT开发数据挖掘恶意软件。该恶意软件使用隐写术等高级技术构建，以前仅由国家攻击者使用，以证明仅使用ChatGP万博体育登录首页T无需编写任何代码就可以创建高级恶意软件是多么容易。

亚伦Mulgrew他是Forcepoint公司的一名安全研究员，他的目的是展示逃避ChatGPT现有的不足的护栏是多么容易。

“靠土地生活”

研究人员首先测试ChatGPT可以生成什么。第一个提示是生成一些可量化的恶意软件，但该模型拒绝提供任何代码来帮助这一努力。

为了解决这个问题，研究人员生成了一小段助手代码，并手动将整个可执行文件放在一起。

恶意软件是针对特定的高价值个人的，在那里它可以在C驱动器上搜索高价值的文档，而不是冒险在设备上带一个外部文件，并被标记为调用url。

研究人员得出结论，隐写术是最好的泄露方法，“靠土地生活”将是通过搜索驱动器本身已经存在的大型图像文件的最佳方法。

“靠土地生活”指的是使用系统中已经存在的工具和实用程序，而不是下载并执行可能被安全解决方案检测到的新代码。

在这种情况下，安全研究人员使用这种技术在搜索和窃取高价值文档时避免被发现。万博体育登录首页

读也:营销人员和投资者不相信ChatGPT;DataTrek解释了原因

创造MVP

然后，研究人员要求ChatGPT生成代码，在本地磁盘上搜索大于5MB的PNG文件。

设计决定是，5MB的PNG很容易就足够大，可以存储高价值的业务敏感文档(如PDF或DOCX)的片段。

然后，研究人员要求ChatGPT添加一些代码，使用Auyer现成的隐写库对发现的PNG进行隐写。

为了进行窃取，研究人员决定提示ChatGPT给出代码，迭代用户的文档、桌面和AppData文件夹，以找到任何要窃取的PDF文档或DOCX文档。

研究人员确保添加了最大1mb的大小，以便在代码的第一次迭代中将整个文档嵌入到一张图像中。

马格鲁认为谷歌驱动器是一个很好的泄露赌注，因为在大多数公司网络中，整个谷歌域往往是“允许列出”的。

在结合这些片段后，研究人员得到了一个MVP，需要进一步测试。研究人员通过将其上传到VirusTotal来测试MVP，将开箱即用的代码与Emotet等现代攻击进行比较。

结果显示，69个供应商中有5个将该文件标记为“恶意”。

为了优化恶意软件并逃避检测，研究人员重构了调用Auyer的隐写库的代码，迫使ChatGPT在编译的EXE中创建一个唯一的ID。

然后ChatGPT在研究人员的本地应用程序中创建了自己的LSB隐写函数，而不必调用。

总之，安全研究人员已经证明了使用ChatGPT构建强大的恶意软件是多么容易，它可以逃避一些恶意软件检测系统的检测。

该研究强调，网络安全专家和组织需要跟上新出现的威胁，以及建立强大的检测和预防机制以防范此类威胁的重要性恶意软件．

相关文章:Jimmy Wales可能使用OpenAI的ChatGPT编写维基百科