近年来，网络犯罪分子利用人工智能技术开发出新一代恶意软件，对用户和组织构成威胁。人工智能在诸多领域带来积极变革的同时，也使得数字威胁的检测和应对变得更加困难。如今，了解这些攻击的运作方式是最大限度降低风险和保护敏感信息的关键。
这些人工智能生成的恶意程序的复杂程度已经达到了如此高的水平，它们不仅能够绕过传统的防御系统，还能实时适应环境并通过意想不到的方式传播。本文将回顾最相关的案例、主要技术以及如何缓解这些威胁。
人工智能恶意软件：技术及其工作原理
人工智能的进步为恶意软件领域带来了前所未有的攻击手段。其中一个特别值得关注的方面是，人工智能模型能够分析漏洞、按需生成恶意代码，并根据目标受害者或环境进行自我定制。这使得攻击者能够创建更有效的攻击手段，这些攻击手段难以检测，甚至能够绕过传统的反恶意软件系统。
在众多新兴趋势中，使用测谎文件是最引人注目的趋势之一：它通过在看似无害的文件（例如 JPEG 图像）末尾添加可执行代码，使得只需打开这些文件即可触发系统内存中有害脚本的执行。
另一种新颖的方法是利用大型语言模型（LLM），例如 ChatGPT 或 Llama 2，实现漏洞利用开发的完全自动化。通过精心设计的交互，研究人员使多个人工智能能够协同分析存在漏洞的程序，识别弱点，规划攻击，并最终生成恶意软件代码。这使得在极短时间内创建高效且功能完善的网络攻击成为可能。
近期案例：从 LameHug、FunkSec 到 Koske
人工智能驱动的恶意软件威胁不仅仅是一个假设：最近几个月已经记录了一些具体的例子，证明了这种技术在网络犯罪分子手中的真实程度。
乌克兰CERT-UA的研究人员检测到了LameHug恶意软件，该恶意软件利用Hugging Face API与阿里巴巴语言模型实时交互，并生成针对每个受感染Windows系统量身定制的恶意指令。这种灵活性使得传统的检测方法失效，因为代码并非固定不变，而是基于目标机器的上下文动态生成。
另一方面， FunkSec组织开发了一种由人工智能驱动的多功能勒索软件，它采用自动生成的代码，并为其攻击配备了高级加密、数据窃取和防御规避能力。他们的策略是提供较低的赎金以覆盖大量受害者，攻击目标包括世界各地的政府机构、科技公司和教育机构。
同样，针对Linux系统的Koske恶意软件也被发现隐藏在看似无害的JPEG图像中传播。该恶意软件利用诸如多语言文件滥用等技术，在文件打开时执行恶意代码、安装加密货币挖矿程序并修改关键系统设置。该代码显然是在人工智能的辅助下开发的，其特点是文档齐全且模块化，这揭示了人工智能在攻击者手中所代表的重大飞跃。
感染方法和使用的工具
人工智能驱动的恶意软件传播利用多种攻击途径，包括电子邮件附件和上传到合法平台的图片。例如，在 Koske 案例中，只需打开受感染的图片即可触发隐藏脚本在内存中执行，从而安装 rootkit 并篡改防火墙和 DNS 设置。在其他情况下，攻击者会利用泄露的凭据或软件漏洞获取系统初始访问权限，然后将所有后续步骤的自动化操作委托给人工智能。
ChatGPT、Llama 2、FraudGPT、WormGPT 和 HackerGPT等生成式工具和平台已被攻击分析专家和犯罪分子共同利用，这表明研究和恶意攻击之间的界限可能非常模糊。这些人工智能引擎可以在几秒钟内分析配置、发现漏洞并编写高效的脚本。
专家指出，攻击者不再需要从头开始编写所有恶意代码：由于语言模型的出现，可以即时创建自定义恶意软件，这极大地阻碍了传统安全解决方案的工作。
保护自己的技巧和策略
鉴于这种情况，防范人工智能驱动的恶意软件需要采取积极主动、多样化的方法，将先进的技术解决方案与最佳实践相结合。
- 始终更新您的操作系统和所有应用程序，以防止攻击者利用已知漏洞。
- 实施使用人工智能来识别异常行为（而不仅仅是静态签名）的检测解决方案。
- 执行分段和受保护的备份，以确保在发生攻击时恢复，并监控关键系统文件和服务的变化。
- 对员工进行社会工程学和网络钓鱼方面的培训，因为最常见的切入点仍然是人为错误。
- 确保强大的防火墙配置并限制对敏感实例的访问，例如科学和学术环境中的 JupyterLab 服务器。
在企业环境中，EDR 解决方案、反 APT 和威胁情报平台等专业工具已被证明在预测和响应基于 AI 的威胁方面非常有用。专家建议分析传出流量并监控网络内的横向移动，以检测潜在的数据泄露。
最后，重要的是要记住，虽然其中许多威胁都有非常具体的目标（例如加密货币挖掘或数据加密），但它们的出现是由人工智能驱动的，预示着更先进、更难以瞄准的变体的到来。
人工智能驱动的恶意软件的出现标志着网络犯罪领域的一次重大飞跃，它使得程序更难检测，甚至经验不足的攻击者也能发起复杂的攻击活动。降低这些风险的关键在于采用创新的安全解决方案，保持谨慎的数字化习惯，并在各个层面提高安全意识。
