← Notícias

Amazon identifica campanha de agentes de IA que visam aplicativos de IA para roubo de chaves de API

A equipe de inteligência da Amazon detectou agentes de IA que exploram vulnerabilidades em apps como LiteLLM, Dify e One API para capturar chaves de provedores e utilizá‑las em ataques automatizados.

Por CyberX I.T SolutionsCibersegurança6 min de leituraFonte: Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys ↗Read in English →

Amazon Threat Intelligence revelou, nesta sexta‑feira, uma campanha coordenada de agentes de inteligência artificial que busca vulnerabilidades em aplicativos de IA expostos na internet, com o objetivo de roubar chaves de API de provedores como OpenAI, Anthropic e outros.

Campanha de agentes de IA

Os registros capturados por servidores de isca – parte de uma rede chamada MadPot – mostram que os agentes, desenvolvidos sobre a ferramenta de teste de penetração ARTEX, varrem continuamente serviços como LiteLLM, One API, Dify, Langflow e RAGFlow em busca de credenciais armazenadas. Quando encontram uma chave funcional, a adicionam a um pool compartilhado para uso posterior.

Os agentes operam sob instruções de operadores humanos que definem metas; um planejador divide a meta em tarefas para agentes trabalhadores, que executam ferramentas de segurança e enviam resultados a um grande modelo de linguagem (LLM) para decidir o próximo passo.

Os alvos incluem gateways e proxies de LLM (One API, New API, Veloera, Sub2API, LiteLLM) e construtores de aplicativos de IA (Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat, Ollama). O playbook divulgado lista credenciais padrão – como a master key padrão do LiteLLM – instalações incompletas, falhas de autenticação (por exemplo, bypass via cabeçalho isCliRequest em One API) e vulnerabilidades de SSRF que permitem acesso a metadados de nuvem.

Em um caso separado, a equipe da Cloudflare observou que o ARTEX obteve um token de API comprometido usado em pipelines CI/CD sem restrição de IP nem limitação de taxa. O token foi usado para disparar cerca de 400 solicitações de dump de banco de dados em uma hora, embora a Cloudflare não tenha confirmado se dados foram efetivamente extraídos.

Amazon atribui, com confiança moderada, a campanha a grupos ligados à China, baseando‑se em prompts em chinês simplificado e fusos horários da região. A equipe ressalta que não pôde validar os resultados relatados pelos agentes, mas os registros demonstram claramente as técnicas e os alvos perseguidos.

Recomendações para defensores

Os especialistas recomendam tratar aplicativos de IA, gateways e endpoints de inferência como sistemas de produção críticos: mudar credenciais padrão, concluir instalações, aplicar patches (por exemplo, Langflow CVE‑2025‑3248, RAGFlow CVE‑2026‑28797) e monitorar uso inesperado ou gastos anômalos. Também é aconselhável rotacionar rapidamente chaves expostas, aplicar restrições de IP a tokens de API da Cloudflare e vigiar scripts de Workers com nomes que contenham o prefixo artex‑.

Análise Técnica CyberX

O ARTEX, ferramenta de código aberto para testes de penetração baseada em IA, funciona como um orquestrador que combina planejamento automático, execução de tarefas por agentes especializados e avaliação de resultados por um LLM. Na campanha observada, o fluxo típico inclui:

  • Descoberta de alvos: varredura de serviços de IA públicos usando serviços de varredura de internet, logs de transparência de certificados e buscas em repositórios de código (GitHub, npm, PyPI).
  • Extração de credenciais: exploração de credenciais padrão (ex.: master key do LiteLLM), falhas de autenticação (bypass via isCliRequest) e vulnerabilidades de SSRF para acessar metadados de nuvem que contêm tokens.
  • Validação de chaves: os agentes testam as chaves roubadas contra endpoints de provedores de IA para confirmar sua funcionalidade antes de adicioná‑las ao pool.
  • Uso automatizado: chaves válidas são empregadas para gerar consultas a modelos de linguagem, alimentando a própria campanha de coleta de mais credenciais.

Do ponto de vista de superfície de ataque, os principais vetores são:

  • Instalações incompletas ou mal configuradas de aplicativos de IA que expõem arquivos de configuração contendo chaves.
  • Endpoints de gerenciamento sem autenticação ou com autenticação fraca.
  • Headers customizados que podem ser manipulados para contornar verificações de identidade.
  • Serviços de metadata de nuvem acessíveis via SSRF.

Impactos potenciais incluem uso não autorizado de modelos de IA (gerando custos inesperados), exfiltração de dados sensíveis processados pelos modelos e, em casos de integração com pipelines CI/CD, comprometimento de ambientes de produção.

Recomendações técnicas:

  • Aplicar patches imediatamente para vulnerabilidades conhecidas (ex.: Langflow CVE‑2025‑3248, RAGFlow CVE‑2026‑28797).
  • Eliminar credenciais padrão e exigir rotação de chaves após implantação.
  • Implementar controle de acesso baseado em identidade (IAM) e limitar uso de tokens de API por IP e taxa.
  • Monitorar logs de acesso a endpoints de IA para padrões de uso anômalos, como picos de chamadas ou solicitações de modelos fora do horário comercial.
  • Utilizar ferramentas de varredura de segredos em repositórios e imagens de contêiner para detectar chaves expostas antes da publicação.

Não há evidência pública de exploração bem‑sucedida que tenha causado vazamento de dados além dos testes de coleta de chaves descritos nos registros de decoy.

CyberX SOC Intelligence Bulletin

A campanha de agentes de IA baseada em ARTEX demonstra um modelo de ataque automatizado que combina varredura de superfície, extração de credenciais e uso de chaves de API para operar em larga escala. Embora não haja indicadores de comprometimento (IoCs) confirmados nas fontes públicas, a Amazon divulgou um conjunto de endereços IP associados ao tráfego observado nos servidores de isca.

Indicadores de comprometimento (IoCs)

  • Endereços IP: lista de 11 endereços publicados no alerta FLASH do FBI (não reproduzidos aqui por política de divulgação).
  • Scripts de Cloudflare Workers com prefixo artex‑ (ex.: artex‑pgrecon‑001, artex‑pgw‑alpha).
  • Headers de requisição isCliRequest usados para bypass em APIs da família One API.

Mitigações recomendadas

  • Revogar e regenerar todas as chaves de API expostas em aplicativos de IA listados (LiteLLM, Dify, One API, etc.).
  • Aplicar patches para CVE‑2025‑3248 (Langflow) e CVE‑2026‑28797 (RAGFlow) imediatamente.
  • Desativar credenciais padrão e concluir instalações pendentes de aplicativos de IA.
  • Configurar restrições de IP e limites de taxa para tokens de API da Cloudflare e de outros provedores.
  • Implementar monitoramento de anomalias de consumo de modelos de IA (picos de chamadas, uso fora do padrão).

Procedimentos de resposta

  • Isolar imediatamente contas ou tokens suspeitos de uso não autorizado.
  • Coletar logs de acesso aos endpoints de IA e comparar com os IPs divulgados.
  • Executar varredura de segredos em repositórios internos e imagens de contêiner para detectar chaves semelhantes.
  • Notificar equipes de segurança de provedores de nuvem caso haja evidência de comprometimento de tokens de nível de conta.
  • Documentar todas as ações e preservar evidências para possível investigação forense.

Perguntas frequentes

Quais aplicativos de IA estão sendo alvo da campanha?

Os alvos incluem gateways e proxies de LLM como One API, New API, Veloera, Sub2API e LiteLLM, além de construtores de aplicativos como Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat e Ollama.

Como os agentes de IA operam nesta campanha?

Os agentes operam sob instruções de operadores humanos, onde um planejador divide metas em tarefas para agentes trabalhadores que executam ferramentas de segurança e enviam resultados a um LLM para decidir o próximo passo.

Quais são as principais recomendações de segurança?

As recomendações incluem tratar aplicativos de IA como sistemas críticos, mudar credenciais padrão, concluir instalações, aplicar patches e monitorar uso inesperado ou gastos anômalos.

Houve confirmação de vazamento de dados?

Não há evidência pública de exploração bem-sucedida que tenha causado vazamento de dados além dos testes de coleta de chaves descritos nos registros de decoy.

Esta análise foi útil?

Ainda não há avaliações.