As mesmas ferramentas de Inteligência Artificial (IA) que auxiliam funcionários de escritório a otimizar suas rotinas estão cada vez mais sendo utilizadas por criminosos, e com uma eficácia notável. Essa é uma das principais conclusões do terceiro relatório anual da ReliaQuest, focado na aplicação de IA em ciberataques. O estudo aponta que a IA não está necessariamente criando novos tipos de ataques, mas sim tornando os já existentes mais rápidos, mais baratos e mais difíceis de detectar. Cibercriminosos estão integrando a IA em praticamente todas as fases de um ataque, desde a criação de páginas de phishing convincentes e a coleta de credenciais até a geração de código malicioso.
Um exemplo prático da aceleração proporcionada pela IA foi demonstrado por especialistas: um web shell, que é um script malicioso permitindo controle remoto sobre um servidor comprometido, foi implantado em apenas um minuto com o auxílio da IA. Essa velocidade é inatingível para um ser humano que realizasse a tarefa manualmente. Paralelamente, o mercado negro de ferramentas de ataque prontas para uso tem crescido significativamente. Essas ferramentas incluem desde softwares para falsificação de identidade em vídeos até suítes completas que automatizam ataques do início ao fim, demonstrando a crescente sofisticação e acessibilidade do arsenal cibercrimininoso.
No entanto, modelos de IA avançados e proprietários como Claude, Grok, Gemini e ChatGPT apresentam desafios para os criminosos. As restrições de segurança embutidas nesses modelos frequentemente interrompem os ataques antes que sejam concluídos, e as tentativas de contornar essas barreiras, mesmo com o uso de prompts de evasão específicos, não têm sido consistentemente bem-sucedidas. Consequentemente, os atacantes estão migrando para modelos de código aberto e sem censura, como Qwen, Dolphin e Mistral. Embora esses modelos possam ser inferiores em termos de qualidade geral, eles oferecem maior previsibilidade e não dependem de provedores de nuvem que podem interromper sessões, pois podem ser executados localmente. Uma tática adicional explorada por grupos maliciosos envolve o abuso da confiança associada a marcas conhecidas de IA. Usuários são persuadidos a instalar extensões maliciosas ou executar comandos sob o pretexto de configurações legítimas. Essa abordagem tem sido utilizada por grupos especializados em engenharia social, distribuição de malware e até mesmo por falsos trabalhadores de TI ligados à Coreia do Norte, com objetivos que variam desde extorsão e acesso a dados até fraudes e apoio a atividades de espionagem.
Em contrapartida, o relatório da ReliaQuest sugere que as defesas de segurança ainda mantêm uma vantagem. As restrições impostas aos modelos de IA proprietários dificultam a ação dos atacantes, enquanto as defesas baseadas em IA permitem a detecção e contenção de ameaças em questão de segundos. A chave para mitigar riscos reside na adoção proativa dessas tecnologias de defesa. Organizações que já dominaram e estão utilizando plenamente as soluções de segurança baseadas em IA demonstram maior resiliência contra as ameaças cibernéticas emergentes.
