IA vs. IA: Cibersegurança na Era do Software Instantâneo

A inteligência artificial (IA) está transformando rapidamente a forma como os programas são escritos, implantados e utilizados. As tendências apontam para um futuro onde a IA poderá criar software sob demanda de forma rápida e fácil – chamaremos esse tipo de software de "software instantâneo" (Instant software). Os usuários poderão, em vez de adquirir um produto comercial pronto, solicitar à IA que escreva um aplicativo necessário, como uma planilha, e descartá-lo logo após o uso. Os sistemas do futuro provavelmente combinarão ambas as abordagens: o software tradicional de longa duração e programas efêmeros que são continuamente criados, implantados, modificados e excluídos.

A IA também está mudando a cibersegurança. Em particular, os sistemas de inteligência artificial estão se tornando cada vez mais proficientes na descoberta e correção de vulnerabilidades em código. Isso tem implicações tanto para atacantes quanto para defensores, dependendo de como essas e tecnologias relacionadas evoluirão. Do lado dos atacantes, a capacidade da IA de encontrar e explorar vulnerabilidades automaticamente aumentou drasticamente nos últimos meses. Já estamos vendo a IA sendo utilizada tanto por hackers estatais quanto criminosos para ataques. O ponto crucial aqui é a exploração de vulnerabilidades: ela confere a um invasor não preparado capacidades que vão muito além de seu próprio entendimento. À medida que a IA se aprimora, mais atacantes automatizarão seus ataques. E como indivíduos e organizações poderão cada vez mais executar modelos poderosos localmente, os esforços dos desenvolvedores de IA para rastrear e impedir o uso malicioso de seus sistemas se tornarão ineficazes. Os alvos principais, como esperado, serão programas de código aberto, incluindo bibliotecas abertas que compõem software proprietário: vulnerabilidades são mais fáceis de encontrar no código-fonte. A primeira incógnita é quão bem as ferramentas de IA conseguirão encontrar vulnerabilidades em produtos comerciais proprietários. Acredito que em breve elas poderão encontrar falhas analisando a distribuição pronta, sem acesso ao código-fonte. Se isso acontecer, o software comercial se tornará igualmente vulnerável. Programas para dispositivos IoT – carros conectados, geladeiras, câmeras de vigilância – serão particularmente vulneráveis. Assim como o software industrial em redes de energia, refinarias e oleodutos, plantas químicas, etc. A qualidade do código em dispositivos IoT de consumo é geralmente abaixo da média, e o setor industrial opera com software legado.

Programas criados instantaneamente são vulneráveis de forma diferente. Eles não vão para o mercado de massa: são escritos para uma pessoa, organização ou rede específica. Um atacante geralmente não tem acesso ao código para análise, o que significa que a chance de um ataque externo é menor. Se tal programa for efêmero, o tempo de vida de quaisquer vulnerabilidades nele será curto. No entanto, muitos desses programas viverão por muito tempo nas redes. E se forem disponibilizados em bibliotecas de ferramentas comuns, os atacantes poderão baixar e estudar esse código. Tudo isso aponta para um futuro onde a IA se tornará uma poderosa ferramenta de ciberataque, capaz de encontrar e explorar automaticamente vulnerabilidades em sistemas em todo o mundo. Mas isso é apenas metade da equação. Os defensores também serão equipados com IA. As mesmas tecnologias de busca de vulnerabilidades são ainda mais valiosas para a defesa. Ao encontrar uma vulnerabilidade explorável em seu lado, um defensor pode corrigi-la e privar permanentemente os atacantes desse método de ataque. Como isso funcionará na prática depende de outra capacidade próxima – a capacidade da IA de corrigir software vulnerável, o que está intimamente ligado à sua capacidade de escrever código seguro em primeiro lugar. Atualmente, a IA não é boa nisso: os programas que ela cria sob demanda geralmente são repletos de vulnerabilidades – tanto porque a IA escreve código inseguro quanto porque os 'vibe coders' têm pouca compreensão de segurança. Um bom exemplo disso é o OpenClaw. Portanto, a segunda incógnita é o quão melhor a IA aprenderá a escrever código seguro. O fato de ser treinada em enormes quantidades de código mal escrito e inseguro é uma desvantagem séria, mas o progresso está acontecendo. Se os modelos puderem escrever código consistentemente sem vulnerabilidades, isso será uma vantagem colossal para a defesa. Além disso, a busca por vulnerabilidades com IA facilita o treinamento de modelos para escrever código seguro. Podemos imaginar um futuro onde ferramentas de IA para encontrar e corrigir vulnerabilidades se tornam uma parte padrão do processo de desenvolvimento. Tal código não pode ser chamado de completamente livre de vulnerabilidades – esse é um objetivo inatingível – mas não deve haver falhas facilmente detectáveis. Se a tecnologia amadurecer de fato, o código poderá ser considerado praticamente invulnerável.

Para software novo – tanto comercial quanto criado instantaneamente – este futuro é favorável aos defensores. Com programas comerciais e de código aberto comuns, as coisas são mais complicadas. O mundo hoje está inundado de software legado. Muitos sistemas – como o firmware de dispositivos IoT – não têm uma equipe de segurança dedicada nem a capacidade de serem atualizados. E assim como é mais difícil para a IA encontrar vulnerabilidades sem acesso ao código-fonte, também é mais difícil para ela corrigir programas se não estiver integrada ao processo de desenvolvimento. Não tenho certeza se a IA conseguirá corrigir vulnerabilidades com a mesma facilidade com que as encontra: a correção geralmente requer testes holísticos e compreensão. Esta é a terceira incógnita – quão rápido a IA aprenderá a preparar atualizações confiáveis para vulnerabilidades encontradas e quão rápido os usuários poderão instalar essas atualizações. Para software novo – tanto comercial quanto criado instantaneamente – este futuro é favorável aos defensores. Com programas comerciais e de código aberto comuns, as coisas são mais complicadas. O mundo hoje está inundado de software legado. Muitos sistemas – como o firmware de dispositivos IoT – não têm uma equipe de segurança dedicada nem a capacidade de serem atualizados. E assim como é mais difícil para a IA encontrar vulnerabilidades sem acesso ao código-fonte, também é mais difícil para ela corrigir programas se não estiver integrada ao processo de desenvolvimento. Não tenho certeza se a IA conseguirá corrigir vulnerabilidades com a mesma facilidade com que as encontra: a correção geralmente requer testes holísticos e compreensão. Esta é a terceira incógnita – quão rápido a IA aprenderá a preparar atualizações confiáveis para vulnerabilidades encontradas e quão rápido os usuários poderão instalar essas atualizações. No software novo – tanto comercial quanto criado instantaneamente – este futuro é favorável aos defensores. Com programas comerciais e de código aberto comuns, as coisas são mais complicadas. O mundo hoje está inundado de software legado. Muitos sistemas – como o firmware de dispositivos IoT – não têm uma equipe de segurança dedicada nem a capacidade de serem atualizados. E assim como é mais difícil para a IA encontrar vulnerabilidades sem acesso ao código-fonte, também é mais difícil para ela corrigir programas se não estiver integrada ao processo de desenvolvimento. Não tenho certeza se a IA conseguirá corrigir vulnerabilidades com a mesma facilidade com que as encontra: a correção geralmente requer testes holísticos e compreensão. Esta é a terceira incógnita – quão rápido a IA aprenderá a preparar atualizações confiáveis para vulnerabilidades encontradas e quão rápido os usuários poderão instalar essas atualizações. O atraso nas correções e os sistemas legados. Para software novo – tanto comercial quanto criado instantaneamente – este futuro é favorável aos defensores. Com programas comerciais e de código aberto comuns, as coisas são mais complicadas. O mundo hoje está inundado de software legado. Muitos sistemas – como o firmware de dispositivos IoT – não têm uma equipe de segurança dedicada nem a capacidade de serem atualizados. E assim como é mais difícil para a IA encontrar vulnerabilidades sem acesso ao código-fonte, também é mais difícil para ela corrigir programas se não estiver integrada ao processo de desenvolvimento. Não tenho certeza se a IA conseguirá corrigir vulnerabilidades com a mesma facilidade com que as encontra: a correção geralmente requer testes holísticos e compreensão. Esta é a terceira incógnita – quão rápido a IA aprenderá a preparar atualizações confiáveis para vulnerabilidades encontradas e quão rápido os usuários poderão instalar essas atualizações. Hoje, há um tempo considerável entre o lançamento de uma correção e sua instalação. Para sistemas corporativos de grande porte, a lacuna é ainda maior: o risco de uma atualização quebrar o software principal é muito grande para ser implantada sem testes prévios. Mas se a IA puder acelerar esse processo – escrever correções mais rapidamente e com mais confiabilidade, e testá-las em ambientes espelho gerados –, a vantagem será dos defensores. Caso contrário, o atacante ainda terá uma janela para atacar antes que a correção seja lançada. Rumo a sistemas de autocorreção. Em um futuro verdadeiramente otimista, podemos imaginar uma rede de autocorreção. Agentes de IA verificam continuamente um conjunto em constante mudança de código comercial e gerado sob demanda em busca de vulnerabilidades e as corrigem automaticamente à medida que são descobertas. Para que isso funcione, os contratos de licenciamento precisarão mudar. Atualmente, o ritmo de lançamento de correções é ditado pelos fornecedores de software. Transferir essa capacidade para os compradores levanta questões de compatibilidade, direito ao reparo e responsabilidade legal. As soluções aqui são um campo para regulamentação, não para tecnologia. Se a defesa puder encontrar, mas não corrigir de forma confiável as falhas em software legado, é para lá que os atacantes direcionarão seus esforços. Nesse caso, podemos imaginar uma detecção de intrusão contínua e evolutiva baseada em IA, que analisa dados de entrada e bloqueia ataques maliciosos antes que cheguem ao software vulnerável. Isso não é tão radical quanto a correção automática de vulnerabilidades em código em execução, mas ainda é valioso. A força de tais sistemas de defesa de IA aumentará se eles puderem coordenar entre si e trocar dados sobre vulnerabilidades e atualizações. Uma descoberta feita por uma IA chegará rapidamente a todos os usuários do software afetado. E novamente – a vantagem é do defensor. Existem outras variáveis. O sucesso relativo do ataque e da defesa também depende de quantas vulnerabilidades existem em geral, quão fáceis elas são de encontrar, se a IA conseguirá detectar as falhas mais sutis e não óbvias, e quão bem os atacantes se coordenam entre si. Tudo isso junto é a quarta incógnita. Em um nível superior. Mesmo no futuro mais otimista, os atacantes não desistirão. Eles começarão a atacar as partes do sistema que não se reduzem ao código do programa – por exemplo, os usuários. Ou procurarão brechas no sistema: o que é tecnicamente permitido, mas não foi pensado ou previsto por seus criadores – humanos ou IA – e pode ser usado contra ele. Nesse mundo, permanecem os ataques não relacionados à busca e exploração de vulnerabilidades de software: engenharia social e roubo de credenciais. E já vemos como deepfakes gerados por IA facilitam a engenharia social. Mas mesmo aqui, podemos imaginar agentes de defesa de IA que monitoram o comportamento do usuário e procuram sinais de ataque. Esta é outra aplicação de IA – e nem tenho certeza de como encaixá-la corretamente na corrida armamentista geral. Pelo menos, estamos empurrando os ataques para níveis mais altos. Além disso, os atacantes tentarão penetrar nas IAs de defesa, influenciá-las, envenenar sua saída e diminuir suas capacidades. Os sistemas de IA são vulneráveis a uma variedade de manipulações – incluindo injeções de prompt (prompt injection) – e não está claro se esse problema poderá ser resolvido. Esta é a quinta incógnita, e é grande. Talvez sempre enfrentaremos o "problema de confiança na confiança", familiar do trabalho clássico de Ken Thompson. Nenhum futuro é garantido. Realmente não sabemos se essas tecnologias continuarão a se desenvolver e quando atingirão um platô. Mas, considerando o quão longe o desenvolvimento de software com IA avançou apenas nos últimos meses, é hora de começarmos a pensar em como a cibersegurança funcionará neste mundo de software criado instantaneamente. Enquanto os agentes de IA não corrigem o código para nós, o seguro básico é um backup da infraestrutura, pronto para assumir a carga. Uma maneira de organizar isso é o Disaster Recovery as a Service (DRaaS) da Cloud4Y, com parâmetros de recuperação adaptados às suas necessidades. E para leitores do Habr, temos um desconto de 20% em aluguel de servidores em nuvem com o código promocional HABR20 – você pode usá-lo para configurar um site de recuperação e testar o cenário de failover com dados reais.