Gemini da Google entra em ação contra anúncios maliciosos

A Google anunciou que está utilizando cada vez mais os modelos de IA Gemini para detectar e bloquear anúncios maliciosos em suas plataformas de publicidade. Diante da crescente sofisticação dos fraudadores e criminosos, que buscam constantemente contornar os sistemas de moderação, a empresa decidiu responder com a automatização impulsionada por IA.

De acordo com um relatório recente, em 2023, a Google bloqueou ou removeu 8,3 bilhões de anúncios e suspendeu 24,9 milhões de contas de anunciantes. Desse total, 602 milhões de anúncios estavam diretamente relacionados a golpes. A empresa reconhece que o malvertising (a disseminação de malware através de anúncios) continua sendo um problema persistente na rede de publicidade da Google. Os atacantes compram anúncios que imitam marcas e serviços legítimos, redirecionando os usuários para páginas de phishing, distribuindo malware ou roubando criptomoedas. Essas campanhas utilizam ativamente cloaking e redirecionamentos de URL para se parecerem com sites confiáveis, incluindo domínios da própria Google e de portais de download de software conhecidos.

Entre os exemplos recentes dessa atividade, estão páginas de login falsas, visando roubar contas do Google Ads, e malware disfarçado de Google Authenticator e Homebrew. A Google observa que os criminosos agora estão utilizando IA generativa, o que lhes permite criar anúncios fraudulentos de forma mais rápida e em maior escala. "Os criminosos estão usando IA generativa para criar anúncios enganosos em massa, e o Gemini nos ajuda a detectá-los e bloqueá-los em tempo real. No final do ano passado, a maior parte dos anúncios de pesquisa responsivos (Responsive Search Ads) foi verificada instantaneamente, e o conteúdo malicioso foi bloqueado na fase de envio. Este ano, planejamos expandir essa capacidade para outros formatos de anúncios", escreveu Keerat Sharma, vice-presidente e gerente geral da divisão Ads Privacy and Safety da Google. Anteriormente, os sistemas de detecção analisavam palavras-chave para identificar comportamentos maliciosos, mas agora o Gemini pode processar bilhões de sinais, incluindo o comportamento e as intenções dos anunciantes, o histórico das contas e os padrões das campanhas. Além disso, a maior precisão dos modelos de IA já permite reduzir o número de bloqueios equivocados de anunciantes em 80%. No ano passado, a Google removeu 1,7 bilhão de anúncios e bloqueou mais de 3,3 milhões de contas de anunciantes apenas nos EUA. As principais violações foram o uso indevido da rede de publicidade e a enganação intencional dos usuários. A empresa informou que planeja expandir ainda mais o uso do Gemini, inclusive para analisar formatos de anúncios adicionais e sistemas de moderação.