A Apple limitou o número de relatórios de vulnerabilidade que um pesquisador pode enviar de uma só vez, depois que sua equipe de segurança foi sobrecarregada por submissões geradas por inteligência artificial que inventam falhas inexistentes, conforme noticiado pelo Financial Times.

O limite já custou uma descoberta real. A startup de cibersegurança Bynario, com sede em Milão, disse ao jornal que usou o ChatGPT da OpenAI para identificar mais de 50 bugs na versão mais recente do macOS em três semanas. Entre eles, havia uma cadeia de exploração de escalada de privilégios, uma classe de falha que concede a um invasor controle irrestrito de uma máquina.

A Bynario não conseguiu reportá-lo, pois a Apple já havia recusado novas submissões. O CEO Alfredo Pesoli avaliou o valor do exploit no mercado criminoso entre US$ 100.000 e US$ 200.000, e afirmou que "mantenedores e fornecedores foram inundados pela enorme quantidade de bugs" sendo descobertos. A Apple disse ao FT que agora está em contato com a empresa e revisando seu trabalho.

A Apple agiu em junho, adicionando um limite e um período de carência de 30 dias em seu portal de segurança, exigindo que os pesquisadores solicitem uma cota maior. Toda falha alegada ainda precisa de um humano para confirmá-la, embora a Apple esteja usando IA internamente para triar a pilha. A Apple disse que "recentemente ajustou o número de novos relatórios que um pesquisador pode ter abertos simultaneamente", e que os pesquisadores podem solicitar um limite maior a qualquer momento.

As mesmas ferramentas estão funcionando para a Apple. Nas atualizações de segurança da semana passada, a empresa creditou os softwares da Anthropic e da OpenAI por descobrirem falhas, e trouxe aproximadamente cinco vezes mais correções do que um ciclo normal, de acordo com o FT.

Uma “enxurrada de submissões”

A questão do volume de relatórios de bugs gerados por IA tem crescido nos últimos meses. Em maio, a empresa de segurança Bugcrowd, cujos clientes incluem a OpenAI, disse que as submissões através de sua plataforma quadruplicaram em três semanas em março, e que a maioria era falsa. HackerOne e Nextcloud suspenderam seus programas pagos em abril, com a Nextcloud afirmando que nenhuma recompensa seria paga "independentemente da gravidade" até que encontrasse uma maneira de filtrar os relatórios de baixo esforço.

O volume é impulsionado pelas recompensas oferecidas, com Meta, Microsoft, Apple e Crypto.com pagando pelo menos US$ 58 milhões entre eles em 2025, enquanto o nível superior da própria Apple atinge US$ 5 milhões por uma única descoberta.

Ao mesmo tempo, os LLMs estão se tornando cada vez mais hábeis em identificar bugs. Em março, a Anthropic lançou o Mythos, um modelo focado em segurança cibernética que inicialmente restringiu a empresas de tecnologia selecionadas, bancos e pesquisadores sob o Projeto Glasswing. A Mozilla disse que o modelo identificou 271 vulnerabilidades no Firefox durante testes internos.

Em maio, a startup de segurança vietnamita Calif disse que usou uma versão de pré-visualização para construir o primeiro exploit público de corrupção de memória do kernel do macOS capaz de sobreviver à Memory Integrity Enforcement, a defesa que a Apple anunciou em setembro passado como a maior atualização de segurança de memória na história dos sistemas operacionais de consumo. A Calif encontrou os bugs em 25 de abril e tinha um exploit funcionando até 1º de maio.

Em vez de registrar um relatório, a Calif levou o exploit pessoalmente à sede da Apple na Califórnia, dizendo que queria evitar "ficar soterrada na enxurrada de submissões" em que os participantes do concurso de hacking Pwn2Own haviam sido pegos. A Bynario tentou o portal três meses depois e não conseguiu acessá-lo.

Ameaças cripto da IA

Além de caçar ameaças, a IA também está sendo usada para desenvolver exploits no espaço cripto. A Coinkite, fabricante da carteira Coldcard, sugeriu que a IA provavelmente foi usada para descobrir um bug em seu firmware de código aberto que passou despercebido por cinco anos, permitindo que invasores roubassem mais de US$ 100 milhões de suas carteiras de hardware.

Isso ocorre dois meses depois que a Zcash revelou que o pesquisador Taylor Hornby, trabalhando com o Claude Opus 4.8, havia encontrado duas linhas de código em seu pool blindado Orchard que permitiram a falsificação indetectável de ZEC por quatro anos — levando a moeda de privacidade a lançar a atualização Ironwood no mês passado para resolver a vulnerabilidade.