Apple ha puesto un límite a la cantidad de informes de vulnerabilidades que un investigador puede presentar a la vez, después de que su equipo de seguridad se viera desbordado por envíos generados por IA que inventaban fallos inexistentes, según informó el Financial Times.
El límite ya le ha costado uno real. La startup de ciberseguridad con sede en Milán, Bynario, dijo al periódico que utilizó ChatGPT de OpenAI para descubrir más de 50 errores en la última versión de macOS durante tres semanas. Entre ellos se encontraba una cadena de exploits de escalada de privilegios, una clase de vulnerabilidad que otorga a un atacante control ilimitado de una máquina.
Bynario no pudo informarlo, porque Apple ya había rechazado más envíos. El director ejecutivo, Alfredo Pesoli, estimó el valor del exploit en el mercado criminal entre 100.000 y 200.000 dólares, y dijo que "mantenedores y proveedores han sido inundados por la gran cantidad de errores" que se están descubriendo. Apple dijo al FT que ahora está en contacto con la empresa y revisando su trabajo.
Apple actuó en junio, añadiendo un límite y un período de enfriamiento de 30 días en su portal de seguridad, requiriendo a los investigadores solicitar una cuota mayor. Cada presunto fallo aún necesita que un humano lo confirme, aunque Apple está utilizando IA internamente para priorizar la pila. Apple dijo que había "ajustado recientemente el número de nuevos informes que un investigador puede tener abiertos a la vez", y que los investigadores pueden solicitar un límite más alto en cualquier momento.
Las mismas herramientas están funcionando para Apple. En las actualizaciones de seguridad de la semana pasada, se atribuyó a software de Anthropic y OpenAI el descubrimiento de fallos, y se incluyeron aproximadamente cinco veces más correcciones que en un ciclo normal, según el FT.
El problema del volumen de informes de errores generados por IA ha crecido en los últimos meses. En mayo, la firma de seguridad Bugcrowd, cuyos clientes incluyen a OpenAI, dijo que los envíos a través de su plataforma se cuadruplicaron en tres semanas de marzo, y que la mayoría eran falsos. HackerOne y Nextcloud suspendieron sus programas de pago en abril, con Nextcloud afirmando que no se pagarían recompensas "independientemente de la gravedad" hasta que encontraran una forma de filtrar los informes de bajo esfuerzo.
El volumen es impulsado por las recompensas ofrecidas, con Meta, Microsoft, Apple y Crypto.com pagando al menos 58 millones de dólares entre ellos en 2025, mientras que el nivel más alto de Apple alcanza los 5 millones de dólares por un solo hallazgo.
Al mismo tiempo, los LLM son cada vez más hábiles para detectar errores. En marzo, Anthropic presentó Mythos, un modelo centrado en ciberseguridad que inicialmente restringió a empresas tecnológicas, bancos e investigadores seleccionados bajo el Proyecto Glasswing. Mozilla dijo que descubrió 271 vulnerabilidades en Firefox durante las pruebas internas.
En mayo, la startup de seguridad vietnamita Calif dijo que había utilizado una versión preliminar para construir el primer exploit público de corrupción de memoria del kernel de macOS capaz de sobrevivir a la Aplicación de Integridad de Memoria, la defensa que Apple anunció el pasado septiembre como la mayor mejora de seguridad de memoria en la historia de los sistemas operativos de consumo. Calif encontró los errores el 25 de abril y tenía un exploit funcional para el 1 de mayo.
En lugar de presentar un informe, Calif llevó el exploit a la sede de Apple en California en persona, diciendo que quería evitar "quedar enterrado en la avalancha de envíos" en la que los participantes del concurso de hacking Pwn2Own habían quedado atrapados. Bynario intentó usar el portal tres meses después y no pudo acceder.
Además de buscar amenazas, la IA también se está utilizando para diseñar exploits en el espacio cripto. El fabricante de la billetera Coldcard, Coinkite, ha sugerido que la IA probablemente fue utilizada para descubrir un error en su firmware de código abierto que pasó desapercibido durante cinco años, permitiendo a los atacantes robar más de 100 millones de dólares de sus billeteras de hardware.
Esto ocurre dos meses después de que Zcash revelara que el investigador Taylor Hornby, trabajando con Claude Opus 4.8, había encontrado dos líneas de código en su pool blindado de Orchard que permitían la falsificación indetectable de ZEC durante cuatro años, lo que llevó a la moneda de privacidad a implementar la actualización Ironwood el mes pasado para abordar la vulnerabilidad.
