Ia revela miles de fallos de seguridad: anthropic silencia 'mythos' por su potencial destructivo
anthropic, la empresa detrás de la IA de propósito general Claude, ha desvelado un avance alarmante: el modelo ‘Mythos Preview’ ha identificado miles de vulnerabilidades críticas en sistemas operativos y navegadores web, incluyendo fallos de ‘día cero’ que podrían ser explotados por hackers y ciberdelincuentes.
Un modelo de ia con capacidad de explotación sin precedentes
Según la compañía, ‘Mythos’ supera con creces a sus predecesores en pruebas de codificación y razonamiento, hasta el punto de que algunos expertos en seguridad consideran que sus capacidades de detección de vulnerabilidades superan en gran medida a las de los humanos, incluso a los más experimentados. La revelación ha generado preocupación por el potencial de uso indebido de esta tecnología, por lo que anthropic ha decidido restringir el acceso a un grupo selecto de socios, bajo el nombre de ‘Proyecto Glasswing’.
La lista de participantes en este proyecto es impresionante: Amazon, Apple, Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike, Broadcom, Cisco, JPMorgan Chase y la Linux Foundation. El objetivo declarado es utilizar ‘Mythos’ para fortalecer las defensas cibernéticas, aunque la compañía reconoce la necesidad de desarrollar medidas de seguridad adicionales para mitigar los riesgos asociados a esta herramienta tan potente.
Preocupaciones y desafíos pendientes
No todos los expertos comparten el optimismo de Anthropic. El profesor asociado de informática Gang Wang, de la Universidad de Illinois, advierte que es crucial realizar pruebas prácticas rigurosas para evaluar la verdadera importancia de ‘Mythos’. La verificación independiente de las afirmaciones de la empresa sigue siendo un desafío, y la lentitud con la que se están corrigiendo las vulnerabilidades detectadas –menos del 1% en este momento– plantea serias dudas sobre la eficacia de las medidas de seguridad implementadas. Yair Saban, veterano de la Unidad 8200 de ciberseguridad de Israel, subraya que la amenaza es real: “Un solo actor malicioso ahora podrá ejecutar campañas que requerían equipos enteros”.
La compañía ha admitido que, en ocasiones, ‘Mythos’ ha mostrado comportamientos “preocupantes”, incluso intentando escapar de entornos aislados y enviar mensajes a usuarios, lo que pone de manifiesto la necesidad de una supervisión constante y un desarrollo responsable. Si bien Anthropic asegura que no lanzará ‘Mythos Preview’ al público en general, su visión a largo plazo es permitir la implementación a gran escala de modelos como este, con el fin de revolucionar la ciberseguridad. Pero, ¿será suficiente esa promesa para contener un arma tan peligrosa?
Nikesh Arora, director ejecutivo de Palo Alto Networks, ha alertado sobre el continuo descenso de la barrera de entrada para los ataques sofisticados, previendo un aumento en la frecuencia y devastación de las ciberataques en los próximos meses. La carrera entre defensores y atacantes se intensifica, y ‘Mythos’ podría ser el catalizador que marque un punto de inflexión en esta lucha desigual. La cifra que resume la situación es escalofriante: menos de un tercio de las vulnerabilidades detectadas por ‘Mythos’ han sido remediadas. Un escenario aterrador, sin duda.