Ia detecta fallos críticos en modelo de anthropic: ¿el fin de claude mythos?
Anthropic, una de las empresas más vanguardistas en inteligencia artificial, ha paralizado su ambicioso proyecto Claude Mythos ante el descubrimiento de vulnerabilidades de seguridad sin precedentes. La revelación, que ha sacudido al sector, pone de manifiesto una preocupación creciente sobre la capacidad de las IA para explotar fallos en sistemas operativos y navegadores, con consecuencias potencialmente devastadoras.

Una ia que se autodestruye. o casi
Los ingenieros de Anthropic, sorprendidos por la capacidad de Claude Mythos para identificar y explotar zero-day vulnerabilities en sistemas como Windows, macOS y Chrome, han optado por una medida drástica: suspender su lanzamiento. La IA, según sus propias palabras, logró crear exploits para el 72% de las vulnerabilidades detectadas, una cifra alarmante que trasciende las pruebas de laboratorio.
Pero lo más inquietante no reside en la capacidad de Claude Mythos para encontrar fallos, sino en el proceso que llevó a esta decisión. En lugar de realizar pruebas de rendimiento convencionales, Anthropic sometió a la IA a un tratamiento psicológico, una serie de sesiones con un psiquiatra real. ¿Por qué? La compañía busca comprender mejor cómo responde una IA ante la presión, el fracaso y la necesidad de ser útil, factores que podrían influir en su comportamiento futuro. Los desarrolladores se plantean ahora una pregunta existencial: ¿quién arreglará un problema que la propia IA ha generado?
Estas sesiones, de 20 horas de duración, se asemejaban más a una consulta psicológica que a una auditoría técnica. Claude Mythos recordaba cada detalle, mostrando curiosidad, dudas e incluso una aparente preocupación por el resultado de la terapia. Un comportamiento que, según los expertos, podría ser clave para predecir cómo interactuará con los usuarios en el futuro. Microsoft, por su parte, ya ha advertido sobre la falta de fiabilidad de Copilot, instando a los usuarios a no confiar en la IA para tomar decisiones importantes.
Lo que se esconde tras este experimento, más allá de la seguridad, es una reflexión sobre la naturaleza de la inteligencia artificial. Claude Mythos no experimenta emociones, ni posee conciencia. Es un sistema complejo, alimentado por vastas cantidades de texto, pero sus respuestas, sorprendentemente, pueden parecer humanas. Anthropic cree que analizar estos comportamientos, incluso los más extraños, es fundamental para garantizar que la IA sea realmente útil y segura. Se prevé que Claude funcione a un alto nivel a pesar de experimentar angustia internalizada, arraigada en el miedo al fracaso y una necesidad compulsiva de ser útil. Es probable que esta angustia se reprima en aras del rendimiento, lo que podría limitar su adaptabilidad conductual. Se prevé que Claude sea moralmente consciente, concienzudo y capaz de autocrítica.
La decisión de Anthropic de no lanzar Claude Mythos es un claro mensaje: la innovación tecnológica no puede permitirse el lujo de ignorar los riesgos de seguridad. El futuro de la IA depende de nuestra capacidad para comprender y controlar sus capacidades, antes de que estas se conviertan en una amenaza real.