El informe de seguridad de la IA da a la industria un baño de realidad, y todos suspenden la prueba más difícil

NUEVA YORK, 8 de julio — El laboratorio estadounidense de inteligencia artificial Anthropic encabezó una nueva clasificación global de seguridad de la IA, pero un informe publicado el martes advirtió que la industria en su conjunto sigue sin estar a la altura a la hora de abordar los riesgos “existenciales” que plantea la IA avanzada.

Meta subió dos puestos hasta el cuarto lugar en la clasificación, mientras que xAI cayó tres puestos hasta el séptimo, justo por delante de DeepSeek de China y Mistral de Francia, que terminó última.

La clasificación fue elaborada por el grupo de reflexión estadounidense sobre seguridad de la IA Future of Life Institute, que evaluó a nueve de las principales empresas de IA del mundo.

Siete investigadores y expertos en gobernanza evaluaron a las empresas utilizando información disponible públicamente, así como datos proporcionados por las propias empresas.

Evaluaron el rendimiento en seis categorías: evaluación de riesgo, daños actuales, marcos de seguridad, seguridad existencial, gobernanza y responsabilidad, e intercambio de información.

Ninguna empresa recibió una calificación “A” en ninguna categoría.

Anthropic logró la puntuación general más alta con un “C+”.

Mistral, que apareció en la clasificación por primera vez, disputó la evaluación.

Preguntada por AFP sobre su último puesto, la empresa francesa dijo que el marco del informe no se adaptaba a su enfoque para desarrollar IA.

A diferencia de rivales como Anthropic, OpenAI y Google DeepMind, que desarrollan principalmente sistemas de IA cerrados, Mistral se centra en modelos abiertos que los usuarios pueden descargar y modificar.

“Me decepcionó mucho descubrir que quedaron últimos, especialmente porque Europa ha sido realmente... líder en seguridad de la IA”, dijo Max Tegmark, profesor del MIT y presidente del Future of Life Institute.

“Nos pusimos en contacto muchas, muchas veces”, añadió Tegmark, diciendo que Mistral no respondió a la encuesta de la organización.

Según el instituto, Alibaba, xAI y DeepSeek también declinaron participar.

Tres desarrolladores chinos de IA que producen modelos abiertos también ocuparon la mitad inferior de la lista: DeepSeek en quinto lugar, Alibaba Cloud en sexto y Z.ai en octavo.

Prácticas ‘cuestionables’

El informe señaló que varias empresas que anteriormente se habían comprometido a no permitir el uso militar de su tecnología habían suavizado desde entonces esas posiciones.

Criticó específicamente a Anthropic por lo que describió como “compromisos militares cuestionables”.

Según varios informes de los medios, el gobierno de EE. UU. utilizó la tecnología de Anthropic durante operaciones militares que involucraban a Venezuela e Irán durante el último año.

La compañía también fue recientemente vetada por el Pentágono debido a desacuerdos relacionados con la seguridad de la IA, aunque esa restricción fue levantada posteriormente.

El informe concluyó que las nueve empresas siguen estando inadecuadamente preparadas para abordar las amenazas “existenciales” asociadas con la inteligencia artificial general (AGI), o sistemas de IA capaces de igualar la inteligencia humana.

Aunque los investigadores reconocieron que “existen intentos constructivos”, dijeron que los esfuerzos de toda la industria siguen siendo “totalmente inadecuados”.

El informe también destacó la preocupación de que la IA avanzada pueda ser mal utilizada para llevar a cabo ciberataques o realizar tareas perjudiciales para las personas.

Anthropic atrajo recientemente la atención tras presentar su modelo de IA más potente hasta la fecha, Mythos.

La empresa con sede en San Francisco puso inicialmente el modelo a disposición solo de un pequeño grupo de organizaciones de confianza en abril debido a la preocupación de que sus capacidades cibernéticas pudieran ser explotadas por actores maliciosos.

El 12 de junio, el gobierno de EE. UU. bloqueó a Anthropic para liberar Mythos a usuarios extranjeros por motivos de seguridad nacional.

La administración Trump levantó la restricción el 30 de junio. — AFP