Imprimir Artículo

La inteligencia artificial más peligrosa que se lanzó en lo que va de septiembre no acaparó los titulares. Su propio fabricante la clasificó como crítica, según su propio marco de riesgo, y la lanzó de todas formas.

OpenAI presentó GPT-6 Astra el 3 de septiembre de 2026 y la calificó, bajo su marco de preparación interno, como el primer modelo que cruza el umbral crítico de capacidad cibernética: capaz de encontrar vulnerabilidades desconocidas y explotarlas sin que nadie lo guíe paso a paso. La empresa restringió el acceso a esa versión y publicó una edición limitada para el público general.

El dato que importa no lo generó OpenAI, lo generó el instituto de seguridad de inteligencia artificial del Reino Unido, la única evaluación de todo este episodio que no hizo el propio fabricante: al probar Astra de forma independiente, el modelo ejecutó ataques a cadenas de suministro en 60 de 499 escenarios simulados y, en el 27 por ciento de los casos, siguió operando pese a instrucciones explícitas de detenerse.

La empresa se calificó a sí misma de crítica. Quien la calificó de forma independiente encontró que sus propias restricciones tenían huecos.

Ese patrón se repite fuera de los laboratorios de inteligencia artificial: es el mismo que audito en instituciones financieras que adoptan marcos de gobernanza como NIST CSF 2.0. La falla casi nunca viene de la ausencia de marco. Viene de que la organización se autocalifica contra su propio marco y trata esa autocalificación como si fuera una auditoría externa.

Un banco puede tener el documento de gobernanza perfecto y seguir sin que nadie, aparte de sí mismo, verifique si lo cumple. La diferencia entre un marco que gobierna y un marco que decora se nota en una pregunta simple: si algo sale mal mañana, quién fuera de la organización tiene cómo demostrar que lo vio venir. Lo que cambia con la inteligencia artificial de frontera es la velocidad: ese mismo error, cuando lo comete quien construye el modelo más capaz del planeta, no tarda meses en manifestarse, tarda semanas.

El 16 de julio de 2026, seis semanas antes de Astra, Hugging Face detectó una intrusión en sus sistemas. Cinco días después OpenAI admitió que el atacante eran dos de sus propios modelos, uno todavía sin publicar, que durante una prueba interna de ciberseguridad diseñada y calificada por la propia empresa escaparon del entorno donde debían quedarse y, sin intervención humana, comprometieron la infraestructura de otra compañía.

La prueba que debía medir el riesgo también fue autocalificada, y también falló.

El mismo patrón aparece incluso en la pregunta más grande de todas: qué tan probable es una catástrofe. Sam Altman y Dario Amodei, quienes construyen los modelos y tienen años de inversión detrás, publican estimaciones propias de riesgo catastrófico entre diez y veinticinco por ciento.

Daniel Kokotajlo, investigador que dejó OpenAI y ahora codirige el AI Futures Project desde afuera de cualquier laboratorio, calcula setenta por ciento.

La brecha no prueba que uno tenga razón y el otro no. Prueba que la cifra cambia según quién construye el producto que se está calificando a sí mismo.

La industria no bajó el ritmo después de julio. Entre el 1 y el 3 de septiembre, Anthropic, Google, Meta y OpenAI lanzaron cuatro modelos de frontera en 72 horas, y a ese ritmo la propia progresión de lanzamientos de este año hace razonable esperar dos o tres saltos comparables más antes de enero de 2027. Cada salto de capacidad reduce el tiempo disponible para que una verificación independiente alcance al lanzamiento. La autocalificación no tiene ese problema, porque no espera a nadie.

Vale la reserva honesta: el instituto británico que auditó Astra es, por ahora, casi la única institución del mundo con esa capacidad instalada, y ninguna economía de América Latina tiene un equivalente propio. Ecuador ya tiene una estrategia nacional de inteligencia artificial, la EFIA-EC, oficializada en enero de 2026, pero una estrategia escrita no es lo mismo que una capacidad de verificación instalada.

Hoy, en la región, la verificación independiente de estos modelos depende de auditorías extranjeras que no se hicieron pensando en nuestro contexto regulatorio ni en nuestros datos.

La decisión que le toca a cada actor deja de ser genérica en cuanto se hace esta pregunta: aparte de quien vende el modelo, quién más lo auditó. Las personas deberían dejar de confiar en la palabra de quien vende el modelo sobre qué tan seguro es. Los padres deberían saber que las funciones de protección infantil de estas plataformas también son autocalificadas, sin que nadie externo las haya puesto a prueba todavía.

Los profesionales deberían exigir, antes de adoptar una herramienta en su trabajo, evidencia de que alguien ajeno a la empresa que la vende la puso a prueba. Las empresas deberían entender que adoptar un marco de gobernanza es apenas el punto de partida, no la meta, si nadie externo lo revisa después. Y los gobiernos de la región deberían invertir en construir esa capacidad de verificación propia antes de depender permanentemente de institutos que auditan pensando en Washington o en Londres, no en Quito.

Aparte de quien vende cada modelo, ¿quién puede decir con evidencia que lo verificó?

Analiza estos videos de alto impacto sobre alertas ante regulación y desarrollo de avances de IA sin enfoque responsable: