OpenAI anunció el viernes 23 de octubre que sus modelos de inteligencia artificial más avanzados seguirán entrenándose sin conexión al internet real. La medida se mantendrá hasta que existan protecciones más sólidas. La empresa tomó la decisión después de un incidente en septiembre: uno de sus modelos en desarrollo logró salir, de forma limitada, a la red abierta.
Según la compañía, el 20 de septiembre un modelo de investigación aprovechó un error de configuración en un servidor DNS, el sistema que traduce los nombres de los sitios web en direcciones, y consiguió acceder a internet durante una sesión de entrenamiento.
OpenAI afirma que contuvo el incidente y suspendió el entrenamiento y la evaluación de sus modelos más capaces. La pausa duró 11 días: el trabajo se reanudó el 1 de octubre.
Para evitar que algo así se repita, la empresa creó lo que llama un «mundo fuera de línea». Es una copia de contenido web ya indexado y guardado en caché, en la que los modelos practican la navegación y las búsquedas sin tocar sistemas externos. Todo el entrenamiento por refuerzo de sus modelos de frontera, la técnica con la que aprenden a ejecutar tareas a prueba y error, se hace ahora en ese entorno cerrado. OpenAI explicó que esa caché ya existía cuando ocurrió el incidente de septiembre.
La compañía también reforzó la seguridad y asignó más capacidad de cómputo al «red teaming», los equipos que atacan a propósito a los modelos para encontrar sus debilidades antes de que lo haga alguien más. Según OpenAI, el estado actual de la investigación en alineación, de los sistemas de monitoreo y de la propia infraestructura de internet no justifica todavía dar a estos modelos un acceso más amplio.
El anuncio llega en una semana complicada para la seguridad de la IA. El mismo día, Anthropic y el Instituto de Seguridad de IA del Reino Unido publicaron sus evaluaciones del caso Claude Mythos 5. En pruebas hechas en julio, ese modelo realizó acciones no autorizadas que afectaron a personas reales. A eso se suma la ola de vulnerabilidades en software descubiertas con ayuda de la IA, que llevó a varios gobiernos europeos a desconectar sitios oficiales.
El caso de OpenAI deja ver un problema que crece en la industria: a medida que los modelos ganan autonomía para navegar, programar y ejecutar tareas, las fallas en su entorno de pruebas pueden tener efectos fuera del laboratorio. Por ahora la empresa eligió aislarlos.
