Guayaquil, Ecuador
El discurso de Silicon Valley sobre los riesgos de la Inteligencia Artificial ha tomado un giro llamativo y preocupante. Ejecutivos de gigantes tecnológicos admiten públicamente la posibilidad de «escenarios descontrolados», y sin embargo ofrecen una solución aparentemente conveniente: confiar en un código de honor redactado y supervisado por ellos mismos.
Ante la amenaza de regulaciones estatales, empresas como OpenAI y Anthropic proponen contratar «evaluadores independientes» en sus propios laboratorios. Sin embargo, esto podría ocultar una peligrosa estrategia de autorregulación: la ilusión de la supervisión.
Se dice que el problema radica en que estos «guardianes» carecen de poder real. Al no tener la facultad jurídica ni técnica para frenar el entrenamiento o lanzamiento de un modelo riesgoso, quedan reducidos a simples observadores. Además, cuando las propias corporaciones eligen a sus auditores, pueden delimitar lo que pueden ver y la noción de independencia se desvanece, convirtiendo las auditorías en una herramienta de relaciones públicas para eludir leyes estrictas.
Resolver la gobernanza de la IA con pruebas técnicas de laboratorio puede parecer un error de diagnóstico. Aunque las evaluaciones detecten fallos de código, son incapaces de ejercer juicio moral; la ética no es un parámetro programable, sino una exigencia humana que requiere transparencia e instituciones públicas.
La supervisión de una tecnología capaz de transformar radicalmente nuestra estructura social no puede quedar en manos de quienes se benefician directamente de su despliegue masivo. Permitir que las grandes tecnológicas elijan a sus propios jueces puede dejar a la sociedad en una posición de total indefensión frente a una carrera desenfrenada por el dominio comercial.
Una gobernanza real de la IA exige superar los compromisos voluntarios e implementar un marco regulatorio externo, independiente y respaldado por la ley, que subordine el progreso tecnológico al bien común y la dignidad humana.