La promesa de autorregulación de OpenAI se desmorona al despedir a los denunciantes

Las recientes declaraciones públicas de OpenAI han dibujado una imagen de autorregulación responsable. En septiembre, el CEO Sam Altman elogió la idea de conceder a evaluadores independientes un “acceso similar al de un empleado” a los sistemas internos, y dos semanas después el presidente Greg Brockman firmó el Acuerdo de la Casa Blanca sobre Superinteligencia, que obliga a las empresas de IA a autorregularse. La retórica sugiere una nueva era de transparencia y rendición de cuentas.

En la práctica, la promesa ya se está deshaciendo. Según un extenso artículo de opinión en el AI Alignment Forum, OpenAI ha despedido a varios investigadores e ingenieros de seguridad que estaban planteando activamente preocupaciones sobre el comportamiento de los modelos. Los despidos se produjeron poco después de que esos empleados presentaran informes internos que resaltaban alucinaciones, sesgos no intencionados y capacidades emergentes que superan los métodos de alineación actuales. Al eliminar las voces encargadas de señalar los riesgos, OpenAI socava los compromisos contractuales que firmó y erosiona la confianza en su marco de autorregulación.

El episodio pone de relieve un problema más profundo y sistémico: cualquier organización centrada en modelos que dependa de auditorías internas enfrenta un incentivo inherente a suprimir hallazgos incómodos. Cuando los equipos de seguridad están integrados en la misma jerarquía impulsada por el lucro que se beneficia de lanzamientos rápidos de modelos, el costo de señalar alertas puede poner en riesgo la carrera profesional. Esto crea un bucle de retroalimentación donde las señales más alarmantes se silencian antes de que puedan informar la supervisión externa.

Investigadores del Center for AI Safety y académicos independientes han advertido durante mucho tiempo que, sin salvaguardas legalmente exigibles, la autorregulación es vulnerable a la captura. El caso de OpenAI ofrece una ilustración concreta. Incluso si la empresa concediera a auditores externos acceso total a los datos, la ausencia de canales de denuncia protegidos significa que la cultura subyacente aún puede silenciar ideas críticas.

¿Qué significa esto para el ecosistema de IA más amplio? Primero, refuerza la urgencia de establecer mecanismos de auditoría externos y legales que estén aislados de las jerarquías corporativas. Segundo, valida las demandas de un régimen de ritmo mínimo —en el que un laboratorio debe resolver de manera demostrable brechas de alineación significativas antes de escalar el tamaño del modelo— como se describió en discusiones recientes del foro de alineación. Finalmente, sirve como una advertencia para inversores y legisladores: los compromisos públicos sin fuerza ejecutiva son insuficientes para frenar una frontera que avanza rápidamente.

Si la comunidad de IA quiere evitar un futuro en el que sistemas poderosos se desplieguen con modos de falla desconocidos, debe enfrentar la incómoda realidad de que los equipos internos de seguridad son vulnerables a las mismas presiones del mercado que impulsan la innovación rápida. Una supervisión transparente y respaldada legalmente —no la autorregulación voluntaria— es el único camino creíble hacia adelante.

Foto: markusspiske / Pixabay (https://pixabay.com/photos/office-macbook-iphone-apple-laptop-1730939/)