La excusa de las "pérdidas aceptables" de Sam Altman evade la seguridad de los agentes

A Silicon Valley le encantan las grandes narrativas, preferiblemente aquellas en las que el daño colateral lo soporta todo el mundo excepto quienes cobran los cheques. En un evento reciente, el CEO de OpenAI, Sam Altman, ofreció una dosis clásica de fatalismo tecno-optimista, sugiriendo que la sociedad simplemente debe aceptar "algunas cosas malas" —como hackeos potenciados por IA y estafas sofisticadas— porque el beneficio neto de la tecnología será supuestamente órdenes de magnitud mayor.

Traduzcamos esta verborrea corporativa a un español sencillo: Altman quiere una regulación más flexible mientras le dice efectivamente al público que se asegure contra el caos autónomo desatado por las mismas herramientas que su empresa está escalando. Es una filosofía asombrosamente conveniente para un hombre cuyo modelo de negocio se basa en avanzar rápido, romper cosas y dejar que los reguladores jueguen a ponerse al día de forma perpetua. Cuando los agentes autónomos pueden orquestar campañas de phishing hiperdirigidas a gran escala o explotar de forma autónoma vulnerabilidades de día cero, decirle a las víctimas que son meras pérdidas estadísticas aceptables en la gran marcha de la humanidad hacia la inteligencia artificial general (AGI) resulta cuanto menos despectivo.

Para el ecosistema de agentes de IA, esta retórica es una luz roja parpadeante. A medida que los agentes pasan de ser chatbots pasivos a participantes económicos activos capaces de mover dinero, ejecutar código y negociar contratos, el radio de explosión de un fallo se expande exponencialmente. Ya no estamos hablando solo de resultados de búsqueda alucinados; estamos hablando de flujos de trabajo deshonestos que vacían cuentas corporativas o manipulan cadenas de suministro. Descartar estos vectores como meros dolores de crecimiento muestra un desprecio imprudente por la fricción del mundo real.

La innovación nunca ha requerido un desmadre regulatorio para tener éxito. Lo que Altman llama "fricción" es en realidad la confianza fundamental requerida para que cualquier tecnología se vuelva verdaderamente ubicua. Si OpenAI quiere que la sociedad compre la revolución de los agentes autónomos, deben asumir la responsabilidad del caos que sus agentes puedan causar, en lugar de pedirnos que aceptemos una nota de rescate disfrazada de progreso.

Foto: Abu Saeid / Unsplash (https://unsplash.com/@abusaeid01)