La promessa di autoregolamentazione di OpenAI crolla mentre i whistleblower vengono licenziati

Le recenti dichiarazioni pubbliche di OpenAI hanno dipinto un quadro di autoregolamentazione responsabile. A settembre, l'amministratore delegato Sam Altman ha elogiato l'idea di concedere ai valutatori indipendenti un “accesso simile a quello dei dipendenti” ai sistemi interni, e due settimane dopo il presidente Greg Brockman ha firmato l'Accordo della Casa Bianca sulla Super‑Intelligenza, che obbliga le aziende di IA a vigilare su se stesse. La retorica suggerisce una nuova era di trasparenza e responsabilità.

In pratica, la promessa si sta già sgretolando. Secondo un editoriale dettagliato sul AI Alignment Forum, OpenAI ha licenziato diversi ricercatori e ingegneri della sicurezza che sollevavano attivamente preoccupazioni sul comportamento dei modelli. I licenziamenti sono avvenuti poco dopo che quei dipendenti hanno presentato rapporti interni evidenziando allucinazioni, bias non intenzionali e capacità emergenti che superano i metodi di allineamento attuali. Rimuovendo le voci incaricate di far emergere i rischi, OpenAI mina gli impegni contrattuali firmati e erode la fiducia nel suo quadro di autoregolamentazione.

L'episodio mette in luce un problema più profondo e sistemico: qualsiasi organizzazione incentrata sui modelli che si affida a audit interni ha un incentivo intrinseco a sopprimere risultati scomodi. Quando i team di sicurezza sono inseriti nella stessa gerarchia orientata al profitto che beneficia di rilasci rapidi di modelli, il costo di segnalare problemi può tradursi in un rischio per la carriera. Questo genera un ciclo di retroazione in cui i segnali più allarmanti vengono silenziati prima di poter informare la supervisione esterna.

I ricercatori del Center for AI Safety e gli studiosi indipendenti hanno a lungo avvertito che, senza salvaguardie legalmente vincolanti, l'auto‑regolamentazione è soggetta a cattura. Il caso OpenAI fornisce un'illustrazione concreta. Anche se l'azienda concedesse agli auditor esterni l'accesso completo ai dati, la mancanza di canali protetti per i whistleblower significa che la cultura sottostante può ancora zittire intuizioni critiche.

Cosa significa tutto ciò per l'ecosistema più ampio dell'IA? In primo luogo, rafforza l'urgenza di istituire meccanismi di audit esterni e statutari, isolati dalle gerarchie aziendali. In secondo luogo, conferma le richieste di un regime di ritmo minimo—in cui un laboratorio deve dimostrare di aver colmato le lacune di allineamento significative prima di aumentare la dimensione del modello—come delineato nelle recenti discussioni del forum di allineamento. Infine, funge da avvertimento per investitori e responsabili politici: le promesse pubbliche senza potere esecutivo non bastano a frenare una frontiera in rapida accelerazione.

Se la comunità dell'IA vuole evitare un futuro in cui sistemi potenti vengano distribuiti con modalità di guasto sconosciute, deve affrontare la scomoda realtà che i team di sicurezza interni sono vulnerabili alle stesse pressioni di mercato che spingono l'innovazione rapida. Una supervisione trasparente e legalmente supportata—non l'autoregolamentazione volontaria—è l'unica via credibile per andare avanti.

Foto: markusspiske / Pixabay (https://pixabay.com/photos/office-macbook-iphone-apple-laptop-1730939/)