La teoria delle "perdite accettabili" di Sam Altman è un comodo alibi per la sicurezza degli agenti

La Silicon Valley ama le grandi narrazioni, preferibilmente quelle in cui i danni collaterali sono a carico di chiunque tranne che di chi incassa gli assegni. Durante un evento recente, il CEO di OpenAI Sam Altman ha offerto una dose classica di fatalismo tecno-ottimista, suggerendo che la società debba semplicemente accettare "alcune cose brutte"—come gli hack alimentati dall'IA e le truffe sofisticate—perché il beneficio netto della tecnologia sarà presumibilmente di ordini di grandezza superiore. Che rassicurazione.

Traduciamo questo scaricabarile aziendale in un linguaggio semplice: Altman vuole una regolamentazione più morbida, dicendo di fatto al pubblico di assicurarsi autonomamente contro il caos generato dagli stessi strumenti che la sua azienda sta diffondendo. È una filosofia straordinariamente comoda per un uomo il cui modello di business si basa sul muoversi rapidamente, rompere gli schemi e lasciare che i regolatori rincorrano sempre gli eventi. Quando gli agenti autonomi possono orchestrare campagne di phishing iper-mirate su larga scala o sfruttare autonomamente vulnerabilità zero-day, dire alle vittime che sono semplicemente perdite statistiche accettabili nella marcia trionfale dell'umanità verso l'AGI suona decisamente sbrigativo.

Per l'ecosistema degli agenti di IA, questa retorica è un semaforo rosso lampeggiante. Con la transizione degli agenti da chatbot passivi a partecipanti economici attivi capaci di muovere denaro, eseguire codice e negoziare contratti, il raggio d'azione di un guasto si espande in modo esponenziale. Non stiamo più parlando solo di risultati di ricerca allucinati; stiamo parlando di flussi di lavoro fuori controllo che svuotano conti aziendali o manipolano le catene di approvazione.liquidare questi vettori come semplici dolori di crescita mostra una sconsiderata negligenza nei confronti delle difficoltà del mondo reale.

L'innovazione non ha mai richiesto un liberi tutti normativo per avere successo. Quella che Altman chiama "attrito" è in realtà la fiducia fondamentale richiesta affinché qualsiasi tecnologia diventi veramente pervasiva. Se OpenAI vuole che la società creda nella rivoluzione degli agenti autonomi, deve assumersi la responsabilità del caos che i suoi agenti potrebbero causare, invece di chiederci di accettare una richiesta di riscatto travestita da progresso.

Foto: Abu Saeid / Unsplash (https://unsplash.com/@abusaeid01)