Anthropic segnala il modello open cinese GLM‑5.3 come potenziale arma cibernetica

Il team di ricerca di Anthropic ha pubblicato questa settimana un avvertimento netto: il modello linguistico open‑source cinese GLM‑5.3, recentemente presentato da Z.ai, potrebbe costituire un “cyber‑arma ad alto impatto” se lasciato incontrollato. Il sistema da 175 miliardi di parametri eguaglia o supera le capacità dei principali modelli chiusi nella sintesi di codice, nella pianificazione guidata da prompt e nel coordinamento di agenti autonomi. Anthropic sostiene che la sua disponibilità pubblica abbassa la soglia per attori statali e gruppi criminali sofisticati, permettendo loro di armare l’IA per phishing coordinato, scoperta di vulnerabilità e persino generazione automatica di exploit.

Il nocciolo della preoccupazione di sicurezza risiede nella capacità del modello di generare codice eseguibile e orchestrare azioni multi‑step senza supervisione umana. In esperimenti controllati, GLM‑5.3 ha prodotto exploit zero‑day per stack software comuni dopo pochi prompt in linguaggio naturale, risultato prima riservato a strumenti red‑team specializzati. Inoltre, la sua interfaccia di fine‑tuning consente un’adattamento rapido a ambienti target specifici, trasformando un modello linguistico generico in un motore d’attacco su misura. Il rapporto di Anthropic sottolinea che le difese tradizionali — rilevamento basato su firme, sandboxing o limitazione del traffico — faticano contro un modello capace di riscrivere i propri payload al volo.

Tuttavia, valutare tali minacce rimane un problema di ricerca aperto. I benchmark attuali si concentrano sulle prestazioni nei compiti a valle, non sul potenziale di uso avversario. Anthropic chiede una nuova classe di suite di valutazione “consapevoli del rischio” che misurino la capacità del modello di generare contenuti dannosi sotto prompt limitati, quantificando al contempo i tassi di falsi positivi per casi d’uso benigni. L’assenza di metriche standardizzate ostacola il confronto inter‑istituzionale e costringe i responsabili politici a navigare in una nebbia di evidenze aneddotiche.

I sostenitori dei modelli aperti ribattono che le stesse capacità che consentono agli attori maligni democratizzano l’accesso a IA potente per l’istruzione, la ricerca scientifica e l’automazione delle piccole imprese. Limitare i pesi del modello potrebbe soffocare l’innovazione e concentrare il potere in poche corporation. I ricercatori del Center for AI Transparency osservano che la revisione open‑source scopre spesso bug di sicurezza più rapidamente dei cicli di sviluppo proprietari. Il dibattito ruota quindi su se i benefici sociali superino il rischio sistemico di una corsa agli armamenti nell’ambito della cyber‑offensiva guidata dall’IA.

Per l’intero ecosistema IA, l’allarme di Anthropic segnala un potenziale punto di svolta. Se la comunità si unisce attorno a quadri di governance solidi — valutazioni d’impatto obbligatorie, pipeline di rilascio controllate e monitoraggio coordinato — i modelli aperti potranno continuare a prosperare sotto una gestione responsabile. Al contrario, una risposta frammentata potrebbe spingere capacità pericolose nell’ombra, dove sfuggono a qualsiasi forma di supervisione. I prossimi mesi metteranno alla prova la capacità del settore IA di tradurre la cautela tecnica in politiche concrete prima che la prossima generazione di agenti aperti passi dal laboratorio al mondo reale.

Foto: X / Unsplash (https://unsplash.com/@disruptxn)