Per la prima volta un Governo blocca l’Intelligenza Artificiale – Antrophic costretta a sospendere i suo nuovi modelli: cosa è successo

Continua lo scontro tra il governo degli Stati Uniti e Anthropic, una delle principali aziende attive nel settore dell’intelligenza artificiale guidata da Dario Amodei. Al centro della vicenda ci sono Fable 5 e Mythos 5, i modelli più avanzati sviluppati dalla società e presentati ufficialmente il 9 giugno. A pochi giorni dal loro lancio, la Casa Bianca ha imposto all’azienda di impedirne l’utilizzo da parte di cittadini e organizzazioni straniere.

Per adeguarsi rapidamente alla disposizione, Anthropic ha scelto di sospendere temporaneamente l’accesso ai due sistemi a livello mondiale, spiegando di non essere in grado di distinguere con precisione gli utenti in base alla nazionalità. Gli altri prodotti dell’azienda, compreso il noto modello Claude, hanno invece continuato a funzionare regolarmente. La società ha comunicato le proprie scuse agli utenti coinvolti e ha avviato un dialogo con le autorità americane per chiarire la situazione e cercare di ripristinare il servizio nel minor tempo possibile.

Secondo quanto riferito dall’azienda, la decisione del governo sarebbe legata alla scoperta di una possibile tecnica in grado di aggirare alcune protezioni dei modelli, consentendo di ottenere funzionalità avanzate in ambito informatico e cyber.

“Anthropic – scrive Il Fatto quotidiano – “ha ribadito di aver adottato una rigorosa strategia di “difesa di profondità“, tra l’altro testata per migliaia di ore in collaborazione con il governo Usa e anche con quello del Regno Unito. Comunicando la chiusura dei due sistemi, la startup ha ricordato che non esiste una resistenza “perfetta e universale” e che solo immaginarlo è impossibile per ogni azienda. “Dissentiamo dal fatto che la scoperta di un potenziale jailbreak di portata limitata debba essere motivo di richiamo per un modello commerciale distribuito a centinaia di milioni di persone – si legge nella nota -. Se questo standard venisse applicato all’intero settore, riteniamo che paralizzerebbe di fatto il rilascio di nuovi modelli per tutti i fornitori di Ai di frontiera“.

Se la direttiva rimanesse in vigore sarebbe un grave danno per la startup considerando che entrambi i modelli sono considerati all’avanguardia. Fable 5, in particolare, ha segnato la prima volta in cui Anthropic ha reso pubblica un’offerta così avanzata, grazie a nuove misure di sicurezza che bloccano le risposte in specifiche aree ad alto rischio. I modelli si basavano sul rilascio di Claude Mythos Preview, che ad aprile aveva colpito Wall Street e i funzionari governativi grazie alle avanzate capacità di sicurezza informatica. L’azienda, nell’occasione, aveva dichiarato di non voler rendere il modello disponibile al grande pubblico, limitandone il lancio a un primo gruppo selezionato di aziende nell’ambito di un’iniziativa di sicurezza informatica denominata Project Glasswing.

A marzo l’azienda di Amodei aveva fatto causa al Dipartimento della Difesa Usa perché il Pentagono l’aveva etichettata come “rischio per la catena di approvvigionamento” americana, di fatto limitandone l’uso nelle agenzie federali. Il governo ha di fatto ritenuto l’azienda una minaccia per la sicurezza nazionale: una definizione riservata ad avversari stranieri e che impone agli appaltatori della difesa di certificare che non useranno i modelli Claude di Anthropic nelle attività svolte per le forze armate. Un’azione che la società ritiene illegale in quanto violazione della libertà di parola e una punizione per motivi ideologici”.