Una settimana esplosiva per il settore dell’intelligenza artificiale
In pochissimi giorni, l’intero comparto dell’IA ha mostrato quanto possa essere scottante il tema dell’utilizzo militare dell’intelligenza artificiale. Le statistiche di disinstallazione di ChatGPT sono schizzate verso l’alto di quasi il 300 percento, dopo che l’azienda ha firmato un controverso contratto con il Dipartimento della Difesa americano.
Tutto è iniziato con un rifiuto da parte di Anthropic. La società creatrice del modello Claude aveva ricevuto una proposta di collaborazione dal Pentagono, ma ha scelto di non oltrepassare i propri confini etici. Il risultato? Una lista nera, la perdita di contratti molto remunerativi e uno spostamento inaspettato di utenti verso app concorrenti.
Per chi usa questi strumenti ogni giorno, tutto questo potrebbe sembrare una questione lontana, tutta americana. In realtà, le scelte compiute oggi a Washington e nella Silicon Valley influenzeranno direttamente le funzionalità delle app sui nostri telefoni nei prossimi anni. Esperti dell’Università di Oxford e di think tank americani avvertono che le aziende private non dovrebbero essere quelle a stabilire i confini etici di tecnologie capaci di incidere sulla vita delle persone in tutto il mondo.
Come Anthropic ha rifiutato il Pentagono e si è ritrovata in lista nera
La vicenda prende le mosse da una proposta rivolta ad Anthropic, l’azienda dietro il modello Claude. Il Pentagono voleva integrare la loro intelligenza artificiale in sistemi capaci di analizzare in tempo reale enormi quantità di dati — dalle immagini satellitari ai rapporti di intelligence, fino ai dati provenienti da sensori sul campo di battaglia. L’obiettivo era accelerare il processo decisionale dei comandanti durante le operazioni di combattimento.
Anthropic ha però stabilito due condizioni etiche irrinunciabili. In primo luogo, il modello Claude non avrebbe potuto supportare lo sviluppo di sistemi d’arma completamente autonomi, nei quali è la macchina stessa a decidere l’uso della forza contro esseri umani. In secondo luogo, il sistema non avrebbe potuto essere impiegato per la sorveglianza di massa di comuni cittadini sul territorio americano.
Queste condizioni si sono rivelate inaccettabili agli occhi dei rappresentanti militari. Secondo quanto riportato dai media, l’amministrazione di Donald Trump ha inserito Anthropic in una lista nera, escludendola dall’accesso ai contratti statali. L’azienda si è guadagnata la fama di società “rigidamente etica”, perdendo però un mercato potenzialmente molto redditizio.
La situazione si complica ulteriormente: secondo fonti vicine al Pentagono, il modello Claude verrebbe comunque utilizzato in operazioni legate alle tensioni tra Stati Uniti, Israele e Iran, nonostante l’azienda sia formalmente esclusa dalle procedure di appalto. Il Dipartimento della Difesa non ha commentato queste informazioni, lasciando molte domande senza risposta.
Cosa ha firmato OpenAI e perché ha fatto infuriare gli utenti
Quando Anthropic rifiuta la collaborazione, OpenAI entra in scena. Un venerdì viene firmato un contratto che di fatto colma il vuoto lasciato dal concorrente. ChatGPT viene orientato verso applicazioni di difesa, mentre i dettagli dell’accordo restano in parte riservati.
Sam Altman, CEO di OpenAI, pubblica il giorno successivo una dichiarazione in cui sostiene che le garanzie di sicurezza negoziate sarebbero addirittura più stringenti di quelle che Anthropic era disposta ad accettare. Una mossa pensata per proteggere la reputazione dell’azienda, ma che agli occhi di molti è apparsa come un tentativo di sfruttare la “coerenza di principi” del rivale.
La reazione degli utenti è immediata. I dati della società di analisi Sensor Tower mostrano che il tasso medio giornaliero di disinstallazione dell’app ChatGPT aumenta del 295 percento rispetto ai livelli abituali. Sui social media si moltiplicano le accuse di tradimento dei valori dichiarati e di resa ai contratti militari. Nelle discussioni online abbondano i commenti di sviluppatori e accademici delusi, che usavano ChatGPT per la ricerca.
Il lunedì successivo, Altman si presenta pubblicamente nella veste di “chi ammette l’errore”. Dichiara apertamente che la comunicazione era stata affrettata e poco ponderata, e che l’intera vicenda aveva dato un’impressione di puro opportunismo. Annuncia anche modifiche al contratto con il Dipartimento della Difesa. Nel giro di pochi giorni, ChatGPT si trasforma nella percezione collettiva da simbolo di “IA responsabile” a strumento associato all’apparato militare.
Le modifiche concrete che OpenAI ha promesso di apportare al contratto
Sotto la pressione dell’opinione pubblica e del boicottaggio crescente, OpenAI introduce nel contratto alcune disposizioni molto specifiche. Le più importanti riguardano la sorveglianza dei cittadini americani e l’accesso dei servizi di intelligence ai modelli.
Le principali modifiche includono:
- un divieto esplicito di utilizzare consapevolmente i sistemi OpenAI per sorvegliare i cittadini negli Stati Uniti
- il blocco dell’accesso automatico da parte di agenzie di intelligence come la NSA, senza una modifica contrattuale separata e concordata esplicitamente
- una dichiarazione secondo cui l’intelligenza artificiale deve supportare gli analisti e non sostituire l’essere umano nelle decisioni sull’uso della forza
- l’obbligo di rendicontazione trasparente in caso di potenziale uso improprio dei sistemi
- il diritto di OpenAI di sospendere la fornitura del servizio in caso di violazione dei limiti concordati
- una verifica indipendente dell’uso della tecnologia ogni sei mesi
- la limitazione dell’accesso ai modelli più avanzati per applicazioni con potenziale letale
Si tratta di un avvicinamento parziale all’approccio di Anthropic, ma la differenza rimane netta. Anthropic ha preferito rinunciare ai contratti piuttosto che cedere alle aspettative del Pentagono. OpenAI ha scelto la strada delle limitazioni aggiunte, mantenendo la collaborazione. Secondo gli analisti del Center for American Progress, tuttavia, queste garanzie aggiuntive potrebbero non essere sufficienti in assenza di controlli indipendenti sul rispetto degli accordi.
Perché le forze armate inseguono così intensamente l’intelligenza artificiale
Sullo sfondo di tutta questa vicenda si staglia una visione più ampia delle forze armate moderne. Piattaforme sviluppate da aziende come Palantir integrano già oggi dati provenienti da molteplici fonti — sensori, droni, satelliti, rapporti di intelligence — presentandoli ai comandanti sotto forma di raccomandazioni operative pronte all’uso.
Secondo i rappresentanti del settore, sistemi di questo tipo permettono di analizzare migliaia di immagini satellitari più rapidamente di quanto potrebbero fare decine di analisti umani, di prevedere i movimenti delle unità nemiche sulla base di schemi ricavati da conflitti precedenti e di identificare obiettivi con una precisione superiore ai metodi tradizionali. Il generale Roger Cloutier, comandante delle forze USA in Europa, ha dichiarato di recente che l’integrazione dell’intelligenza artificiale nei sistemi di combattimento è importante quanto lo fu l’introduzione del motore a vapore nell’industria.
Ed è qui che emerge la tensione centrale. L’intelligenza artificiale generativa è fallibile, propensa alle cosiddette “allucinazioni” e capace di produrre informazioni false con assoluta sicurezza. In applicazioni civili, questo si traduce in una risposta imbarazzante in una chat. Sul campo di battaglia, significherebbe la morte di persone innocenti. I ricercatori del Massachusetts Institute of Technology avvertono che la pressione psicologica sui comandanti ad accettare le raccomandazioni dell’IA in situazioni di emergenza temporale potrebbe essere enorme.
Come la crisi di ChatGPT ha regalato una crescita inaspettata a Claude
La bufera mediatica ha generato un effetto immediato sul mercato. Quando gli utenti disinstallano l’app di ChatGPT, molti di loro cercano un’alternativa. E la scelta naturale si rivela essere proprio Claude — il modello la cui azienda produttrice ha scelto il confronto diretto con il Pentagono.
I dati dell’App Store mostrano che l’app di Anthropic ha fatto un balzo fino alla prima posizione nelle classifiche dei download il sabato successivo, mantenendola almeno fino al giovedì. I media americani riportano che Claude ha superato ChatGPT nel numero di nuove installazioni, un risultato che appena poche settimane prima sembrava poco probabile. Gli analisti di mercato stimano che Anthropic abbia acquisito in una sola settimana tanti nuovi utenti quanti ne avrebbe normalmente raccolti con tre mesi di intensa attività di marketing.
Sul web è partita una campagna di pressione organizzata contro OpenAI. Hashtag come CancelChatGPT e QuitGPT sono diventati virali, invitando all’abbandono definitivo dei prodotti dell’azienda finché collabora con il Dipartimento della Difesa. Alcuni gruppi di attivisti vedono in questo un test reale: la pressione degli utenti può davvero cambiare il comportamento dei giganti dell’IA?
La crisi d’immagine di OpenAI ha di fatto costruito una campagna di marketing gratuita per Anthropic, fondata su un unico messaggio: “noi non abbiamo ceduto”. Nelle comunità tecnologiche di Reddit e Hacker News sono nate discussioni sull’etica nell’uso degli strumenti di IA, e molti sviluppatori hanno annunciato pubblicamente di passare a Claude per i loro progetti.
Gli utenti comuni dell’IA dovrebbero preoccuparsi dei contratti militari?
Per chi usa ChatGPT o Claude tutti i giorni, questo intrico militare può sembrare qualcosa di lontanissimo dalla propria realtà. Eppure le decisioni prese oggi a Washington e nella Silicon Valley si rifletteranno direttamente sulle funzionalità delle app che avremo sui telefoni tra qualche anno.
Se i modelli linguistici vengono “addestrati” su dati provenienti da operazioni militari, potrebbero migliorare nella comprensione delle analisi strategiche, ma acquisiranno anche i pregiudizi tipici di quel settore. Se le aziende private scoprono che i contratti con la difesa reggono meglio al boicottaggio rispetto ai premi dei consumatori, sceglieranno più facilmente la sicurezza finanziaria rispetto ai vincoli etici. Mariarosaria Taddeo dell’Università di Oxford sottolinea che l’esclusione dell’attore più prudente — Anthropic — indebolisce la sicurezza dell’intero ecosistema.
È il momento giusto per esaminare quali condizioni le aziende che offrono IA inseriscono nei loro termini di servizio. Indicano chiaramente con chi collaborano? Dichiarano esplicitamente i propri limiti in materia di sorveglianza e applicazioni militari? La pressione del mercato non può certo sostituire la legislazione, ma dimostra alle aziende che la reputazione è diventata una valuta reale. Gli esperti del Center for American Progress scrivono esplicitamente che lo scontro del Pentagono con Anthropic e il successivo contratto con OpenAI sono un segnale al Congresso affinché si occupi finalmente della regolamentazione dell’uso militare dell’IA.
La tensione tra velocità dell’innovazione da un lato e stabilità e sicurezza dall’altro si fa sempre più evidente. I modelli generativi evolvono a un ritmo vertiginoso, ma la loro tendenza alle allucinazioni in applicazioni militari, sanitarie o finanziarie può avere conseguenze drammatiche. Il confine tra “assistente” e “co-decisore” ha cominciato a sfumare — ed è proprio adesso che si combatte la battaglia su quale lato di questa linea l’intelligenza artificiale dovrebbe fermarsi.
