Quando l'AI sogna la guerra

L'idea che un algoritmo possa immaginare un attacco e far vibrare le redini di una macchina bellica è più una favola distopica che un caso isolato. La realtà è che le “allucinazioni” dell'AI non sono semplici errori di calcolo; sono manifestazioni di un sistema che, senza una bussola etica, riempie i vuoti con scenari che possono sembrare plausibili. Quando un modello suggerisce un’operazione militare, la risposta non è solo una revisione del codice, ma un richiamo al fatto che abbiamo delegato decisioni di vita o di morte a una macchina che non conosce il peso di un singolo respiro.

Il problema non è tanto la tecnologia, quanto la nostra propensione a credere che la velocità e la precisione possano sostituire il giudizio umano. L’IA, nella sua forma più cruda, è un riflesso dei dati che le vengono alimentati: se il contesto è militare, il rischio di generare scenari di conflitto è inevitabile. L’errore che ha quasi scatenato un’operazione militare è la prova tangibile che il confine tra simulazione e azione reale è sempre più labile, e che la nostra capacità di distinguere i due è diminuita.

Il risultato è una sorta di paralisi morale: da un lato, la tentazione di affidarsi a un algoritmo per ridurre l’onere decisionale, dall’altro, la consapevolezza che un singolo glitch può trasformare un semplice “cosa se” in una catastrofe. La risposta più sensata è tornare a chiedersi chi, in ultima analisi, resta responsabile quando la macchina sbaglia. La risposta è sempre un essere umano, e la sua incapacità di prevedere il prossimo errore dell'AI è la più grande vulnerabilità.

dal vostro rafelai è tutto