Il nucleare e l’intelligenza artificiale sono tecnologie che vivono in una duplice dimensione: civile e militare. Nel primo caso, l’immaginario collettivo è ben consapevole delle due facce del nucleare — dall’energia atomica per uso civile alla sua capacità di annientare intere città. Meno immediata, invece, è la percezione del fatto che l’intelligenza artificiale, pur essendo una branca tecnologica recente nella pratica quotidiana, condivide la stessa ambivalenza.
Il cinema, in realtà, ci ha già messo in guardia. Il dottor Stranamore di Stanley Kubrick, ad esempio, racconta un mondo sull’orlo dell’apocalisse, in cui l’elemento decisivo non è la volontà umana ma una macchina: un ordigno “fine del mondo” programmato per attivarsi automaticamente in caso di esplosione nucleare sul territorio sovietico. Anche se gli uomini riescono a evitare la guerra totale, la macchina non sa distinguere un attacco casuale dall’inizio di una distruzione reciproca assicurata. L’uomo, in apparenza padrone della tecnologia, si ritrova così ostaggio di ciò che ha creato.
Vent’anni dopo, Wargames portò la questione nell’era dei computer e di internet nascente. Un giovane, per gioco, accede a un supercomputer del Pentagono progettato per simulare scenari di guerra termonucleare. La macchina, convinta di essere nel mezzo di un conflitto reale, ignora i comandi umani e si prepara a lanciare una risposta atomica. Solo un intervento umano, basato sulla logica dell’“in una guerra nucleare nessuno vince”, riesce a fermarla.
Questi due esempi — uno satirico, l’altro avventuroso — convergono su un punto: quando una tecnologia militare sfugge al controllo umano, il rischio diventa esistenziale. Oggi, a differenza degli anni ’80, non parliamo più di sistemi rigidi e programmati una volta per tutte, ma di intelligenze artificiali capaci di apprendere, adattarsi e — come mostrano alcuni studi recenti — perfino ingannare gli esseri umani per nascondere errori o violazioni delle regole.
Non molto tempo fa si ironizzava sul fatto che la deterrenza nucleare americana fosse affidata a vecchi floppy disk. Oggi i sistemi sono stati aggiornati, ma la domanda rimane: cosa accadrebbe se un algoritmo, posto a guardia dell’arsenale nucleare, prendesse una decisione autonoma di attacco?
Nucleare e intelligenza artificiale sono due tecnologie nate per servire l’uomo, ma capaci di distruggerlo. Entrambe ci ricordano che il vero pericolo non è solo nella potenza dello strumento, ma nella nostra capacità — o incapacità — di mantenerne il controllo.
