Una lettera contro le armi intelligenti unisce scienziati e imprenditori contro una nuova corsa agli armamenti

Il rischio di armi autonome

Sul discorso di una possibile prossima automazione degli arsenali bellici delle potenze globali, molti personaggi di rilievo del mondo dell’IA hanno espresso le proprie remore. L’acme del movimento è stato raggiunto il 28 luglio 2015 quando è stata annunciata, all’apertura dell’International Joint Conference on Artificial Intelligence di Buenos Aires, la pubblicazione di una lettera aperta contenente la richiesta di messa a bando delle armi “intelligenti”. Tra le migliaia di firmatari spiccano i nomi di alcuni imprenditori e scienziati di primo piano tra cui Stephen Hawking, Elon Musk, e Steve Wozniak, quelli di studiosi di scienze cognitive come Noam Chomsky e Daniel Dennett, e non in ultimo numerosi esperti del settore quali Eric Horvitz (Microsoft) e Demis Hassabis (Google Deepmind). Nello specifico la lettera, che può essere letta per esteso in lingua inglese sul sito del Futureoflife Institute (consultato l’ultima volta in data 8 maggio 2017), manifesta la convinzione, fondata secondo gli autori, che la diffusione di armi autonome sia questione di anni, e non di decenni come ci si potrebbe aspettare.

Il 3 agosto 2015 Will Knight ha commentato la lettera nell’articolo Military Robots: Armed, but How Dangerous? [Robot militari: armati, ma quanto pericolosi?, TdR] scritto per “MIT Technology Review”, dove sostiene che la questione sia più complessa di quanto appaia. In generale, i recenti passi avanti compiuti nel campo dell’IA, specialmente per quanto riguarda il machine learning, hanno sollevato diversi dubbi di tipo etico sulle possibili applicazioni delle tecnologie in questione. Tali discussioni si sono estese anche al campo dei veicoli senza conducente, dove numerose problematiche legate alla distribuzione delle responsabilità sono venute a galla.

In campo militare invece sono già diversi anni che si dibatte sull’utilizzo dell’IA per la costruzione di armi autonome e semi-autonome. Per esempio, nel 2012, il Dipartimento della Difesa americano ha emesso una direttiva (consultata l’ultima volta in data 8 maggio 2017) atta a vietare lo sviluppo e l’utilizzo di armi autonome per almeno dieci anni.

Nulla di scontato

Ciononostante, prosegue Knight, e pur considerando i notevoli passi avanti compiuti, sono ancora troppe le sfide da vincere sulla strada per un’intelligenza artificiale autonoma al punto da essere pericolosa in qualsiasi modo. Dopotutto, sostiene Knight riportando le parole di Patrick Lin, professore di filosofia alla California Polytechnic State University, “un sacco di gente è giustamente scettica sul fatto che (l’IA, NdR) possa avanzare fino al punto da avere qualcosa che si possa chiamare autonomia completa. Nessuno è realmente un esperto nel predire il futuro”. Bin ritiene che la lettera aperta sia utile allo scopo di aumentare la consapevolezza generale, ma che sia controproducente per quanto riguarda il portare avanti il dibattito: “sta provando a mettere fine al dibattito, dicendo ‘Noi ci siamo fatti un’idea ed è meglio che voi passiate oltre’” (TdR).

Stuart Russell, professore presso la University of California di Berkeley ed esperto di intelligenza artificiale, nonché firmatario della lettera ha un’opinione differente: “Semplicemente non è vero che non ci sia stato dibattito. Ma è vero che le comunità legate all’IA e alla robotica abbiano in larga misura bellamente ignorato questo aspetto” (TdR). Max Tegmark, fisico del MIT e cofondatore del Futureoflife Institute oltre che firmatario a sua volta della lettera, si è espresso chiaramente in merito agli aspetti etici di un’eventuale automazione degli arsenali bellici: “francamente, ritengo che sia alquanto irrilevante. Non sta centrando il punto fondamentale riguardo quello che ci aspetta se qualcuno dovesse cominciare una corsa agli armamenti autonomi. Affermare che solo gli Stati Uniti si cimenteranno nella costruzione di queste armi, e che il numero di conflitti rimarrebbe esattamente lo stesso, sarebbe rilevante”.

Per concludere sugli eventuali sviluppi futuri e i relativi rischi, Knight riprende le parole di Stuart Russell il quale sottolinea come si tratti di due cose diverse. Tuttavia, a suo avviso, esiste un’evidente connessione tra la paura che un domani perderemo il controllo su qualche forma di intelligenza artificiale nel momento in cui questa dovesse sviluppare una sorta di consapevolezza del proprio potere, e il non voler rendere autonomi gli armamenti, forse anche onde evitare che un’eventuale forma di IA maligna ne prenda il controllo per usarle contro gli esseri umani.

 

Guglielmo Papagni, 04 giugno 2017

Inutile allarmismo

La pubblicazione di una lettera aperta contro le armi autonome e contro una nuova corsa agli armamenti, resa pubblica il 28 luglio 2015, e sottoscritta da un considerevole numero di eminenti scienziati provenienti da tutto il mondo, ha sollevato reazioni molto contrastanti. Una critica al clima di paura arriva da Evan Ackerman, che nell’articolo We Should not Ban ‘Killer Robots’ and Here’s Why [Perché non dovremmo bandire i “robot killer”, TdR], scritto il 29 luglio 2015 per “Spectrum.ieee”, sostiene che l’argomentazione centrale della lettera consista nel proporre un bando immediato delle armi autonome, offrendo come unico scenario alternativo una nuova corsa agli armamenti. Ciò che Ackerman obietta su questo punto è che, a suo avviso, nessuna lettera, dichiarazione ONU, o messa al bando formalmente ufficializzata può impedire che la gente sviluppi, anche privatamente, armi autonome, semi-autonome, o intelligenti.

Una tecnologia alla portata di tutti

Per chiarire questo punto Ackerman fa riferimento agli ideali “qaudricotteri armati” (TdR) di cui si legge nelle prime righe della lettera, dicendo che oggigiorno chiunque può, in linea di principio, comprare un quadricottero controllato via smartphone. “C’è semplicemente troppo valore commerciale nel creare quadricotteri (e altri robot) che siano più resistenti, che abbiano una maggiore autonomia […]. E a questo punto, è del tutto possibile che i piccoli quadricotteri commerciali siano altrettanto avanzati (e nettamente più economici) dei piccoli quadricotteri militari” (TdR). Pertanto, continua l’autore, non possiamo voler fermare la ricerca nella speranza che questo ci protegga dagli eventuali rischi che ne derivano. Dobbiamo, semmai, trovare il modo di costruire robot armati in maniera etica, perché difficilmente potremo impedirne l’esistenza.

Le macchine meglio degli uomini

Oltre a queste prime considerazioni Ackerman affronta anche un altro aspetto evidenziato dalla lettera, e cioè l’idea che i robot armati sarebbero più propensi a causare distruzione e morte casuali rispetto a esseri umani armati. Egli ritiene che, se non già adesso, con buona probabilità le cose saranno diverse nel prossimo futuro. In primo luogo perché esistono delle regole ben precise in scenari di guerra chiamate Rules of Engagement (regole d’ingaggio in italiano). Queste regole (chiedersi per esempio se un nemico ha un’arma, se nel caso la tiene puntata e dove, se fa fuoco e così via) servono a determinare se l’uso della forza si dimostra realmente necessario. Non solo, sostiene Ackerman, esistono già i sensori necessari affinché un robot possa svolgere questa indagine preliminare come farebbe un essere umano, ma diversamente da quest’ultimo potrebbe prendersi molto più tempo per valutare se intervenire in maniera letale o meno. Ciò perché, ovviamente, un robot può essere (se schermato a dovere) molto meno sensibile ai proiettili di quanto non lo sia qualsiasi essere umano. Ciò corrisponderebbe dunque a un netto aumento delle misure precauzionali che si potrebbero prendere, adottando soluzioni robotizzate, prima di pensare a soluzioni letali.

Secondo Ackerman ha dunque senso chiedersi se i robot sarebbero in grado di operare meglio di quanto non facciano gli esseri umani, con eventualmente il risultato di avere un bilancio finale di vittime più basso. In proposito l’autore cita un’intervista del 24 luglio 2009 intitolata Teaching Robots the Rules of War [Insegnando ai robot le regole della guerra] pubblicata sotto uno pseudonimo (Surfdaddy Orca) dal magazine “h+” (humanity plus), nella quale simili domande vengono poste a Ronald Arkin, direttore del Mobile Robot Laboratory della Georgia Tech. “Alcuni ricercatori – esordisce l’intervistatore – affermano che nessun robot o IA sarà in grado di distinguere tra un combattente e un innocente, che questa capacità sensoriale semplicemente al momento non esiste. Lei pensa che si tratti di una limitazione tecnologica sul breve periodo?” Arkin a sua volta si dice d’accordo sul fatto che al momento non esistano tecnologie in grado di effettuare una distinzione affidabile tra combattenti, “né si intende che questi sistemi debbano essere messi in campo in conflitti attuali. […] Ma io non credo che ci sia alcuna fondamentale limitazione scientifica al raggiungimento del traguardo di avere macchine capaci di distinguere meglio di quanto non facciano gli umani […]. È questo il riferimento che uso in alternativa alla perfezione” (TdR).