L’era della globalizzazione, dello sviluppo iper-tecnologico, dei mercati pervasivi e della comunicazione orizzontale sembravano averci portato ormai fuori dalle vecchie logiche di contrapposizione militare tra Stati.

Ovviamente i conflitti, tutt’altro che scomparsi dallo scenario geo-politico, avevano recuperato enfasi su altri fronti, a partire dalla dimensione economica della distribuzione della ricchezza (impietosa tanto tra i diversi Stati, quanto all’interno degli stessi) e riorganizzato la versione aggressivo-militare nella dimensione terroristica. Terrore non più espresso solo nelle consuete forme delle stragi armate di civili in ambito civile (in cui gli strumenti di aggressione sono comunque di ordine militare: armi, esplosivi), ma aggiornato attraverso la conversione di mezzi civili in strumenti di morte (automobili, camion, scagliati contro le folle).

Globalizzazione e conflitti

Restava comunque la speranza di non dover essere sull’imminenza di una guerra mondiale tradizionale. Ebbene, proprio in questi giorni questa speranza viene messa in crisi dalla vicenda della Corea del Nord e della sua folle sfida nucleare alle potenze più avanzate, da sempre predominanti in questo ambito.

Si tratta di un problema di responsabilità anzitutto. Le armi nucleari sono nella disponibilità di molti Stati, pur tuttavia la loro presenza è apparsa per molti decenni un segnale di garanzia per la pace piuttosto che una minaccia esplicita alla sopravvivenza dell’umanità: la responsabilità di mantenere un equilibrio in cui la dissuasione dell’aggressione tra i contendenti è insita nella spropositata potenza della risposta di difesa. L’intero mondo si interroga quindi sulla incredibile crisi in cui d’improvviso si sente caduta, e sulle sue possibili conseguenze e soluzioni.

L'appello all'ONU sulle armi autonome e intelligenti

Proprio mentre si affaccia sulla scena mondiale questo imprevedibile stato di crisi, un fatto riguardante la sicurezza mondiale viene contemporaneamente sollecitato da alcuni protagonisti della scena tecnologica d’avanguardia, con un impatto mediatico a dir poco trascurabile.

Si tratta delle principali compagnie mondiali produttrici di tecnologie intelligenti e di robotica. Unite in un appello all’ONU perché dedichi attenzione urgente attraverso gli organismi specifici di cui dispone (in particolare quello relativo alle convenzioni sulle armi - Conferenza della Convenzione delle Nazioni Unite su “Certain Conventional Weapons (CCW)”) ai rischi provenienti dallo “sviluppo di armi autonome intelligenti”.

L’appello è inquietante per quello che in esso si sostiene e al tempo stesso per chi lo sostiene. Partiamo dai contenuti.

Il pericolo di una nuova corsa agli armamenti

Si denuncia il pericolo di una corsa ad armamenti di questo nuovo genere (intelligenti ed autonomi) in grado di rappresentare un fattore di destabilizzazione degli equilibri pacifici e di mettere a repentaglio le popolazioni civili. Si prefigura un salto di livello nell’ordine delle guerre (the third revolution in warfare) che, tradotto, significa capacità di distruzione e annientamento del nemico, ma anche perdita del “controllo” di questi strumenti nei conflitti.

Esplicitamente si fa riferimento ad un genere di conflitti realizzati su scale di potenza e temporalità di “difficile comprensione” per gli umani. Allo stesso tempo si preconizza il rischio di un utilizzo di queste armi nelle mani di terroristi e despoti contro innocenti.

Un vaso di Pandora difficile da richiudere

La conclusione dell’appello lascia nello stesso sconcerto che può provocare un drammatico film di fantascienza: “una volta aperto questo vaso di Pandora, sarà difficile richiuderlo”, con la differenza che stiamo parlando dell’attualità e del mondo reale.

Non aiuta a tranquillizzarci lo schieramento di coloro che si appellano. Non semplicemente un gruppo di scienziati che, pur esperti e consapevoli degli avanzamenti da loro realizzati, ipotizzano ricadute esagerate e, come può accadere cimentandosi con le previsioni future, un poco azzardate. Ma piuttosto i massimi dirigenti e tecnici di aziende commerciali che, con le tecnologie d’avanguardia, realizzano straordinari ricavi e crescenti quote di mercato.

Non ricordo chi sosteneva che “le previsioni che riescono meglio sono quelle sul passato” (che sintetizza bene le trappole cognitive che ci riservano le nostre speranze, paure, discrasie, affezioni e persino modelli scientifici non particolarmente raffinati ed adeguatamente testati), ma certo gli enormi sviluppi delle tecnologie di apprendimento, affiancati agli altrettanto enormi progressi sulle capacità di autonomia dei sistemi intelligenti, deve far ritenere di considerevole importanza l’appello suddetto.

Potenza stravolgente di strumenti incontrollabili

Tanto più che queste capacità, “apprendimento automatico e autonomia”, vengono regolarmente sviluppate e messe alla prova da queste aziende nella loro regolare produzione di nuovi sistemi. Hanno cioè sotto il loro attento monitoraggio lo stato dell’arte e di progresso di queste features fondamentali delle proprietà intelligenti.

Tanto per fare due esempi degli enormi progressi ottenuti nell’ambito dell’apprendimento automatico, possiamo pensare al “riconoscimento di immagini” e a “quello del parlato”, due compiti che fino a qualche anno fa sembravano di difficilissimo approccio e che oggi forniscono performance di valore analogo alle capacità umane.

Per quanto riguarda l’autonomia si può analogamente pensare alle automobili autonome (self-driving cars) ormai una realtà in via di inserimento nel mercato commerciale (una volta superate le barriere normative, culturali ed economiche).

Non stiamo parlando della sostituzione tout court dell’intelligenza umana con quella artificiale, tema su cui pure si inizia a discutere, ma che se mai diverrà un’ipotesi reale riguarderà altre generazioni più avanti nel tempo. Si tratta della potenza stravolgente di strumenti che non potremo controllare nella loro drammatica capacità distruttiva.

Siamo verosimilmente davanti ad un baratro analogo a quello che presentò all’umanità, nei bombardamenti di Hiroshima e Nagasaki, la fissione nucleare, espresso in termini di morte, distruzione e devastazione futura. La differenza sostanziale, interpretando gli estensori di questo appello, sarebbe nella aggiuntiva incapacità di mettere fine alla produzione e quindi diffusione di questo nuovo genere di armi, una volta maturate e rese accessibili queste tecnologie.

Non possiamo permetterci di vedere queste nuove tecnologie all’opera prima di metterle al bando: non possiamo attendere una Hiroshima o Nagasaki nella versione “armi intelligenti”. Questo sembrano dirci gli scienziati delle società sviluppanti questi sistemi: non è pensabile un superamento del limite. Non sarà più possibile tornare indietro una volta aperto “il vaso di Pandora”.

Lindifferenza di istituzioni e media internazionali

L’incapacità dei media e delle istituzioni mondiali di dare il giusto peso a questo appello (l’ONU ha rinviato l’incontro su questo tema a causa del mancato pagamento di alcune quote da parte dei suoi partner) raccontano di un’umanità distratta sulle questioni che dalle nuove frontiere della conoscenza, scienza e tecnologia si trovano ad affrontare. Dell’incapacità di integrare in uno sviluppo equilibrato, compatibile, sostenibile e governato, alcuni più delicati avanzamenti conoscitivi e le loro potenziali ricadute.

Raccontano infine di un mondo dominato dal paradigma della comunicazione e allo stesso tempo orfano di un ordine nel comunicare. Incapace di recuperare quei criteri di priorità e oggettività che unici possono organizzare il disordine dello spazio internazionale, pervasivamente crescente. In cui la conquista della comunicazione orizzontale non può soverchiare il valore delle fonti, confondere il senso dell’oggettività e fondatezza con quello della soggettività e opinabilità. Il rischio è di confondere giudizi mossi da sensazionalismo, moda e consenso emotivo, con quelli fondati razionalmente e scientificamente (la “questione vaccini” in Italia ne è un esempio lampante).

L’effetto gravissimo di risulta è l’influenza che questo modello sta avendo sulla stessa comunicazione canonica e sulle modalità con cui si rapporta con l’“altra” comunicazione. Un sistema comunicativo che funziona male mette a repentaglio il cuore dei processi democratici di una comunità e le conseguenti salvaguardie che ne derivano. L’incredibile sottovalutazione da parte dei media della lettera aperta, sottoscritta delle aziende produttrici di tecnologie intelligenti, sembra avvertirci di quanto siano a rischio oggi proprio quei fondamentali processi.

Fonte: An open letter to the United Nations Convention on certain conventional weapons.