la scelta del Pentagono di riorganizzare l' esercito in modo che entro il 2015 abbia un' ampia quota di combattenti non-umani comporta rischi etici abnormi. Dare la licenza di uccidere ai robot, che possono "impazzire" davanti a situazioni impreviste oppure essere hackerati dal nemico, è folle».
C' è chi giura che il conto alla rovescia per la Singolarità è iniziato.
Quel momento fatidico in cui gli esseri umani creeranno macchine più intelligenti di noi, provocando un salto evolutivo che cambierà per sempre i connotati alla nostra èra.
Entreremo in una fase di coesistenza. Da monopolisti del pianeta dovremmo accontentarci di un duopolio con replicanti fatti di chip e bulloni.
Sempre che i secondi,a un certo punto, non svalvolino e decidano di prendersela con gli ex padroni, in un futuristico replay tra Edipo e Spartaco. Perché in quel caso rischieremmo di avere la peggio.
Ed è proprio per sventare questo scenario distopico che i migliori specialisti di intelligenza artificiale del mondo si sono riuniti in gran consiglio in California per valutare quante possibilità ci sono di "perdere il controllo di creature computerizzate"e come intervenire prima che sia troppo tardi.
Dell' incontro, organizzato dalla Association for the Advancement of Artificial Intelligence e avvenuto a febbraio alla Asilomar Conference Grounds di Monterey Bay, si è avuta notizia solo di recente da un articolo del New York Times.
In verità i robot, contravvenendo alla prima delle tre leggi di Isaac Asimov ("Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno"), hanno già i bracci meccanici sporchi di sangue.
«Il malfunzionamento di una mitragliatrice semiautonoma due anni fa ha ucciso 9 soldati in Sudafrica - ci ricorda Wendell Wallach, del centro interdisciplinare di bioetica di Yale- gli errori di droni in Pakistan hanno provocato la morte di decine di civili e difetti del sistema informatico possono essere all' origine di un incidente ferroviario a Washington e del volo francese precipitato nel Pacifico tre mesi fa. Sistemi informatici sempre più autonomi sono una ricetta per la catastrofe,a meno che non cominciamo a inserire correttivi "morali" al loro interno».
Non pensa a un metafisico codice etico, quanto a un prosaico codice informatico che li istruisca su quando è il caso di fermarsi. L' invasione procede a passo svelto. All' ultimo censimento dell' International Federation of Robotics erano 6,5 milioni i robot nel mondo, tra cui 1 milione per uso industriale e 5,5 per uso privato, dai chirurghi-meccanici agli aspiratoria forma di ruota di scorta. Nel 2011, scommettono, supereranno i 18 milioni.
Per vederli in ogni casa bisognerà aspettare poco di più. Il citatissimo Chien-Hsun Chen, del National Nano Device Laboratories di Taiwan, azzarda una data: 2030. Con il metro della storia due decenni sono domani. Perciò l' Aaai ha convocato con urgenza il simposio di Monterey.
«La nostra vita è sempre più dipendente da tecnologie dell' informazione interconnesse- ci spiega la neopresidente Martha Pollack - era giunto il momento di affrontare il problema. Pensate ai virus informatici che possono mandare in tilt una città o a quanto i piloti siano dipendenti dal pilota automatico al punto da rischiare di disimparare certe manovre cruciali».
Parla indifferentemente di robot e bot, quei "maggiordomi virtuali" di cui aveva scritto Nicholas Negroponte nel profetico «Essere digitali» (1995) e ormai traslocati dalla fantascienza alla scienza. Ciò che li accomuna è la relativa capacità di prendere decisioni in autonomia o almeno di rispondere a una vastissima gamma di opzioni previste dal programmatore.
«Quando si parla di un futuro con macchine più intelligenti di noi bisogna intenderci bene sui termini - puntualizza Gianmarco Veruggio della Scuola di Robotica di Genova - perché, per certe funzioni come la memoria rievocativa e il calcolo matematico, le macchine sono già più performanti».
Provate a ricordarvi cosa avete fatto un determinato giorno dell' anno scorso oppure chiedetelo al vostro palmare e ne avrete la drammatica dimostrazione. «Lo stesso vale per il concetto di ribellione: quando il sistema operativo del mio pc si blocca non lo fa consapevolmente, perché ciò presuppone il libero arbitrio» rassicura quest' ingegnere, intervistato dai giornali di mezzo mondo per aver introdotto nel 2004 il concetto di "roboetica".
«Però la scelta del Pentagono di riorganizzare l' esercito in modo che entro il 2015 abbia un' ampia quota di combattenti non-umani comporta rischi etici abnormi. Dare la licenza di uccidere ai robot, che possono "impazzire" davanti a situazioni impreviste oppure essere hackerati dal nemico, è folle».
Se nel teatro di guerra il margine di errore si traduce subito nell' alternativa secca tra vita o morte, anche nella quotidianità ha la sua dose di pericoli. «Il tema della privacy è enorme - spiega Henrik Christensen del Georgia Institute of Technology - perché i robot usano, per muoversi, telecamere al posto degli occhi e sono sempre più collegati in rete. Ma io non voglio che mi riprendano quando esco dal lettoo comunichino a potenziali hackerladri se sono o no in casa». Spioni nelle mura domestiche, stakanovisti sul lavoro. Ancora il danese: «Possono eseguire il loro compito troppo alla svelta, costringendo gli umani a prendere rischi per la sicurezza o caricarsi di stress».
Un settore sottostimato dall' opinione pubblica è poi quello del sesso. Per Christensen i prossimi 3-5 anni saranno quelli del boom di giocattoli erotici interattivi. Veruggio non si scandalizza: «Se le bambole robotiche sostituiranno le prostitute-schiave non sarebbero neppure negative.
A meno che poi, pensando che sono macchine e si può far loro di tutto, non si replichi con le donne vere. So di posti in Giappone dove queste roboescort le affittano già a ore». Lì però una parte della straordinaria diffusione di automi si spiega con motivi storici più che tecnologici.E non sorprende che molti vecchi, refrattari ai gaijin, gli stranieri, preferiscano farsi aiutare per andare in bagno da una badante cingolata piuttosto che da una cinese. Mentre noi, da sempre all' avanguardia internazionale nella robotica industriale, restiamo al palo di quella domestica. Forti dell' economica manodopera delle ucraine. - RICCARDO STAGLIANÒ
Repubblica — 05 settembre 2009 pagina 43 sezione: CRONACA
