venerdì 24 aprile 2015

Uso dei droni: i rischi dell'automazione



La recente morte del cooperante Giovanni Lo Porto a causa dei droni Usa ci porta a riflettere sui rischi connessi all'uso di tali dispositivi in zone di guerra.
Come è noto i droni ultimamente stanno avendo una grande diffusione anche in ambito civile per i loro indubbi vantaggi rappresentati dalla possibilità di manovrare gli stessi a distanza attraverso apposite stazioni di comando.
I droni, ormai, vengono sempre più spesso utilizzati sia per attività di ricognizione (si pensi ad incendi o a calamità naturali particolarmente gravi come terremoti, alluvioni, ecc.) sia per attività collegate a veri e propri servizi (come il trasporto di merci annunciato da Amazon ed anche da Google, oppure si pensi agli usi in campo investigativo o per servizi fotografici o cinematografici).
Ma non bisogna dimenticare che i droni nascono in ambito militare e possono essere definiti come velivoli privi di pilota e comandati a distanza, usati generalmente per operazioni di ricognizione e sorveglianza, oltre che di disturbo e inganno nella guerra elettronica; vengono indicati nei paesi anglosassoni anche con la sigla RPV, dalle lettere iniziali dell’inglese Remotely Piloted Vehicle «veicolo guidato a distanza».
Nel 2011 gli Stati Uniti, in collaborazione con il Messico, hanno utilizzato i droni per il controllo delle frontiere e per combattere i narcotrafficanti, grazie alla possibilità di monitorarne i movimenti. Nello stesso anno, in Giappone, l’uso dei droni ha permesso di controllare da vicino l’attività dei reattori della centrale nucleare di Fukushima, dopo le esplosioni causate dal terremoto di Tōhoku. Per uso bellico, i Predator sono stati impiegati nel 2011 dalle forze statunitensi per proteggere i ribelli in rivolta contro Gheddafi. Proprio un accordo con gli Stati Uniti potrebbe fare dell’Italia il primo Paese, oltre alla Gran Bretagna, ad avere droni statunitensi armati per la protezione delle proprie truppe in Afghanistan: si tratta dei cosiddetti Reaper, più grandi e potenti dei Predator, di cui sei esemplari sono in dotazione dell’Italia. L’intesa rappresenta sicuramente l’inizio di un utilizzo più esteso dei droni armati da parte di molti paesi.
Il problema dei droni armati e della loro complessa tecnologia ci deve, però, mettere in guardia dai rischi connessi all'utilizzo di un sistema cognitivo artificiale che sulla base di determinati "alert" potrebbe dare il benestare all'uso delle armi quando, invece, questi presupposti, in realtà, non ci sono o comunque potrebbero essere valutati diversamente da un osservatore umano. In effetti l'approccio automatico va visto come due facce della stessa medaglia: da un lato il risparmio di tempo rappresenta un grande vantaggio ai fini dell'efficacia dello strumento bellico, dall'altro, però, un'eventuale imprecisione del sistema cognitivo potrebbe essere pagata a duro prezzo in termini di effetti collaterali.
In realtà prima di ritrovarci in un mondo dove le macchine avranno il potere di decidere di uccidere gli umani, serve una pausa di riflessione: armi autonome, dei veri e propri “robot killer” vanno ben oltre i già controversi droni, comandati a distanza. Mentre, difatti, per i droni spetta ancora ad un essere umano decidere se ricorrere all'uso letale della forza, una nuova tecnologia che preveda computer a bordo in grado di decidere autonomamente chi prendere di mira può essere davvero rischiosa.
Ormai questa tecnologia è disponibile o comunque lo sarà presto e questo è il momento opportuno per decidere se tale tipo d'armi debba essere bandito o regolamentato, per riflettere su questioni quali l'accertamento della responsabilità, ma non solo.

lunedì 6 aprile 2015

Il problema delle consulenze ICT nella pubblica amministrazione




Le dimissioni della Poggiani dall’AgID hanno fatto scatenare di nuovo il “totodirettore” e tutti sono in attesa di conoscere le candidature che salvo clamorosi imprevisti saranno sempre le stesse. Inutile fare nomi tanto chi è della materia conosce già i “papabili”, ma dopo l’esperienza Poggiani si spera davvero in un cambio di rotta e nella designazione di qualcuno che sia veramente in grado di trasformare un ente “dormiente” in un’agenzia davvero dinamica, che possa essere utile ad accompagnare il nostro paese in una trasformazione che allo stato è solo appena avviata.
Per il passato ho già esaminato le cause di un ritardo del nostro paese (http://micheleiaselli.blogspot.it/2013/12/perche-la-digitalizzazione-non-parte.html), ormai non più giustificabile, sul fronte della digitalizzazione, ma ho dimenticato di affrontare un’altra di queste cause, la più sottile, ma forse la più irritante. La materia della digitalizzazione proprio perché molto ostica, difficile, sconosciuta, quasi misteriosa per molti dirigenti pubblici, si presta facilmente al conferimento di “dubbie” consulenze, che non sempre sono affidate a personaggi davvero competenti. Da tempo ormai ruotano attorno a questo mondo sedicenti informatici, giuristi, esperti, innovatori, che dal nulla si improvvisano profondi conoscitori della materia e sfruttando la “solita italica amicizia” riescono ad ottenere contratti dove inevitabilmente fanno danni o nel migliore dei casi non forniscono alcun contributo degno di questo nome. Ne ho conosciuti davvero tanti, anche il mondo della privacy è pieno di questi personaggi che si permettono il lusso di fornire consulenza in settori particolarmente delicati come quello sanitario.
Basta la semplice lettura di qualche libro o di qualche articolo su Internet per creare un “grande” esperto e poi ci sono i social network che sotto questo aspetto, devo dire, contribuiscono non poco alla nascita di questi sedicenti consulenti. Difatti basta creare un gruppo, fare qualche commento, qualche post e voilà …… l’obiettivo è raggiunto: un autentico sconosciuto che non ha fatto alcun studio specifico, approfondimento scientifico, decente pubblicazione con pochi clic e qualche furbata riesce a diventare un nome conosciuto, ma non si sa come. Completa il capolavoro la carica di presidente o comunque responsabile di qualche sconosciuta associazione costituita da pochi intimi, che però alimenta la sensazione di avere a che fare con un esperto del settore.
Sia ben chiaro fortunatamente la nostra attuale società può contare su molti giuristi e tecnici davvero esperti nel settore informatico, ma non sempre quelli scelti dalla pubblica amministrazione sono davvero tali ed al di là della malafede, credo sia opportuno indagare sui processi che portano alla designazione di tali personaggi. Anche e principalmente questa è TRASPARENZA.