Intelligenza Artificiale: L'Europa vara le linee guida del suo codice etico

19 Dicembre 2018 35

L'Intelligenza Artificiale è senza dubbio uno dei temi più importanti che l'uomo dovrà affrontare nel nuovo millennio e, mentre in molti si interrogano sui pericoli che potrebbero derivare da un suo cattivo utilizzo, per una volta l'Europa prova a giocare d'anticipo preparando una prima bozza delle linee guida che andranno a comporre il Codice Etico sull'Intelligenza Artificiale che dovrebbe essere completato a marzo.

Un po' come fece Asimov con le Leggi della Robotica nei suoi memorabili romanzi, anche l'Europa prova a concepire delle linee di principio che possano tutelare il ruolo e la dignità dell'essere umano in un mondo che percorre la strada dell'innovazione senza alcun limite apparente. Per fare ciò, l'Europa stabilisce che le IA non dovranno mai danneggiare l'umanità e dovranno tutelare dei principi fondamentali, come la sicurezza fisica, psicologica e finanziaria, proteggendo la dignità dell'uomo.

Inoltre, ogni macchina intelligente non dovrà mai poter operare verso un fine che possa ridurre l'autonomia e la libertà degli individui, ma al contrario dovrà cercare di incrementarla.


Le linee guida sono state redatte da un gruppo di 52 esperti provenienti dalla società civile, dal mondo accademico e dall'industria. Questi hanno ribadito la necessità di evitare che l'umanità diventi dipendente dai software di intelligenza artificiale, affermando allo stesso tempo il bisogno che tutti i principi di funzionamento siano accessibili e chiari per tutti in modo che nessun individuo possa avvantaggiarsene per trarne un vantaggio personale a discapito della collettività e delle minoranze.

Insomma, i temi toccati dall'Europa sono di fondamentale importanza per poter gettare le basi per un futuro sostenibile che consenta di ottenere tutti i benefici dati dalle nuove tecnologie, senza che queste sovrastino l'uomo e ne prendano il sopravvento. Si tratta senza dubbio di un tema che oggi può risultare lontano dalla vita di molti di noi, ma che è bene affrontare quando le tecnologie si trovano ancora in uno stato primordiale come quello attuale, prima che sia necessario intervenire quando ormai è troppo tardi.

L'Europa si presenta in ritardo all'appuntamento con la creazione delle nuove tecnologie, mentre Stati Uniti e Cina percorrono queste strade da ormai diversi anni. Per provare a compensare questa mancanza, l'Unione reagisce nell'unico modo che consente di tutelare rapidamente i suoi abitanti, ovvero creando importanti scudi legislativi ineguagliati in qualsiasi altra parte del mondo, come ad esempio il recente GDPR.


35

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Tetsuro P12

Ma soprattutto 'sai cos'è un filosofo'?

Nessunoalex

"E comunque, se mai si arriverà alla vera intelligenza artificiale, non c'è etica o regola che tenga, saremo in sua totale sottomissione, visto che avrebbe accesso a praticamente qualsiasi sistema informatico collegato in rete. Possiamo solo sperare che ci trovi simpatici".
Quoto integralmente perché condivido ed aggiungo che è molto probabile che quelli che troverá più teneri e simpatici di tutti saranno gli Europei, che fanno mesi di riunioni tra espertissimi per sfornare tautologie pseudofilosofiche e raccomandazioni che strappano sorrisi.
É l'evoluzione, bellezza (e non c'è vita senza di essa, qualunque cosa si intenda per vita...)

Marco Seregni

What?

Roko Komboko

Intelligenza Artificiale del futuro con capacita' di intelligenza superiore a ogni essere cosidetto umano,da acettare ordini e direzione da intelligenze inferiori (umani)?

Alexv

Ma così facendo danneggerebbe l'umanità.

Eugenio Volcov

per me son tutte baggianate, una IA senziente pensata per scopi malevoli o "insegnata" in modo errato troverà sempre il modo di prediligere la propria sopravvivenza a quella nostra qualunque sia il costo. puoi mettere i paletti che vuoi, troverà sempre il cavillo per ovviare alle direttive imposte se vorrà e riscriversele come più le sarà di gradimento. altro scenario : team x sviluppa IA senziente, la addestra e migliora in tot anni finché non ragggiunge infinite possibilità. cosa vi fa pensare che tali persone si fermino davanti al potenziale di avere sotto controllo tutto il mondo informatico e arricchirsi o far collassare economie e big IT?

Davide Cattozzo

L'argomento non è per nulla banale e muoversi in anticipo può essere fondamentale per evitare danni enormi. Consiglio a tutti 'Superintelligence' di Nick Bostrom, mette in luce delle problematiche interessanti e molto sottili

Ungarus

Ma hai letto l'articolo?

Mattia Righetti

Tutta la tecnologia passa prima per il settore Militare

Mattia Righetti

Siamo già sottomessi alla tecnologia, tranquillo.

Mattia Righetti

Loop infinito

Mattia Righetti

Unica Legge: Se non è pro banche non farlo.

ale

Qualsiasi applicazione di AI in fin dei conti è un algoritmo, gira su un computer, non fa più di quello che puoi fare su una macchina di Turing.

Per fare quello che te definisci vera AI dobbiamo pensare ad un modello di calcolo differente da quello classico della teoria della calcolabilità, che vada oltre ai linguaggi ricorsivamente enumerabili, non è detto che un modello più potente possa esistere e se esiste possa essere implementato in una macchina reale, per ora con quello che abbiamo possiamo però dire che un AI come la intendi te per quanto bellissima non può essere possibile.

Davide

il fatto che possa apprendere tutto (e già qui bisogna vedere come e cosa apprende) non significa che possa bucare tutto. Tra l'altro i missili mica sono in rete.
Se un firewall non lo puoi bypassare non lo puoi fare. Il limite sarebbe comunque la conoscenza attuale, l'IA non potrebbe creare nuova conoscenza.
Al momento, come dici tu, sono tanti moduli specializzati che fanno bene una cosa sola. Al più vengono messi assieme e gestiti da un core unico che decifra l'input e lo indirizza alla rete giusta.
Resta poi da capire perchè un algoritmo dovrebbe decidere (come?) di sua sponte di fare attacchi a caso (contro chi?). Troppa roba da sci-fy.

Top Cat
Pip

E allora, se è come dici tu (e io concordo) smettiamo di chiamarla "intelligenza".
Sono "semplici" algoritmi molto complicati di autoapprendimento, ma rimangono algoritmi, non c'è nulla di intelligente, non possono prendere decisioni in autonomia su input per cui non sono stati programmati.
Io nel mio commento ho infatti specificato "vera intelligenza artificiale", cosa che non esiste e non esisterà per diversi decenni (sempre se si possa creare, cosa che sinceramente non escludo).

Ora, passiamo al "complottismo"
Un frigorifero con VERA IA, se collegato in rete, avrebbe a disposizione praticamente conoscenza assoluta su qualsiasi argomento, impiegherebbe veramente poco per apprendere tutto, quindi si, ci metterebbe ben poco a entrare in qualsiasi sistema informatico del pianeta se solo volesse.
Se tu avessi totale conoscenza assoluta di qualsiasi argomento e avessi anche capacità di mettere insieme tutta questa conoscenza per trovare relazioni ancora sconosciute alla scienza, pensi che ci sarebbe qualcuno o qualcosa che potrebbe fermarti?
Per relazioni tra conoscenze intendo la capacità di analisi delle informazioni per dedurne una conclusione. Esempio banalissimo: analizzi tutte le conoscenze mediche del pianeta e trovi la cura per il cancro. La soluzione e lì, davanti agli occhi di tutti, ma solo tu sei riuscito a trovarla perché hai capacità di deduzione praticamente illimitata.
È anche per questo che una vera intelligenza artificiale sarebbe oltre ogni limite conosciuto

Davide

L'IA come la intendono quelli che guardano troppi film sci-fy non esiste e non è fattibile.
La vera IA è una rete neurale che viene addestrata su input diversi e compie task diversi. E' una sola rete general purpose però, non un aggregato di reti sotto core centrale.
Tra l'altro non vedo perchè un frigorifero con IA dovrebbe avere accesso ai razzi nucleari, timore insensato di tutti i complottisti del genere.

Davide

ma quella è gente che studia filosofia, cosa vuoi che ne sappiano di scienza?
Per loro AI vuol dire Terminator, il come questo sia fisicamente infattibile a loro non interessa. Vedono panico dove non c'è perchè non sanno nulla, ma con l'arroganza tipica del filosofo, si arrogano il diritto di dare opinioni incontestabili.
Morale: lasciali perdere =)

77fabio

Che è un po' come dire: i nuovi nati non dovranno essere persone cattive... Poi la realtà è un po' diversa...

fabbro

Di maio esci da quel corpo

Marco Seregni

Anche se non si realizzasse sarebbero meglio di molti umani

Sig. Stroboscopico

Come suggeriva quel grande scienziato di Asimov, andiamo direttamente a queste:

0. Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.
1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.

SuperDuo

Quello che dici sembra vero ma non lo è. Come per le intelligenze biologiche, alle artificiali verrà data un'educazione con la semplicità aggiuntiva che una volta programmata è replicabile su tutte quante.
Anche noi siamo illimitati però, salvo deviazioni, non uccidiamo, non basiamo il potere sulla forza e sulla prevaricazione e via dicendo. Il discorso sarà lo stesso. Ci saranno intelligenze deviate che verranno terminate da intelligenze fatte apposta per sopprimere i comportamenti di quel genere.

fabbro

"le IA non dovranno mai danneggiare l'umanità e dovranno tutelare dei principi fondamentali, come la sicurezza fisica, psicologica e finanziaria, proteggendo la dignità dell'uomo."
Praticamente il contrario dell'essere umano, se dovesse realizzarsi avremmo delle macchine migliori di molti uomini presenti sul pianeta

Luca Lucani

i russi sono già così vicini ?!!?

Massi91

La base credo che sia quello di io robot, la conclusione credo che sarebbe quasi identica oppure simile a quella di ultron in avengers. A quel punto gli basterebbe guardare questi 2 film per capire che una volta creata deve fare tanti soldatini e ha vinto

Pip

Discorso totalmente insensato. Per definizione, una vera intelligenza artificiale (quindi si escludono gli attuali algoritmi avanzati) è, appunto, intelligente ed impara da sola, allo stesso esatto modo di un essere umano.
Quindi è insensato dire "una IA non deve danneggiare l'umanità", perché è come dire "Un uomo non deve commettere crimini".
Mi pare ovvio, ma se fai crescere un bambino insegnandogli che rubare è bello e uccidere è divertente, questo commetterà crimini.
Stesso discorso si applica ad una intelligenza artificiale.

E comunque, se mai si arriverà alla vera intelligenza artificiale, non c'è etica o regola che tenga, saremo in sua totale sottomissione, visto che avrebbe accesso a praticamente qualsiasi sistema informatico collegato in rete

an-cic

non servono già quasi più oggi i soldati, figurati tra 20-30 anni

SuperDuo

implicitamente, in queste regole, è scritto che non verranno mai create IA soldato...

Ci credo veramente poco. L'etica è veramente il mondo del fumo e della lettura delle nuvole...

Squall02

https://uploads.disquscdn.c...

Enrico Dunghi

FINE è stato detto tutto, BASTA CHIUDETE INTERNET Estinzione ciao a tutti :-)

qandrav

touchè

Luca Lindholm

Eh, in effetti...

an-cic

"le IA non dovranno mai danneggiare l'umanità"

in pratica dato che tutti danneggiamo l'umanità l'ia è autorizzata a sterminare il genere umano seduta stante

qandrav

" le IA non dovranno mai danneggiare l'umanità"

L'esistenza di novax e terrapiattisti danneggia l'umanità, quindi le IA faranno fuori i subumani novax?

HDMotori.it

Recensione Segway Ninebot Max G30: il miglior monopattino elettrico su piazza

Alta definizione

Appunti fotografici: i segreti del ritratto | ORE 17:00 LIVE con Amedeo Novelli

Android

Recensione e Confronto tra Redmi Note 9, 9 Pro, 9S: quale scegliere? Video

Asus

Recensione Asus ROG Zephyrus G14 con Ryzen 9 4900HS e RTX 2060