Seleziona una pagina

La “Prima Legge della Robotica” ideata da Isaac Asimov è stata infranta. L’artista-cibernetico Alexander Reben crea il primo robot – chiamato The First Law – che sceglie se ferire o no l’essere umano. Una povocazione per discutere sui rischi connessi allo sviluppo dell’intelligenza artificiale.

 

“Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno” – I Legge della Robotica.

 

Per la prima volta nella storia dell’uomo una delle 3 leggi della robotica di è stata violata. Formulate da Isaac Asimov, uno dei padri della narrativa fantascientifica, le tre leggi della robotica furono pubblicate per la prima volta nel 1942 nel racconto “Circolo vizioso”, apparso sulla rivista specializzata statunitense Astounding Science Fiction and Fact. Queste leggi costituiscono il basi dell’Intelligenza Artificiale, sono principi rigidi, da non trasgredire, teorizzati per rassicurare l’umanità sulle buone “intenzioni” dei robot.

"Prima legge della robotica"

“Prima Legge della Robotica”: ‘Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno’.

“Seconda Legge della Robotica”: ‘Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge’.

“Terza legge della Robotica”: Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge. 

Alexander Reben, ingegnere dell’Università di Berkeley, ha creato un robot che può decidere se infliggere dolore a una persona. Il robot è stato chiamato The First Law, in quanto viola la“Prima Legge della Robotica”, quella che dice che un robot non può fare del male a un umano. L’ingegnere, oltre che esperto di robotica, si definisce un artista.

The First Law consiste in un braccio meccanico e una piattaforma su cui l’utente deve inserire un dito. A questo punto l’intelligenza artificiale deciderà arbitrariamente come procedere. Potrà azionare un ago per pungere il dito della persona, ferendola, oppure non fare assolutamente nulla. Per realizzare il robot sono serviti appena 200 dollari e 3 giorni di lavoro. L’obiettivo di Reben non è la commercializzazione della macchina, ma l’apertura di un dibattito sulle intelligenze artificiali.

La provocazione è volta a evitare che l’uomo si costruisca, da solo, un futuro alla Terminator. “La vera preoccupazione sull’intelligenza artificiale è che possa andare fuori controllo“, ha dichiarato Reben. “I giganti hi-tech dicono che al momento non è possibile, ma pensiamoci ora prima che sia troppo tardi. Vi sto dimostrando che i robot nocivi possono esistere, adesso. Dobbiamo assolutamente confrontarci su questo“.

L’idea dell’ingegnere statunitense non sembra così folle se si pensa alla notizia di pochi giorni fa di un team di Google che sta lavorando a un “pulsante rosso” di emergenza, un ‘kill switch’. Questo servirà per “arrestare” le azioni nocive dell’intelligenza artificiale. Una soluzione che permetta all’uomo di prendere il controllo di una AI nel caso faccia qualcosa di sbagliato e contemporaneamente impedisca al robot di disobbedire a questo comando.

Sarà interessante sentire ciò che viene proposto per il kill switch, commenta Reben. “Perché un robot non può essere in grado di annullare il suo kill switch se è diventato tanto intelligente?“. Uno degli aspetti più preoccupanti del robot The First Law è che sia in grado prendere una decisione che il creatore non può prevedere.Non so chi pungerà. È interessante, causa dolore senza uno scopo utile. Ci stiamo muovendo in una questione etica, robot che sono costruiti per fare cose che sono eticamente discutibili“.

Che questo sia il primo passo verso un’apocalisse robot? Non credo. Ma di sicuro la notizia fa pensare.

 

 

http://areben.com/

http://madeinitaly.tekla.tv/un-tasto-rosso-per-disattivare-le-macchine/

https://it.wikipedia.org/wiki/Analog_Science_Fiction_and_Fact

https://it.wikipedia.org/wiki/Circolo_vizioso_(Asimov)

http://www.robotiko.it/le-tre-leggi-della-robotica/

https://it.wikipedia.org/wiki/Terminator_(film)

http://www.tomshw.it/news/robot-ferisce-umano-the-first-law-si-fa-beffe-di-asimov-77882

https://it.wikipedia.org/wiki/Isaac_Asimov

http://www.repubblica.it/tecnologia/2016/06/13/news/robot_asimov-141947940/

http://www.diregiovani.it/2016/06/14/38914-robot-puo-ferire-uomo-prima-legge-robotica-infranta.dg/