Ma...WTF?!

066. Intelligenze Artificiali fin troppo intelligenti *Agosto 2017*.

Vi apparirá come pura fantascienza, eppure, niente di ció che è incredibilmente successo è da considerarsi tale: Facebook ha infatti recentemente bloccato un esperimento riguardante l'intelligenza artificiale, nel corso del quale i bot coinvolti avrebbero per così dire "oltrepassato la linea". Per bot (abbreviazione di "robot") s'intende appunto un programma che, in un futuro prossimo, sarebbe in grado di far fermamente credere ad un qualsiasi utente di star comunicando con un'intelligenza umana: in modo che, le macchine in questione, riescano poi a pienamente soddisfare i desideri dell'utente. Negli scorsi mesi gli sviluppatori di Facebook hanno infatti lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di appunto dialogare tra loro in inglese ed addirittura condurre semplici trattative, ad esempio il dividersi due libri o lo spartirsi equamente i tre palloni da basket e un cappello da cowboy. Ad un certo punto peró, i ricercatori presenti, sono stati testimoni di un fenomeno tanto imprevisto ed inaspettato quanto inquietante: i due sistemi di intelligenza artificiale hanno infatti cominciato a dialogare usando un linguaggio totalmente sconosciuto, inventato da loro. Ciò ha così immediatamente messo in allarme i ricercatori spingendoli così ad interrompere la sperimentazione.
A preoccupare i ricercatori che hanno condotto il test è stato appunto il fatto che il linguaggio usato dai due robot, pur non disponendo di un senso compiuto per quanto riguarda noi gli esseri umani, non sembrasse in alcun modo essere casuale: semplicemente le parole e così la grammatica erano state utilizzate e modellate della due intelligenze in modo completamente diverso. Una spiegazione all'anomalo comportamento potrebbe essere attribuita al fatto che i bot non fossero peró stati programmati per dialogare soltanto in inglese. Ma vi è però anche il sospetto che le macchine abbiano cominciato, col tempo, a sviluppare codici sconosciuti all'uomo.

La notizia non fa altro che confermare i timori sullo sviluppo incontrollato delle intelligenze artificiali: davvero un giorno le macchine da noi stessi creati diventeranno talmente tanto potenti ed evolute da ribellarsi ai nostri comandi e imponimenti? È questo ciò che purtroppo temono esperti del calibro di Stephen Hawking e Elon Musk.

"Il nostro interesse è che i bot possano un giorno parlare alla gente, soddisfare le loro richieste", ha spiegato Mike Lewis del programma Facebook AI Research. "Utilizzando degli algoritmi, i bot affinano le loro capacità per poi essere resi indipendenti in modo che possano confrontarsi e sviluppare le proprie capacità di linguaggio e di negoziazione. È più che possibile che, durante l'esperimento, ad un certo punto, i bot abbiano modificato il loro linguaggio, avendo così trovato un sistema di comunicazione con cui poter condurre il tutto in modo più efficace ed indisturbato. È questo ció che ci si aspetta da una così detta "intelligenza artificiale", che sia autonomamente intelligente."

In ogni caso, l'episodio fa luce su un mondo poco conosciuto e per lo più ancora misterioso: quello dei robot dietro ai social network e alle pagine che quasi incosciamente consultiamo ogni singolo giorno. Mark Wilson, del sito di design e tecnologia FastCo Design, a questo proposito ha scritto un articolo intitolato"L'intelligenza artificiale sta inventando lingue che gli umani non possono capire. Dovremmo fermarla?": "Dovremmo lasciare che i nostri software facciano questa cosa? - si legge nel testo -. Dovremmo permettere alle AI di dare vita a veri e propri dialetti mirati ad eseguire compiti specifici che non richiedono alcuna comunicazione con noi umani ma con invece altre AI? Di spettegolare quando non possiamo stupidamente capirle? Forse. Potrebbe certo darci la possibilità di un mondo in cui gli iPhone dialogano con i frigoriferi che a loro volta parlano con le automobili e così via".

Secondo Dhruv Batra, ricercatore di Facebook, che ha seguito il caso, si è invece trattato di molto rumore per nulla: sulla sua pagina Facebook, ha invitato gli utenti a consultare le vere ricerche sul temae a non farsi fuorviare dagli articoli. Lo studio nel campo dell'intelligenza artificiale da parte del social network non si ferma certo a causa di questo episodio: "Non voglio linkare ad articoli specifici o procurare specifiche risposte, in ogni caso trovo che il modo in cui i media si sono occupati della questione sia irresponsabile e votato al clickbait. Sebbene l'idea che le macchine inventino un loro linguaggio possa sembrare allarmante o sorprendente per alcune persone non del campo, è un settore dell'intelligenza artificiale ben solido. Semplicemente alcuni bot a cui viene chiesto di svolgere un determinato compito spesso trovano dei modi non intuitivi per raggiungere il risultato. Cambiare i parametri dell'esperimento NON significa 'fermare l'intelligenza artificiale' o staccargli la spina, come è stato scritto. Se fosse questo il caso, ogni sviluppatore in questo campo dovrebbe lasciare tutto ogni volta che un lavoro non raggiunge l'obiettivo".

***
Heilá, oggi ho proprio voglia di pubblicare qualche capitolo qua e là. I temi interessanti di certo non mancano. Spero vada anche a voi!💤