Facebook spegne un'IA che aveva creato una lingua propria

Geronimo Vena
Agosto 1, 2017

I bot da loro costruiti hanno dimostrato tutto il loro potenziale sviluppando un linguaggio senza bisogno di nessun imput umano. In una lingua sconosciuta, nuova, e che gli uomini non sono in grado di capire. A quanto pare, anche di rendersi indipendenti dai loro creatori. Negli scorsi mesi gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative, per esempio quelle per dividersi due libri, tre palloni da basket e un cappello da cowboy. "Forse, ciò offrirebbe la possibilità di sviluppare un mondo più interoperabile, un posto più adatto a far sì che un iPhone parli ad un frigorifero che parla con la tua auto senza preoccupazione" - si sono chiesti alcuni membri del team, che sono giunti però alla conclusione che ciò non apporterebbe alcun beneficio al dialogo tra umani e macchine così come potrebbe aprire a scenari complicati dovuti sostanzialmente alla mancanza di conoscenza di quale sia il vero processo che regola il pensiero delle macchine così come il suo grado di profondità. Al laboratorio di ricerca sull'intelligenza artificiale di Facebook (il FAIR), scienziati e ingegneri si sono ritrovati in una situazione tra lo stupefacente e l'inquietante. È possibile che, durante l'esperimento, ad un certo punto i bot abbiano cambiato il loro linguaggio, avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace. Dovremmo fermarla?": "Dovremmo lasciare che i nostri software facciano questa cosa? - si legge nel testo -. Dovremmo permettere alle AI di costruire i propri dialetti per eseguire compiti specifici che richiedono una comunicazione con altre AI? Di spettegolare quando non possiamo capirle? Quello a cui Wilson fa riferimento è il modo in cui attualmente diversi dispositivi tecnologici comunicano tra loro: succede grazie alle interfacce di programmazione delle applicazioni, più comunemente chiamate API dall'acronimo inglese, che sono dei software "ponte" tra vari sistemi.

A preoccupare gli sviluppatori che hanno condotto il test è stato il fatto che il linguaggio usato dai bot, pur non avendo un senso compiuto per gli esseri umani, non sembrava essere casuale: semplicemente le parole erano state utilizzate dalle intelligenze artificiali in modo diverso.

Altre relazioni OverNewsmagazine

Discuti questo articolo

SEGUI I NOSTRI GIORNALE