La storia dei due robot di FB che hanno “inventato” una loro lingua

La spiegazione di Dhruv Batra del laboratorio Facebook AI Research

AGO 1, 2017 -

Roma, 1 ago. (askanews) – “Nonostante l’idea che delle macchine che inventano un nuovo linguaggio per parlare tra loro suoni inaspettata e allarmante per chi non si occupa di Intelligenza artificiale, in realtà si tratta di un aspetto molto ben conosciuto del settore, con pubblicazioni in merito che sono vecchie di decenni”. Lo afferma in un post su Facebook Dhruv Batra, ricercatore del laboratorio Facebook AI Research (FAIR), che getta così acqua sul fuoco in merito alle preoccupazioni seguite alla notizia che due robot avrebbero inventato autonomamente una nuova lingua per comunicare tra loro, tagliando fuori gli esseri umani dalla possibilità di comprenderli. Cosa che avrebbe spaventato i ricercatori al punto da spingerli a spegnere i due sistemi di intelligenza artificiale.

In realtà, quello che è avvenuto è che alcuni sviluppatori di Facebook che stavano lavorando ad un sistema in grado di simulare il nostro modo di conversare in modo da non far capire all’interlocutore di avere a che fare con una macchina (aspetto, questo, evidentemente molto utile nel campo dei social network), hanno programmato dei “bot” (robot o sistemi di Intelligenza artificiale) capaci di dialogare tra loro in inglese e condurre semplici trattative. A un certo punto i due sistemi hanno cominciato a parlare un nuovo linguaggio, inventato da loro, utilizzando le parole in un modo diverso dal nostro. Gli sviluppatori hanno presto capito che questo era avvenuto perché non avevano imposto ai sistemi di dialogare esclusivamente in inglese. Quando hanno modificato il programma in modo che lo facessero, i due bot hanno smesso di usare il loro incomprensibile linguaggio. A un certo punto i bot hanno cambiato il loro linguaggio perché hanno trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace. È una cosa che fanno abituialmente anche le persone in carne e ossa, mei contesti in cui è più facile e veloce usare dei codici “esoterici”.

“In poche parole – prosegue Batra -, degli agenti impegnati a risolvere un compito in un dato ambiente spesso troveranno modi non intuitivi per massimizzare il risultato. L’analisi della funzione di ricompensa e la modifica dei parametri di un esperimento non vuol dire ‘scollegare’ o ‘spegnere l’Intelligenza artificiale”. Se questo fosse il caso, ogni ricercatore del settore ha “spento l’Intelligenza artificiale” ogni volta che ha fatto terminare un lavoro ad una macchina.

Sam/Int2