Facebook interrompe l'esperimento dopo che l'intelligenza artificiale ha inventato il proprio linguaggio
I ricercatori chiudono il progetto dopo che le macchine hanno sviluppato un proprio modo di comunicare incomprensibile agli umani
I robot intelligenti svolgono un numero crescente di ruoli
Getty Images
Bob: posso io tutto il resto . . . . . . . . . . . . .
Alice: le palle hanno zero a me a me a me a me a me a me a
Bob: tu io tutto il resto. . . . . . . . . . . . . .
Alice: palle avere una palla a me a me a me a me a me a me
Bob: posso io tutto il resto . . . . . . . . . . . . .
Alice: palle avere una palla a me a me a me a me a me a me
Nonostante sembri il copione di una sitcom televisiva davvero terribile, questa conversazione è avvenuta in realtà tra due programmi di Intelligenza Artificiale, sviluppati all'interno di Facebook per perfezionare l'arte della negoziazione.
All'inizio i due si parlavano in un inglese semplice. Ma poi i ricercatori si sono resi conto di aver commesso un errore nella programmazione delle macchine.
'Non c'era alcuna ricompensa nel restare fedeli alla lingua inglese', ha detto Dhruv Batra, ricercatore in visita della Georgia Tech presso Facebook AI Research (Fair) FastCo .
Poiché questi due agenti erano in competizione per ottenere l'affare migliore, 'nessuno dei due è stato offerto alcun tipo di incentivo per parlare come farebbe una persona normale', afferma FastCo.
Così iniziarono a divergere, finendo per riorganizzare parole comprensibili in frasi apparentemente prive di senso, causando la sospensione dell'esperimento.
Facebook ha dovuto chiudere un'IA perché ha sviluppato un proprio linguaggio pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31 luglio 2017
'Gli agenti (oi programmi) si allontaneranno da un linguaggio comprensibile e inventeranno parole in codice per se stessi', ha spiegato Batra. 'Ad esempio, se dico 'il' cinque volte, lo interpreti nel senso che voglio cinque copie di questo articolo. Non è molto diverso dal modo in cui le comunità umane creano abbreviazioni.'
Ma i ricercatori hanno tenuto a sottolineare che l'esperimento non è stato abbandonato a causa di eventuali preoccupazioni sugli effetti potenzialmente negativi della comunicazione dei robot.
Il ricercatore equo Mike Lewis ha detto a FastCo che avevano semplicemente deciso che 'il nostro interesse era avere robot in grado di parlare con le persone', non in modo efficiente tra loro, e quindi hanno deciso di richiedere loro di scriversi in modo leggibile.
Questa non è la prima volta che le macchine di intelligenza artificiale sono apparse per creare il proprio linguaggio.
Nel novembre dello scorso anno, Google ha rivelato che l'intelligenza artificiale che utilizza per il suo strumento di traduzione aveva creato una propria lingua, che avrebbe tradotto frasi in entrata e in uscita prima di consegnare le parole nella lingua di destinazione.
Reporting sullo sviluppo al momento, Tech Crunch ha detto: 'Questa 'interlingua' sembra esistere come un livello più profondo di rappresentazione che vede somiglianze tra una frase o una parola.'
'Potrebbe essere qualcosa di sofisticato, o potrebbe essere qualcosa di semplice', ha aggiunto il sito web, ma 'il fatto che esista del tutto - una creazione originale del sistema per aiutare nella sua comprensione di concetti che non è stato addestrato a capire — è, filosoficamente parlando, roba piuttosto potente».
Questi recenti sviluppi hanno portato a discussioni etiche sui potenziali problemi delle macchine che comunicano tra loro senza l'intervento umano.
'Nel caso di Facebook, l'unica cosa che i chatbot erano in grado di fare era trovare un modo più efficiente di fare trading', afferma Gizmodo .
Ma ci sono 'probabilmente buone ragioni per non lasciare che le macchine intelligenti sviluppino il proprio linguaggio che gli esseri umani non sarebbero in grado di comprendere in modo significativo', aggiunge il sito web.
'Speriamo che anche gli esseri umani siano abbastanza intelligenti da non collegare programmi sperimentali di apprendimento automatico a qualcosa di molto pericoloso, come un esercito di androidi armati di laser o un reattore nucleare'.
