Perché Facebook ha bloccato l’esperimento sull’IA

Se al supermercato vi accorgeste che la bilancia con cui il salumiere vi sta pesando qualcosa fosse tarata male, che fareste? Lo fermereste e gli chiedereste di ripetere la taratura oppure comincereste ad allarmare gli altri riguardo l’inflazione improvvisa che incombe sul mercato?

La maggior parte dei nostri media sembra preferirebbero la seconda scelta, probabilmente perché fa più notizia. Alice e Bob, di cui vedete il dialogo insensato nell’immagine, sono i nomi di due intelligenze artificiali sviluppate dal team di Facebook che si occupa dell’IA.

Queste due intelligenze erano state programmate per svolgere una contrattazione, discutendo della distribuzione di alcuni oggetti. Ma erano state programmate con un errore nel codice, avendo impostato come facoltativa la capacità di mantenere il dialogo in un inglese corretto. Queste hanno allora iniziato ad utilizzare una lingua che per loro fosse più efficiente, a scapito della correttezza grammaticale e sintattica, portando al dialogo per noi no-sense che vedete in figura.

Allora gli sperimentatori hanno bloccato l’esperimento, perché avevano bisogno che il dialogo rimanesse coerente e comprensibile.

NON lo hanno fatto per paura di un futuro distopico stile “Io, Robot” o “2001: Odissea nello Spazio”, come hanno preferito dire in molti.

Condividete questo post per cercare di bilanciare un po’ l’ondata di allarmismo!