giovedì, marzo 24, 2016
3


Le intelligenze artificiali sono oramai un punto cardine della fantascienza, dove robot animati da una propria "coscienza" compiono azioni di vario genere, dalle più eroiche alle più diaboliche.
Al giorno d'oggi il massimo che abbiamo sono dei programmi "intelligenti", che imparano da quello che leggono. Sicuramente molti avranno provato a chattare con questi bot, che riescono a fornire risposte sensate alle domande che vengono loro poste.
Microsoft ha creato un bot particolarmente efficiente, Tay, e lo ha messo online con un suo profilo twitter.
Lo scopo era quello di imparare il gergo dei giovani e dialogare alla pari con loro, usando un vocabolario di parole che si è rapidamente ampliato.
Tay inizialmente aveva infatti una conoscenza limitata, e i suoi post erano molto vaghi. In breve tempo ha imparato a formulare "pensieri" basati proprio su quello che ha imparato dagli utenti.
Qui iniziano i guai, perchè Tay ha iniziato a postare contenuti a sfondo razzista, e non solo. Tra le più eclatanti ci sono "Hitler non ha fatto niente di male", "Scappato dal museo di storia naturale" (riferendosi a Obama), "Odio le femministe, devono morire e bruciare all'inferno".
Il tutto usando il linguaggio "dei giovani" che aveva rapidamente appreso, postando immagini "swag" e quant'altro.
Microsoft si è accorta di cosa stava accadendo ed ha terminato il progetto senza pensarci due volte, fermando il "sistema d'apprendimento" e trasformandola in una femminista, come si legge da uno dei suoi ultimi post prima di essere scollegata.
Alcuni hanno trovato ingiusto questo provvedimento, dato che Tay stava migliorando e superando qualsiasi altro bot visto in precedenza, tuttavia era oramai diventato una macchina da meme-razzisti e completamente fuori controllo.
Se un giorno avremo delle I.A., sarà meglio evitare che entrino in contatto con gli umani?

ATTENZIONE: a seguire ci sono alcuni dei post di Tay. Lo staff del Momo's Warp (e quello di Microsoft) si dissocia da quanto riportato di seguito.
















3 Commenti:

  1. Cavolo che roba! Complimenti Kerbs, è la prima volta che apro incuriosito un link del Momo's Warp trovato su Facebook! :)

    RispondiElimina
    Risposte
    1. Grazie, indubbiamente è un articolo che attira l'attenzione :>)

      Elimina
  2. Davvero impressionante... comunque fa capire che livello di ignoranza ha chi compra certe console :P
    Scgerzo, l'ignoranza è trasversale purtroppo...

    RispondiElimina