Un algoritmo su Facebook ha chiesto a un certo numero di utenti se vorrebbero guardare più video di scimmie sotto un video tabloid britannico che mostra persone di colore, ha rivelato ieri il New York Times. Il videoclip - riportato dal Daily Mail più di un anno fa - mostra un uomo bianco che chiede aiuto alla polizia contro gli uomini di colore, e compaiono solo persone e non ci sono scimmie.
Ma la cosa strana è la domanda della piattaforma nella sezione dei consigli sul desiderio degli utenti di "guardare più video di scimmie", e ha dato loro la scelta tra accettare e rifiutare, secondo uno screenshot pubblicato su Twitter dall'ex designer di social network Darcy Groves. "È scandaloso", ha scritto Groves nel suo commento, invitando i suoi ex colleghi di Facebook a sollevare la questione. Una portavoce di Facebook ha dichiarato - in una dichiarazione all'Agence France-Presse - "Questo è chiaramente un errore inaccettabile", aggiungendo: "Ci scusiamo con tutti coloro che hanno visto queste raccomandazioni offensive". Ha spiegato che Facebook ha disattivato rapidamente lo strumento di raccomandazione in questa materia "non appena ha scoperto cosa è successo, al fine di indagare sulle cause del problema e prevenirne il ripetersi".
"Come abbiamo detto, anche se abbiamo apportato miglioramenti ai nostri sistemi di intelligenza artificiale, sappiamo che non è perfetto e dobbiamo fare ulteriori progressi" in questo settore, ha aggiunto. Il caso mette in luce i limiti delle tecniche di intelligenza artificiale che la rete adotta regolarmente, cercando di adattare il proprio servizio alle preferenze di ciascuno dei suoi 3 miliardi di utenti mensili. Facebook utilizza ampiamente queste tecnologie anche nella moderazione dei contenuti, per monitorare e bloccare post e foto problematici anche prima che gli utenti li vedano, ma contro la rete e i suoi concorrenti vengono regolarmente mosse accuse di non combattere il razzismo e altre forme di odio e discriminazione.
Fonte: francese
