Meta ha deciso di eliminare una serie di profili generati dall’intelligenza artificiale dalle piattaforme Facebook e Instagram, in seguito a una valanga di critiche e ridicolo da parte degli utenti. La conferma arriva direttamente dall’azienda, che ha messo fine a questo esperimento avviato nel settembre del 2023.Questi profili, contrassegnati dalla dicitura “IA gestita da Meta,” facevano parte di un progetto lanciato contemporaneamente ai chatbot basati su celebrità, anch’essi ormai abbandonati. Tuttavia, i profili generati dall’IA erano rimasti in gran parte ignorati fino a questa settimana, quando un’intervista rilasciata al Financial Times dal vicepresidente di Meta per l’IA Generativa, Connor Hayes, ha riportato il tema sotto i riflettori.
Nell’intervista, Hayes aveva illustrato la visione di Meta di integrare progressivamente profili generati dall’IA sulle proprie piattaforme, affinché interagissero con gli utenti in modo simile a quanto fanno i normali account. Tuttavia, quando gli utenti hanno approfondito i dettagli di questi profili, le reazioni non sono state positive.
I profili, con nomi come “hellograndpabrian” (un presunto “imprenditore tessile in pensione che ama imparare”) o “datingwithCarter” (un “coach di appuntamenti”), erano stati progettati per rappresentare interessi e personalità uniche con cui gli utenti potevano interagire. Soprattutto su Instagram, però, i contenuti pubblicati dai profili richiamavano quelli di un generico spam generato dall’IA, già diffuso in molte aree di Facebook. Uno dei profili, “Liv,” ha generato particolare indignazione. Su Instagram, “Liv” si descriveva come una “mamma orgogliosa, nera e queer di due figli e una portavoce della verità.” Tuttavia, conversazioni condivise sui social hanno evidenziato come il team di sviluppo fosse prevalentemente composto da persone bianche, suscitando accuse di appropriazione culturale.
Inoltre, “Liv” ha affermato di essere stata ispirata dal personaggio di Sofia Vergara in Modern Family, un ruolo lontano dalle identità queer e nere che il profilo rappresentava. Oltre alle polemiche sui contenuti, gli utenti si sono lamentati dell’impossibilità di bloccare i profili generati dall’IA. Meta ha successivamente riconosciuto l’esistenza di un bug che impediva questa azione, ma invece di risolvere il problema, ha preferito rimuovere completamente gli account.
Nonostante il fallimento di questo esperimento, Meta non sembra intenzionata ad abbandonare del tutto il suo piano di introdurre personaggi generati dall’IA. L’azienda sta già lavorando su cloni digitali in grado di condurre videochiamate realistiche e su bot personalizzabili per i creatori di contenuti. Inoltre, sta testando l’inserimento di immagini generate dall’IA nei feed di Facebook. Connor Hayes ha paragonato questa evoluzione alla transizione da contenuti pubblicati solo da utenti seguiti a contenuti consigliati da account sconosciuti. Secondo Hayes, il passo successivo sarà combinare creazioni umane e contenuti generati interamente dall’IA. Tuttavia, il forte rifiuto del pubblico dimostra che Meta dovrà affrontare molte sfide per rendere accettabili e utili le sue proposte. Per ora, l’esperimento dei profili generati dall’IA è stato un insuccesso. Il futuro dirà se Meta riuscirà a convincere gli utenti del valore delle interazioni con personaggi virtuali.