La social app più apprezzata del momento per quel che riguarda la condivisione delle foto, Instagram, ha annunciato l’introduzione di nuovi strumenti finalizzati a rendere più sicura la community dei suoi utilizzatori, in modo che sia possibile esprimersi senza pressioni o costrizioni: nello specifico, il team di Kevin Systrom ha implementato un meccanismo contro i commenti offensivi, ed uno contro lo spam.
L’hate speech, il cyberbullismo, ed i “flame”, sono dei problemi molto sentiti sulle piattaforme di interazione online. Non stupisce, quindi, che Instagram abbia deciso di affrontare questi fenomeni con un nuovo filtro anti commenti offensivi: per ottenerlo, ci si è basati su un’intelligenza artificiale cui sono stati dati in pasto 2 milioni di commenti, aiutandola a distinguere quelli ironici e sarcastici grazie a dei consulenti umani. Il risultato è stato che non appena si nota un commento offensivo, in calce a un post o a un video, l’elemento incriminato viene automaticamente nascosto, senza che il relativo autore lo sappia (evitando ritorsioni o sindromi da censura).
Attualmente, questo filtro smart – già messo a disposizione degli utenti – funziona solo con la lingua inglese ma, nei prossimi mesi, estenderà il suo raggio d’azione ad almeno 8 lingue. Nel frattempo, la sua efficienza (ad oggi vi è solo l’1% di falsi positivi) crescerà costantemente, grazie al machine learning, ed all’esperienza maturata sul campo.
Oltre a questa novità, Instagram ne ha annunciato anche un’altra, relativa allo spam. In questo caso si tratta di un filtro che, sempre in calce ai post o alle dirette, rimuove tutti quei commenti che contengono spam o pubblicità: il range d’azione di questa implementazione è, però, più ampio sin dall’inizio, visto che cotal filtro è in grado di riconoscere elementi in diverse lingue (arabo, russo, cinese, giapponese, tedesco, francese, spagnolo, portoghese, inglese).
Anche in questo caso, Instagram conta di aggiungere nel più breve tempo possibile il supporto ad ulteriori lingue, a beneficio di un numero sempre crescente di utenti.