Un sistema automatico analizza il testo, per invitare a un’eventuale modifica. Servirà a fermare i bulli?
Instagram ha annunciato il lancio di una nuova funzionalità nel suo continuo tentativo di frenare il bullismo: l’intelligenza artificiale avviserà gli utenti prima di pubblicare una didascalia potenzialmente offensiva a corredo dei loro post. In particolare, se la didascalia contiene una parola considerata in una sorta di black list, l’IA lo segnalerà, avvertendo che il testo somiglia a qualcosa di “simile ad altri contenuti segnalati”.
Questo ci darà la possibilità di modificare, “saperne di più” (con un pop-up che ripete le stesse informazioni) e condividere comunque il post, prendendosi tutte le responsabilità del caso. Si tratta di una prima estensione di un progetto globale, che vedrà la piattaforma lavorare a fondo per migliorare l’analisi dei contenuti pubblicati.
Più corretto
L’idea di instagram è che se alla persona che sta per pubblicare viene detto che ciò che sta scrivendo è offensivo, avrà la possibilità di riformulare ciò che ha scritto, ripensandoci. Considerando quanto il social sia popolare tra il pubblico più giovane, l’obiettivo è anche di sensibilizzare alcuni utenti sulla reale conseguenza di una condivisione. Questo scoraggerà chiunque voglia pubblicare qualcosa di offensivo?
Forse no ma provare a farlo non costerà nulla. In un certo senso, si prende una direzione che è eticamente corretta: nessuna censura di default ma un diritto alla modifica sotto suggerimento. Probabilmente, dopo un eventuale post offensivo e seguente segnalazione la piattaforma interverrà comunque, ma avverrà comunque tutto in un secondo momento, dopo un tipo di libero arbitrio.
In precedenza, la società aveva implementato la sua funzione Restrict in ottobre, che sostanzialmente consente di bloccare un bullo o molestatore dalla pagina a loro insaputa. Ancora una volta, suona bene ma non fa molto per arrivare alla radice del problema. Secondo Instagram, questa funzione verrà implementata globalmente nei prossimi mesi.
