Nel tentativo di ridurre la discriminazione la società ha promesso il sistema come parte di un nuovo accordo negli Usa
Meta al lavoro per ridurre la discriminazione pubblicitaria attraverso la tecnologia. L’azienda sta implementando un sistema di riduzione della varianza (VRS) negli Stati Uniti che garantisce che il pubblico reale di un annuncio corrisponda maggiormente a quello di destinazione idoneo, senza rivolgersi ingiustamente verso determinati gruppi culturali. Una volta che un numero sufficiente di persone ha visto un annuncio, un sistema di apprendimento automatico confronta i dati demografici aggregati degli spettatori con quelli che i professionisti del marketing intendevano raggiungere.
Quindi modifica il valore dell’asta dell’annuncio (ovvero la probabilità che si veda l’annuncio) per mostrarlo più o meno spesso a determinati gruppi. VRS continua a funzionare durante l’esecuzione di un annuncio. Meta è consapevole dei potenziali problemi di privacy tanto da spiegare che il sistema non può vedere l’età, il sesso o l’etnia stimata di un individuo. La tecnologia della privacy differenziale introduce anche il “rumore” che impedisce all’intelligenza artificiale di apprendere le informazioni demografiche individuali nel tempo. Il metodo antidiscriminatorio si applicherà inizialmente agli annunci immobiliari.
La novità arriva dopo più di un anno di lavoro a fianco sia del Dipartimento di Giustizia che del Dipartimento per l’edilizia abitativa e lo sviluppo urbano. Meta (allora Facebook) è stata accusata nel 2019 di aver consentito la discriminazione negli annunci immobiliari consentendo agli inserzionisti di escludere determinati dati demografici, compresi quelli protetti dal Fair Housing Act. In un accordo del giugno 2022, il gigante dei social media ha affermato che avrebbe implementato VRS ed eliminato lo strumento “Pubblico pubblicitario speciale” il cui algoritmo avrebbe portato alla discriminazione. Meta non è l’unica a cercare di limitare gli annunci discriminatori. Google ha impedito agli inserzionisti di prendere di mira annunci di credito, alloggi e lavoro a partire dal 2020.
