Risposte imprecise e fuorvianti per lo strumento che dovrebbe supportare le richieste di residenti e imprenditori
Secondo un rapporto di The Markup, il chatbot AI rilasciato dal governo di New York per aiutare gli imprenditori ad accedere a informazioni pertinenti ha diffuso falsità, a volte informando male gli utenti su azioni contrarie alla legge. Il rapporto, pubblicato in collaborazione con le redazioni no-profit locali Documented e The City, include numerosi esempi di inesattezze nelle risposte del chatbot a domande relative alle politiche abitative, ai diritti dei lavoratori e ad altri argomenti. L’amministrazione del sindaco Adams ha introdotto il chatbot in ottobre come aggiunta al portale MyCity, lanciato nel marzo 2023 come “uno sportello unico per servizi e vantaggi cittadini”. Il chatbot, basato sull’intelligenza artificiale di Azure di Microsoft, è rivolto agli attuali e aspiranti imprenditori ed è stato pubblicizzato come una fonte di “informazioni utilizzabili e affidabili” che provengono direttamente dai siti del governo della città. Ma si tratta di un programma pilota e un disclaimer sul sito Web rileva che “potrebbe occasionalmente produrre contenuti errati, dannosi o distorti”.
Un esperto di politica abitativa che ha parlato con The Markup ha definito il chatbot “pericolosamente impreciso” nel peggiore dei casi. La città ha indicato che il progetto è ancora in fase di elaborazione. In una dichiarazione a Engadget, Leslie Brown, portavoce dell’Ufficio di Tecnologia e Innovazione di New York, ha dichiarato: “In linea con i principi chiave della città di affidabilità e trasparenza riguardo all’intelligenza artificiale, il sito informa gli utenti che il prodotto beta pilota chiaramente contrassegnato dovrebbe essere solo utilizzato per contenuti aziendali, informa gli utenti che ci sono rischi potenziali e li incoraggia tramite una dichiarazione di non responsabilità a ricontrollare le risposte con i collegamenti forniti e a non utilizzarli come sostituti della consulenza professionale”. Il sito ha già fornito a migliaia di persone risposte tempestive e precise e offre un’opzione di feedback per contribuire a promuovere continui miglioramenti dello strumento beta. “Continueremo a concentrarci sull’aggiornamento di questo strumento in modo da poter supportare meglio le piccole imprese in tutta la città” ha concluso Brown.
