La testata online TheMarkup ha recentemente denunciato il malfunzionamento di MyCity, il chatbot AI della città di New York voluta dall’attuale sindaco Eric Adams e sviluppato in collaborazione con Microsof. Il chatbot, lanciato a ottobre e presentato come strumento a disposizione dei cittadini per rispondere a domande su attività commerciali e business nella città, ha commesso una serie di errori nelle sue consulenze, fornendo risposte false in opposizione a codici e leggi locali.
Tra le diverse risposte errate i giornalisti investigativi di TheMarkup hanno segnalato che, ad esempio, MyCity ha erroneamente indicato che fosse legale per i datori di lavoro impossessarsi delle mance dei dipendenti e ha sostenuto che non ci fosse nessun obbligo di informare i dipendenti sui cambiamenti nei turni di lavoro, entrambi i casi non corrispondenti alla realtà.
Inoltre, il chatbot ha erroneamente indicato che i negozi potevano accettare solo pagamenti con carte, violando una legge municipale che dal 2020 obbliga le attività ad accettare anche pagamenti in contanti. In un’altra risposta, il chatbot non è apparso aggiornato, facendo riferimento a una paga minima oraria di $15, mentre dal 2024 è salita a $16.
Il sindaco ha riconosciuto gli errori, spiegando che sono stati risolti, e ha sottolineato l’importanza di testare la tecnologia nella vita reale per migliorarne l’efficacia. Tuttavia, il chatbot continua a presentare problemi e sul sito è stata aggiunta un’avvertenza che segnala la possibilità di risposte inesatte o incomplete, invitando gli imprenditori a non considerare l’AI come fonte di consigli legali o professionali e ad andare a controllare la veridicità delle informazioni fornite.
M.T.