De chatbot van de overheid van New York adviseert bedrijven om wetten te overtreden

Bij de nieuwe AI-chatbot van New York City, die bedoeld is om bedrijven te helpen bij het navigeren door de strenge regelgeving van de stad, lijken een paar schroefjes los te zitten.

De chatbot, die afgelopen oktober werd gelanceerd, is een hulpmiddel dat door het stadsbestuur is goedgekeurd om als advies- en referentiepunt te dienen voor bedrijven binnen de gemeente. Hoewel de bot voor velen een nuttige hulpbron is geweest, zijn er talrijke gevallen geweest waarin hij een vraag beantwoordde met mogelijk misleidende of ronduit illegale antwoorden.

Iemand vroeg de chatbot bijvoorbeeld of een restaurant kaas mocht serveren die gedeeltelijk door een rat was opgegeten. De bot antwoordde dat, ja, "u de kaas nog steeds aan klanten kunt serveren als er rattenbeten in zitten," volgens The Star. De bot voegde er ook aan toe dat het bedrijf "klanten over de situatie moet informeren".

Andere reacties die in strijd zijn met de voorschriften van New York City zijn onder andere dat bedrijfseigenaren een deel van de fooien van hun werknemers mogen aannemen (wat illegaal is), dat ze de prijzen van begrafenisdiensten mogen verdoezelen (wat verboden is door de Federal Trade Commission) en dat ze mogen weigeren om contante betalingen in een winkel te accepteren (wat sinds 2020 verplicht is in New York City).

Er moet worden opgemerkt dat geen enkele AI chatbotdienst 100% accuraat is, en dat zelfs menselijke werknemers fouten kunnen maken. De mislukkingen van de chatbot (hoe beperkt ook) vormen echter een interessant raadsel voor bedrijfseigenaren in New York City. Sinds de stad de chatbot officieel heeft goedgekeurd, is de kwestie van aansprakelijkheid aan de orde gesteld, mocht een bedrijfseigenaar het recept van de bot opvolgen.

Microsoft, die het Azure AI-framework voor de New York City chatbot leverde, verklaarde dat het de bot aan het aanpassen was om "ervoor te zorgen dat de output nauwkeurig is en gebaseerd op de officiële documentatie van de stad," volgens The Star.

De burgemeester van New York, Eric Adams, verdedigde de chatbot tijdens een persconferentie eerder deze week, waarbij hij zei:

Iedereen die technologie kent, weet dat dit is hoe het moet. Alleen degenen die bang zijn gaan zitten en zeggen: "Oh, het werkt niet zoals we willen, nu moeten we er helemaal van weglopen." Zo leef ik niet.

Bij het ter perse gaan werkt de chatbot nog steeds.

Koop een Amazon Echo Dot (5e generatie) bij Amazon.