Bedrijven beteugelen het gebruik van AI met verwijzing naar hoge tokenkosten

Nog niet zo lang geleden waren er krantenkoppen in overvloed over een beweging van leidinggevenden om aan te moedigen dat AI zoveel mogelijk gebruikt werd om de productiviteit te verbeteren, vaak terwijl er ook werknemers ontslagen werden. Het meest beruchte voorbeeld van die mentaliteit op het werk was van Nvidia CEO Jensen Huang, die verklaarde dat hij zich ernstig zorgen zou maken als Nvidia-ingenieurs niet de helft van hun salaris van $500K aan AI-tokens zouden verbranden om de klus te klaren. Hij ging zelfs zo ver dat hij het vergeleek met een chipontwerper die papier en potlood gebruikt in plaats van CAD.

Hier in de realiteit blijkt dat dit een schandalig dure manier is om een bedrijf te runnen, zelfs als u werknemers ontslaat om ervoor te betalen, en megaconcerns zoals Microsoft, Uber, Meta en Amazon zijn de overdaad aan "tokenmaxxing" aan het inperken Hoewel de eerste twee het gebruik van AI directer aan banden leggen (Microsoft heeft de meeste licenties voor Claude Code geannuleerd en Uber-chef Andrew Macdonald zegt dat het "steeds moeilijker wordt om" AI-uitgaven te rechtvaardigen), hebben de laatste twee niet ronduit gezegd dat AI te duur is of dat ze het aan banden leggen. Wat we hebben gezien als reactie op het uitlekken van interne tokenoverzichten voor AI-gebruik, is dat die overzichten zijn verwijderd, wat betekent dat tokenmaxxing niet langer wordt aangemoedigd bij die bedrijven.

Het gaat ook om meer dan alleen Big Tech. Volgens Gizmodo deelde een anonieme AI-consultant Axios mee dat een van zijn klanten per ongeluk een half miljard USD in één maand had uitgegeven door het gebruik van Claude voor zijn werknemers niet te beperken. We hebben ook gemengde rapporten gezien over AI-gebruik dat de productiviteit daadwerkelijk verbetert: een rapport van OpenAI geeft slechts productiviteitsverbeteringen van "een uur per dag" aan en een MIT-studie van 350 openbare implementaties geeft aan dat 95% ervan geen winst maakt of prestatiedoelen haalt.

Dit is een interessante wending in het gesprek over AI in het bedrijfsleven, en inderdaad een die de woorden van fanatiekelingen die profiteren van de invoering ervan ten koste van bestaande werknemers, sterk tegenspreekt. Vooral op bedrijfsniveau is AI niet gratis.