Amerikaanse banken en Amazon blokkeren AI-agenten zoals Muse van Meta

Steeds meer Amerikaanse banken blokkeren AI-agenten die namens klanten proberen in te loggen. Charles Schwab-CEO Rick Wurster vertelde Bloomberg TV op 16 oktober dat de broker elke week tientallen pogingen van grote AI-agenten tegenhoudt om toegang te krijgen tot het geld van klanten. Hij krijgt daar wekelijks een rapport over. De enige die hij bij naam noemde, was Muse, de persoonlijke agent van Meta die winkelt, formulieren invult en reizen boekt.

Schwab en JPMorgan verhinderen dat agenten geld verplaatsen

Schwab sluit externe AI niet volledig buiten. Externe modellen zullen via de eigen MCP-servers van het bedrijf saldi kunnen controleren en onderzoeksrapporten kunnen ophalen, maar ze kunnen er geen geld verplaatsen. Voor al het andere verwijst Schwab klanten naar zijn interne assistent, Charley. Volgens Wurster draait het om aansprakelijkheid. "Wij hebben er geen controle over, de klant heeft er geen controle over, er kan iets misgaan en wie is er dan aansprakelijk?" zei hij.

JPMorgan-CEO Jamie Dimon trok dezelfde grens tijdens de bespreking van de kwartaalcijfers van de bank op 13 oktober. "We gaan niet zomaar elke externe agent binnen het bedrijf toelaten", zei hij. "Je wilt geen ongeleide agenten." Een woordvoerder vertelde Fortune dat de bank elke agent van derden weigert die probeert in te loggen met de bankinloggegevens van een klant. Gegevens delen via aanbieders van open banking, met toestemming van de klant, blijft toegestaan. Dimon waarschuwde ook voor een verschuiving van de aansprakelijkheid wanneer klanten externe agenten toelaten. "Als mensen ze gebruiken, moeten ze het risico begrijpen", zei hij.

Ook Amazon, Delta en Yelp blokkeren agenten

Op 17 oktober noemde The Verge meer diensten die agenten weren. Delta verhindert dat ze vluchten boeken, en Yelp laat alleen agenten toe waarvan de makers voor zijn gegevens betalen. Amazon zei in september dat de aanhoudende toegang van Muse in strijd is met zijn sitebeleid. Gebruikers melden dat ook Grok van xAI en Dots, de nieuwe continu actieve agenten van OpenAI, niet bij Amazon binnenkomen. Meta stelt dat het weren van een persoonlijke agent neerkomt op het weren van de klant erachter en is in plaats daarvan samenwerkingen aangegaan met Walmart, Best Buy en Sephora.

Regels voor agenten in Europa

Muse is nog niet beschikbaar in Duitsland. Agenten zoals de cloudbrowser van ChatGPT en Claude in Chrome werken daar wel en hebben al met regels te maken. De Duitse webwinkel van Amazon heeft in zijn gebruiksvoorwaarden een onderdeel over agenten, dat van toepassing is zodra je een agent toegang geeft tot Amazon. Een agent moet zich bij elk verzoek met zijn naam als agent identificeren. Hij mag geen menselijk typgedrag nabootsen of CAPTCHA's oplossen, en Amazon kan agenten naar eigen inzicht beperkingen opleggen.

Bij internetbankieren zijn de risico's groter. De standaardvoorwaarden voor internetbankieren van Duitse coöperatieve banken verplichten klanten hun pincode en andere beveiligingsgegevens geheim te houden. De enige uitzonderingen zijn betaalinitiatiediensten en rekeninginformatiediensten, waarvoor op grond van EU-regels een vergunning vereist is. Een AI-agent waaraan je je wachtwoord geeft, is niet zo'n dienst. Als er vervolgens misbruik wordt gemaakt van de rekening, kan de bank dat als grove nalatigheid beschouwen en draagt de klant volgens de voorwaarden het volledige verlies.

Zo houd je de controle

De hulppagina van Anthropic voor Claude in Chrome raadt af om de agent te gebruiken voor het beheren van financiële rekeningen of beleggingen, en aandelenhandel is verboden. "Claude vraagt toestemming voordat hij financiële websites bezoekt", staat op de pagina. In de modus "Handmatig goedkeuren" controleer je elke stap zelf. Anthropic raadt ook een apart browserprofiel aan zonder toegang tot gevoelige accounts. We bespraken de goedkeuringsinstellingen in de cloudbrowser van ChatGPT in ons verslag over incidenten met de agent van OpenAI. Geef een AI-agent nooit je bankinloggegevens. In een eerder geval was een speciaal opgestelde e-mail genoeg om AI-browsers te kapen.