Verschillende internationale banken slaan alarm over het gebruik van AI-agents bij online aankopen. Ze waarschuwen dat de technologie het risico op oplichting, fraude en schendingen van de gegevensprivacy vergroot en willen hierover met beleidsmakers in gesprek, meldt Reuters.
Onder meer de Nederlandse bank ING, de Britse bank NatWest en Bank of America maken deel uit van de groep. Volgens de banken ontwikkelt zogeheten agentic commerce zich sneller dan de normen voor consumentenbescherming.
Technologiebedrijven als OpenAI, Anthropic, Google en Meta zetten AI-chatbots steeds vaker in als hulpmiddel bij online winkelen. AI-agents kunnen consumenten helpen bij het vinden van producten en in toenemende mate ook namens hen aankopen doen. Retailers proberen ondertussen invloed uit te oefenen op de aanbevelingen van de agents.
Volgens de banken zijn consumenten enthousiast over de mogelijkheden, maar bestaat er onzekerheid over de vraag of AI-agents altijd in hun belang handelen. Zo kan een agent het verkeerde product kopen, te veel geld uitgeven of consumenten blootstellen aan fraude.
Maatregelen
De banken wijzen onder meer op het risico dat AI-agents consumenten om kaartgegevens vragen en die rechtstreeks op websites invoeren. Ook kunnen ze gebruikers naar betaalmethoden sturen die minder bescherming bieden bij fraude of een geschil over een aankoop.
De banken pleiten daarom voor duidelijke melding wanneer een AI-agent bij een transactie betrokken is, meer transparantie over de manier waarop agents beslissingen nemen en betere bescherming van klantgegevens. Ook moeten consumenten en retailers volgens hen vrij kunnen kiezen welke AI-aangestuurde e-commercediensten zij gebruiken. Verschillende systemen zouden bovendien met elkaar moeten kunnen communiceren.
Rol van retailers
AI-agents veranderen daarmee niet alleen de manier waarop consumenten zoeken en kopen, maar ook de rol van retailers in het aankoopproces. Tijdens RetailTrends Live vertelde voormalig bol-ceo Daniel Ropers over de gevolgen van AI-agents voor de retailsector en hoe retailers zich op de ontwikkeling kunnen voorbereiden.
Reacties 0