Amazon heeft Meta's kersverse AI-agent Muse de toegang tot zijn webshop ontzegd. Gebruikers die Muse inzetten om bij Amazon te winkelen, krijgen te zien dat 'verdere toegang door een ongeautoriseerde AI-agent in strijd is met de gebruiksvoorwaarden van Amazon'.
Amazon maakt zich zorgen over de manier waarop Muse zich op zijn website gedraagt, meldde GeekWire als eerste. De e-commercereus stelt dat de persoonlijke AI-agent die het technologiebedrijf eerder deze maand lanceerde, zich tijdens het browsen niet kenbaar maakt. Ook ziet Amazon mogelijke risico's rond privacy en veiligheid, onder meer omdat Muse toegang kan krijgen tot klantgegevens en deze zou kunnen bewaren.
Amazon zegt Meta aanvankelijk te hebben gevraagd om zijn website vrijwillig buiten het bereik van Muse te houden. "Wij vinden het vrij duidelijk dat applicaties van derden die aanbieden om namens klanten aankopen te doen bij andere bedrijven, transparant moeten opereren en de beslissingen van dienstverleners moeten respecteren over de vraag of zij wel of niet willen deelnemen", zegt een woordvoerder van Amazon in een verklaring.
Reactie Meta
Volgens Meta heeft Muse geen inzage in wachtwoorden of betaalmethoden. Gegevens die gebruikers delen, worden volgens Meta beveiligd opgeslagen, zodat Muse ze kan gebruiken zonder de gegevens zelf te kunnen inzien. De agent kan onder meer formulieren invullen, e-mails versturen en online aankopen doen. Voor betalingen gebruikt Muse een eenmalige virtuele betaalkaart van Link by Stripe, een betaaldienst van het Amerikaanse fintechbedrijf Stripe.
Amazon vergelijkt AI-agents van derden met bestaande diensten die namens consumenten transacties uitvoeren, zoals bezorgapps en online reisbureaus. Ook die diensten moeten volgens het bedrijf de regels en keuzes van de aanbieder respecteren. Amazon heeft Meta daarom gevraagd zijn webshop uit Muse te verwijderen.
Zorgen over AI-agents
De blokkade komt op een moment dat ook internationale banken waarschuwen voor de risico's van AI-agents bij online aankopen. Onder meer ING, NatWest en Bank of America willen met beleidsmakers praten over regels en maatregelen. Volgens de banken kunnen AI-agents het risico op fraude, oplichting en schendingen van de gegevensprivacy vergroten. Ze pleiten onder meer voor transparantie over de betrokkenheid van AI bij transacties, inzicht in de manier waarop agents beslissingen nemen en betere bescherming van klantgegevens.
AI-agents veranderen niet alleen de manier waarop consumenten zoeken en kopen, maar ook de rol van retailers in het aankoopproces. Tijdens RetailTrends Live vertelde voormalig bol-ceo Daniel Ropers over de gevolgen van AI-agents voor de retailsector en hoe retailers zich kunnen voorbereiden.
Reacties 0