Retailmerken denken onvoldoende na over de ethische implicaties van emotionele artificiële intelligentie (EAI). Daarbij zijn systemen in staat om menselijke emoties te herkennen, zoals het humeur van de gebruiker. “In het ideale geval zetten ze de technologie in op een manier die waarde toevoegt voor de consument”, zegt futuroloog Pamela Pavliscak in het decembernummer van RetailTrends.

De expert op het gebied van emotioneel intelligent design is bang dat retailmerken de technologie gebruiken om op korte termijn de emoties van klanten te delven en exploiteren. “Het is vaak heel kortzichtig: ’Laten we alle data uit je trekken en daarmee de gebruikerservaring personaliseren’.”

Consumenten willen niet het gevoel hebben dat hun vrije wil wordt afgenomen, stelt ze. “Natuurlijk probeer je als retailer iets te verkopen, maar je moet je afvragen waar de grens ligt tussen overtuigen en manipuleren. Weet een klant bijvoorbeeld dat zijn emoties worden geanalyseerd en wat er met de data wordt gedaan? En is het ethisch verantwoord om in te spelen op iemands gemoedstoestand?”

Nu is het moment om dit soort gesprekken te voeren, zegt de futuroloog, voordat EAI over een aantal jaar is embedded in al onze slimme apparaten. Zo denkt onderzoeksbureau Gartner dat je persoonlijke device in 2022 meer over je gemoedstoestand weet dan je familie. Pavliscak denkt dat het iets langer zal duren, omdat er behalve de technische uitdaging ook sociale en culturele aspecten zijn waar je rekening mee moet houden. “Bovendien verwacht ik dat er vanuit de samenleving weerstand zal zijn tegen de implementatie van dit soort systemen.”

In het decembernummer van RetailTrends gaat Pavliscak dieper in op de relatie van mensen met technologie, die voor het eerst wederkerig wordt. Wat zijn de gevolgen van dit scenario? Lees het volledige artikel in het digitale magazine. Nog geen member? Klik dan hier voor meer informatie.