Nog even en machines herkennen emoties eerder en nauwkeuriger dan mensen. Onze relatie met technologie wordt voor het eerst in de geschiedenis wederkerig, voorziet Pamela Pavliscak. Als expert op het gebied van emotioneel intelligent design wil ze retailmerken en consumenten bewustmaken van de gevolgen van dit scenario, dat realistischer is dan ooit.

Stel: je zit achter het stuur van je auto en je bent woedend. Boos op andere verkeersgebruikers, op medepassagiers of op de rest van de wereld als gevolg van een nieuwsbericht dat voorbij kwam op de radio. Je gezicht vertrekt, je gooit er wat krachttermen uit en je bezwete palmen klemmen zich om het stuur. Dat is het moment voor de auto om in te grijpen. Het navigatiesysteem waarschuwt op kalme toon dat je erg emotioneel bent. Hoog oplopende emoties kunnen leiden tot onoplettendheid en onverantwoord rijgedrag. Of je wel je hoofd erbij houdt? Het helpt, de woede ebt weg. Het systeem heeft zijn werk gedaan, het verhoogde risico op een ongeluk is afgewend.

Dit is geen scene uit een film, maar technologie waar momenteel flink in wordt geïnvesteerd in de automotive-industrie. Volgend jaar brengen producenten als BMW en Groupe PSA (onder andere Peugeot en Citroën) de eerste modellen op de markt met een ingebouwd kunstmatig intelligentie-systeem. Een volgende stap is dat deze systemen dankzij sensoren de emotionele toestand van bestuurders herkennen en daarop reageren.
 

Nieuwe relatie met technologie
Dat technologie emoties oproept is niet nieuw, stelt de Amerikaanse Pamela Pavliscak die onderzoek doet naar de relatie tussen technologie en emotie. Ze is docent aan Pratt Institute School of Information in New York en maakt deel uit van een internationale commissie voor het ontwikkelen van standaarden voor ethisch ontworpen artificiële intelligentie (AI). “Van de ploeg en het weefgetouw tot aan het kompas en de gloeilamp: technologie beïnvloedt niet alleen onze omgeving, maar ook onze innerlijke wereld”, zegt ze. “Het doet iets met de manier waarop we de wereld begrijpen, hoe we ons uitdrukken en hoe we met elkaar omgaan.” Er is ook niets geks aan het hebben van gevoelens voor levenloze objecten, vindt ze. “Het begint in onze kindertijd, als we hele gesprekken voeren met een teddybeer. Dat kan een uitlaatklep zijn voor emoties en ons zelfs helpen bij het ontwikkelen van relaties met andere mensen.” Nieuw is dat onze ‘instrumenten’ dankzij een nieuwe generatie AI-systemen straks in staat zijn menselijke emoties te herkennen. Daarmee wordt onze relatie met technologie voor het eerst in de geschiedenis wederkerig.

De verwachtingen van emotionele artificiële intelligentie (EAI), soms ook affective computing genoemd, zijn hooggespannen. Google, Apple, Amazon, Microsoft, IBM, Facebook: allemaal hebben ze EAI-bedrijven overgenomen, of afdelingen opgetuigd die zich bezighouden met het bouwen van emotioneel intelligente computersystemen.
 

 Pamela Pavliscak legt hier uit wat emotioneel intelligent design gaat betekenen

Er zijn verschillende manieren waarop AI emotie kan herkennen, vertelt Pavliscak. “De belangrijkste spelers in deze markt werken met technologieën die zich baseren op gezichtsuitdrukkingen, spraak — denk aan toonhoogte en woordgebruik — of tekst. Maar er zijn ook wearables zoals smartwatches, die emoties afleiden uit hartslag, lichaamstemperatuur of hersengolven, of een combinatie van verschillende biometrische gegevens.”

Herkennen van emoties
Met de huidige technologie is al veel mogelijk. Partijen als Affectiva, BeyondVerbal, Sensay en RealEyes verkopen kant-en-klare software voor emotion analytics. Merken als Coca-Cola en Mars maken er volop gebruik van in marktonderzoek door proefpersonen bijvoorbeeld een video te tonen van een product en hun emoties te analyseren. Reisorganisatie TUI verwerkte deze technologie in zijn ‘Destination U chair’: een luie stoel waarin een klant kijkt naar filmpjes van reisbestemmingen. Na afloop krijgt hij een reisadvies op maat, gebaseerd op zijn emotionele reacties op de bestemmingen. En de Nieuw-Zeelandse bank BNZ pionierde al in 2013 met de ‘EmotionScan’: een online applicatie die via de webcam de emotionele reacties van klanten scande bij het horen van de namen van verschillende financiële producten. Dit alles is kinderspel bij wat ons te wachten staat. Behalve de automotive-industrie staan producenten van smartspeakers, chatbots en sociale robots in de startblokken om hun apparaten te voorzien van emotionele intelligentie. Dat betekent bijvoorbeeld dat Alexa, de populaire smartspeaker van Amazon, straks aan de hand van het stemgebruik in staat is het humeur van de gebruiker te herkennen en daarop in te spelen.


Afgetroefd door AI
Onderzoekers van Ohio State University slaagden er onlangs in een AI-systeem te trainen in het herkennen van menselijke emoties op basis van de kleur van een gezicht. Bij sommige emoties trekken de spieren in ons gelaat samen, waardoor er bloed naar bepaalde bloedvaten stroomt of juist wegtrekt. Voor mensen is dit nauwelijks waarneembaar, maar een AI-systeem ziet de kleurverschillen en kan patronen herkennen die het vervolgens koppelt aan emoties. Het is denkbaar dat computers straks beter zijn in het herkennen van emoties dan mensen, denkt Pavliscak. “Machines zijn nu eenmaal goed in patronen. Ik zal in mijn leven nooit tien miljoen gezichten uit heel de wereld kunnen zien en bestuderen, een AI-systeem wel.”

Basisemoties
Wij moeten het systeem wel eerst uitleggen welke menselijke emoties er zijn en welke eigenschappen daarbij horen. Volgens Pavliscak baseren de meeste bedrijven die werken aan EAI zich op onderzoek uit de jaren zestig van de Amerikaanse psycholoog Paul Ekman. Ekman bestudeerde het verband tussen emoties en gezichtsuitdrukkingen. Hij stelt dat er zes basisemoties zijn, die in de hele wereld hetzelfde zijn: verdriet, woede, angst, verbazing, walging en plezier. Later ontwikkelde Ekman theorieën over micro-expressies. Dat zijn korte, onbewuste gezichtsuitdrukkingen die je gemakkelijk mist als je niet weet waarop je moet letten. Het is kennis die al jaren wordt toegepast door rechercheurs en beveiligers.

Alexa herkent straks je humeur aan je stem en kan passende producten aanbevelen

Voor bedrijven die EAI ontwikkelen ligt het voor de hand om gebruik te maken van dezelfde vijf basiscategorieën. Daardoor zijn de systemen onderling immers congruent, legt Pavliscak uit. “Een beperkt aantal categorieën is overzichtelijk en minder bewerkelijk. In werkelijkheid is het emotionele repertoire van mensen echter veel uitgebreider en complexer. Een computer kan bijvoorbeeld woede aflezen van mijn gezicht, maar weet daarmee nog niet waar die woede vandaan komt, op wie ik kwaad ben en wat die woede betekent.”

Sociale machines
In theorie kunnen alle apparaten die smart zijn, voorzien worden van EAI. Hoe snel deze ontwikkeling gaat, is lastig te voorspellen. Volgens Pavliscak leven we nu in het tijdperk van ‘sociale machines’ die in staat zijn emoties te imiteren, – denk aan de immer opgewekte gezelschapsrobot Pepper – maar alleen heel basale emoties kunnen herkennen. Apparaten die feilloos emoties aflezen zijn er nog niet, al wordt de techniek snel beter. Volgens Gartner, een van de bedrijven die vooroploopt met de ontwikkeling van EAI, kan het over een paar jaar al zover zijn.

“In 2022 weet je persoonlijke device meer over je gemoedstoestand dan je familie”, verklaart een onderzoeksdirecteur op de website van het bedrijf. Pavliscak vindt die inschatting te optimistisch. “Ik denk dat het iets langer zal duren. Gartner bekijkt het vooral als een technische uitdaging, maar er zijn ook sociale en culturele aspecten waarmee je rekening moet houden. Bovendien verwacht ik dat er vanuit de samenleving weerstand zal zijn tegen de implementatie van dit soort systemen.”

‘Slimme apparaten kunnen patronen goed herkennen. Ik ben nooit in staat tien miljoen gezichten bestuderen, artificial intelligence wel’

Emotioneel intelligent design
Het vermogen om menselijke emoties te herkennen moet niet het eindstation zijn in de ontwikkeling van EAI, vindt ze. “De systemen waaraan nu wordt gewerkt lijken voornamelijk gericht op het bieden van een plezierige ervaring. Bijvoorbeeld het vergroten van gebruiksgemak. Een mogelijke volgende stap is ons helpen bij het uitdrukken van emoties. EAI kan ons zelfs meer inzicht geven in wat we voelen en daarmee ons gevoelsleven verrijken. Dat is wat ik bedoel met emotioneel intelligent design.’

Pavliscaks visie is geïnspireerd door het Center for Emotional Intelligence van de Amerikaanse universiteit Yale. Onderzoekers van deze universiteit bedachten een onderwijsmethode die is gebaseerd op het herkennen, begrijpen, benoemen, uitdrukken en beheersen van emoties. Werkelijk waardevol ‘emotioneel intelligent design’ draagt wat betreft Pavliscak bij aan het verbeteren van al deze vaardigheden.

EAI in retail
Retailers die EAI willen toepassen moeten de emotionele relatie van consumenten met technologie goed doordenken, vindt de futuroloog. “Meestal ben ik op technologiebijeenkomsten de enige die het heeft over emotie. Als ik begin te spreken, kijken mensen mij glazig aan, maar na enige tijd is er ook herkenning. Ze hadden er gewoon nooit zo over nagedacht. Terwijl emoties natuurlijk altijd een rol spelen in de band die retailers en merken hebben met hun klanten. Mensen die ronddwalen in een IKEA-vestiging, of die online shoppen regelen, hebben daar gevoelens bij. Met name grotere partijen zijn heel goed in het zo efficiënt mogelijk inrichten van hun processen, zodat klanten het fijn vinden om hun producten of diensten te gebruiken, maar daar blijft het meestal bij.”

Retailmerken zijn vaak erg gericht op de korte termijn, vat Pavliscak samen. Ze willen dat hun product een emotionele reactie oproept, zoals genot of blijdschap, en denken niet verder dan die ene, initiële reactie. Maar zoals relaties met mensen zich ontwikkelen, is ook onze relatie met producten, apparaten of merken niet statisch. Ter illustratie schetst ze het verloop van een relatie: “Je wordt je eerst bewust van de ander, misschien door een gezamenlijke interesse. Vervolgens breng je meer tijd met elkaar door en leer je elkaar beter kennen. Geleidelijk krijgt de relatie meer diepgang en ga je elkaar vertrouwen. Je deelt belangrijke momenten en groeit naar elkaar toe.”


Onze relaties met producten en merken kunnen we met hulp van technologie op een vergelijkbare manier vormgeven, denkt Pavliscak. Helaas slaat de huidige ontwikkeling van EAI een andere richting in. “Het is vaak heel kortzichtig: ‘Laten we alle data uit je trekken en daarmee de gebruikservaring personaliseren.’ Tot op zekere hoogte werkt dat, maar het gevolg is dat de technologie de gebruiker gevangen houdt in een soort vacuüm. Er wordt een momentopname gemaakt van de consument, zonder er rekening mee te houden dat mensen voortdurend veranderen. Je recente verleden wordt geprojecteerd op de toekomst. Dat is vervelend voor de shopper en staat een duurzame relatie met het product of het merk in de weg.”

Voordelen
Anderzijds kan EAI die relatie ook verbeteren. Zo wordt een gesprek met een chatbot zoals Apple’s Siri een stuk natuurlijker als het computerprogramma emoties van gebruiker oppikt en daarop reageert. Daarbij wordt het binnenkort waarschijnlijk mogelijk om seo te koppelen aan Siri en andere stemgestuurde applicaties. Retailers kunnen daardoor gepersonaliseerde productsuggesties doen op basis van de stemcommando’s. Denk aan een advertentie voor een paraplu voor mensen die naar het weerbericht vragen, maar ook aan een troostrijke doos bonbons die plotseling in de aanbieding is als je verdrietig klinkt.

‘Ik ben bang dat het streven naar winst het wint van menselijke waarden bij het gebruik van EAI’

Autoverkopers en verkopers in modezaken gaan er vaak prat op dat ze weten wat een klant wil zodra hij de drempel overstapt. Als de beloften van EAI worden ingelost, beschikt straks iedere retailer over die bijna magische eigenschap. De uitdaging is daar verstandig mee om te gaan. Retailmerken denken onvoldoende na over de ethische implicaties van EAI, aldus Pavliscak. “In het ideale geval zetten ze de technologie in op een manier die waarde toevoegt voor de consument. Of dat gaat gebeuren is de vraag, want in de relatie tussen consument en aanbieder is die laatste partij veel machtiger.”

Weerstand van consumenten
Consumenten willen daarnaast niet het gevoel hebben dat hun vrije wil wordt afgenomen, stelt ze. “Natuurlijk probeer je als retailer iets te verkopen, maar je moet je afvragen waar de grens ligt tussen overtuigen en manipuleren. Weet een klant bijvoorbeeld dat zijn emoties worden geanalyseerd en wat er met de data wordt gedaan? En is het ethisch verantwoord om in te spelen op iemands gemoedstoestand?” Nu is het moment om dit soort gesprekken te voeren, zegt de futuroloog, voordat EAI over een aantal jaar is embedded in al onze slimme apparaten. “Retailmerken moeten zich afvragen hoe ze EAI willen toepassen in hun producten en wat hun klanten daarmee winnen. Zetten ze de technologie in om op korte termijn de emoties van klanten te delven en exploiteren, of gebruiken ze het om een duurzame relatie met hen op te bouwen? Ik hoop dat de meeste ondernemingen voor die laatste optie kiezen.” Ze is er niet helemaal gerust op. “Mijn angst is dat het streven naar winst en aandeelhouderswaarde het winnen van menselijke en sociale waarden.”

Er is ook een bestcase-scenario, bezweert Pavliscak. “In het beste geval maakt EAI onze interacties met technologie comfortabeler en natuurlijker. Het kan ons zelfs empathischer maken, door ons te wijzen op ons eigen emoties en die van de mensen in onze omgeving. Het kan ons handvatten aanreiken om op een productieve manier uiting te geven aan wat we voelen.” We moeten hoe dan ook nadenken over een toekomst met deze mogelijkheden, besluit ze. “De ontwikkeling van EAI is niet te stoppen. Er kan gewoon heel veel geld verdiend worden aan emoties. Het is als met vuur: nadat we hadden uitgevonden hoe we dat moesten maken, was er geen weg meer terug.”