De schaduwzijden van het internet

De schaduwzijden van het internet

Door Mathijs Schiffers
Bron: EtailTrends

Internet maakt de retailbranche transparanter, terwijl retailers hun aanbod goed kunnen afstemmen op consumenten dankzij de digitale sporen die zij achterlaten. Toch? Zo rooskleurig is het allemaal niet, stelt Oxford-professor Ariel Exrachi. “Het is totaal niet duidelijk wie achter de schermen opereren.” Over de schaduwzijden van het wereldwijde web. 

In de film Her uit 2013 probeert hoofdrolspeler Joaquin Phoenix over de scheiding met zijn vrouw heen te komen door een virtuele vriendin in de arm te nemen. De vrouwenstem die vanaf dan dag en nacht bij hem is, geeft zijn leven weer zin. Én kruipt steeds meer onder zijn huid. Want de computervriendin komt naarmate de tijd verstrijkt meer en meer te weten over Phoenix, kent zijn goede en zwakke kanten en weet om welke grappen hij lacht. Het leven van de getormenteerde jongeman krijgt weer kleur, maar het maakt Phoenix ook emotioneel afhankelijk. Wat dat betekent wordt duidelijk als hij erachter komt dat hij niet haar enige ‘minnaar’ is; ze heeft nog miljoenen anderen. Voor haar is hij inwisselbaar. Maar is zij dat ook voor hem? Zij weet alles van hem en begrijpt hem beter dan wie dan ook. Hoe lang heeft hij nodig om een nieuwe vriendin, virtueel of niet, zo ver te krijgen?


De film speelt in de nabije toekomst, in het jaar 2025 om precies te zijn. Het is een vorm van sciencefiction dus. Maar het geschetste scenario is daarmee geenszins ondenkbaar. Met persoonlijke computerassistenten als Siri van Apple, M van Facebook, Alexa en Echo van Amazon en Google Assistant zijn we al een eind op weg naar de digitale vriendin uit de film. Deze toepassingen kunnen op basis van spraakherkenning een restaurant boeken, films aanbevelen of een e-mail sturen naar een vriend. Alleen diens naam hoeft genoemd te worden, de kunstmatige assistent zoekt de persoon zelf wel op in je contactenlijst. Amazons Echo kan zelfs boodschappen voor je doen, op basis van wat je eerder gekocht hebt op het onlineplatform. Handig natuurlijk. Maar er is een keerzijde, zoals Phoenix al ontdekte. En die keerzijde laat zich niet alleen vertalen naar de privésfeer. De virtuele partners worden aangestuurd door kennis over de persoonlijke voorkeuren van internetgebruikers. Ze zijn daarmee in het bijzonder relevant voor de toekomst van de retailsector, waar steeds meer handel van de fysieke naar de digitale omgeving verschuift en waar big data een steeds grotere rol gaan spelen. De computerhulpjes kunnen marktverstorend werken.

Luister maar naar wat Ariel Ezrachi, een professor in mededingingsrecht aan Oxford University, hierover te zeggen heeft. “De persoonlijke helper groeit uit tot je beste vriend die steeds meer van je weet”, zegt Ezrachi. “Maar denk erom: de helper wordt betaald door de websites waar ze je naartoe verwijzen.” Ezrachi schreef samen met collega Maurice Stucke van de Amerikaanse University of Tennessee veel artikelen over dit thema. In november verschijnt hun boek Virtual competion, the promise and perils of the algorithm-driven economy. Een boek dus over de nepconcurrentie die plaatsheeft op het wereldwijde web en de risico’s die samenhangen met een economie waarin het denken is uitbesteed aan een computer. De Oxford-professor wil nadrukkelijk geen doemprofeet zijn. Hij bejubelt de zegeningen van het internet dat de keuze van de klant enorm heeft vergroot. Maar hij weigert zijn ogen te sluiten voor de bijwerkingen en betoogt dat er ruimte is voor interventie door toezichthouders. “Zijn we slechter af dan vóór het internet? Natuurlijk niet”, zegt Ezrachi. “Als je vroeger een tv wilde kopen ging je naar de winkel om de hoek. Daar vertelden ze je wat het beste model is en die kocht je dan. Nu heeft de klant heel veel opties. Maar wat we zien is dat de grote spelers op internet de macht aan het pakken zijn. Als je een stenen winkel in loopt, weet de verkoper in principe niets van je. Kom je nu op een online verkoopplatform dan ben je een open boek. Men kent je voorkeuren, weet zelfs hoeveel je te besteden hebt. Dan kan positief zijn. Maar het kan ook leiden tot dynamische prijsvorming, wat simpelweg neerkomt op de vraag: ‘hoe kan ik het maximale uit de klant trekken?’”


Ezrachi wil om te beginnen een mythe doorbreken. De macht van de klant op internet is volgens hem minder groot dan vaak wordt gedacht. “Het feit dat bepaalde producenten zeggen dat hun producten niet via Amazon verkocht mogen worden, beperkt de concurrentie. En wat te denken van de macht van besturingssystemen zoals Android? Zij bepalen welke applicaties ze op hun systeem toelaten. Zelfs Facebook zegt tegen zijn investeerders dat de incompatibiliteit met platforms een van de risico’s voor het bedrijf is. Deze platforms controleren niet alleen de toegang tot de markt, maar ook de markt als geheel.” Het argument dat internet een dynamische markt is die zichzelf corrigeert, is een ander misverstand, aldus Ezrachi. Dat heeft volgens hem te maken met het gebrek aan transparantie over de krachten die achter de schermen opereren. “Kijk, op een vismarkt zie je in een oogopslag wie slechte kwaliteit biedt, dan wel te zeer aan de prijs is. Op internet zie je dat niet. Het is geen perfecte markt waar partijen zich vrijelijk bewegen. Er is concurrentie, maar niet zoveel als we denken. Dus er is ruimte voor interventie.’ 


De opkomst van de persoonlijke assistent noemt Ezrachi tijdens een interview op zijn werkkamer in Oxford de volgende doorbraak. “We zien ze al, maar nog in beperkte mate.” Wat al dieper ingeburgerd is, is het gebruik van algoritmen bij het vaststellen van de prijs van een product of dienst. Algoritmen zijn systemen die op zoek gaan naar patronen in een hoeveelheid data, in dit geval de data die de klant zelf heeft aangeleverd, bijvoorbeeld door het gebruik van een zoekmachine of berichtjes op Facebook. Ze stellen bedrijven in staat hun aanbod heel persoonlijk te maken. 
Ezrachi geeft enkele voorbeelden. “Producten zijn in bepaalde wijken duurder dan elders, omdat er rijkere mensen wonen die waarschijnlijk minder op de kleintjes letten. De computer heeft dat vastgesteld aan de hand van de postcode van de klant. Maar denk ook aan een klant die verzot is op een bepaalde koffiesoort. Die zal daar waarschijnlijk meer voor willen neertellen dan een klant die net zo graag andere koffie lust. Wat let een systeem dat wordt aangestuurd door kunstmatige intelligentie om de eerste klant een hogere prijs te laten betalen? Dit soort vormen van gedragsdiscriminatie komt al voor.”


Het gevaar zit nog dieper, stelt de professor. Hij wijst op het feit dat steeds meer retailers hun businessmodel laten aansturen door een automatische analyse van data. Hierdoor kunnen volgens hem belangen samenkomen. Dit kan leiden tot een voor de klant zeer onwenselijke uitkomst. “Dat bijvoorbeeld een situatie ontstaat waarbij computers zich aan elkaar gaan aanpassen. Als het ene algoritme vaststelt dat de prijs van een product omhoog kan omdat de klant bereid of in staat is om meer te betalen, kan een ander algoritme, van een concurrerend product, die prijsverhoging volgen. Want blijkbaar is er die ruimte in de markt. Dit noem ik een passieve samenkomst van modellen. Er gebeurt niets illegaals. Het voldoet allemaal aan de huidige concurrentiewetten. Maar het wijkt af van hoe wij vinden dat competitie moet zijn. Als consument heb je het idee in een concurrerende omgeving te zijn, maar het omgekeerde is het geval. Het is virtuele competitie.”


Computers zijn stabiel en voorspelbaar. Ze hebben geen goede of slechte dagen, worden niet gehinderd door emoties. En dat ligt ten grondslag aan het risico waar Ezrachi zijn licht op wil laten schijnen. “Stel, je hebt een markt waarop zes partijen hun producten of diensten te koop aanbieden. Normaalgesproken is zo’n markt te divers voor prijsafspraken. Er zijn te veel spelers om overeenstemming over een prijs te bereiken. Maar als al die zes een computergestuurd model gebruiken, wordt dat anders en is een prijsequilibrium opeens wel binnen handbereik. Dit gebeurt zonder dat ze er met elkaar over praten.” Het wordt volgens Ezrachi nog erger als al die zes partijen hetzelfde algoritme gebruiken. Dan wordt de prijsvorming van zes aanbieders bepaald door een set hersenen. “Natuurlijk, er kan een partij opstaan die een algoritme gebruikt dat tegendraads opereert en de prijs juist verlaagt op die momenten. Dat is perfect. Maar wat ik wil zeggen is dat in sommige markten zelfs passieve kartelvorming kan plaatsvinden bij de inzet van kunstmatige intelligentie. Je komt terecht in een situatie waarin je koopt op een platform dat zelf bepaalt wie zijn producten daar mag aanbieden en waarbij de prijs die je ziet wordt vastgesteld door een algoritme. Dus alles wat je ziet is een façade van een competitieve omgeving, het is er niet echt. De onzichtbare hand van de markt die alles corrigeert is er niet in de online omgeving. Daar heerst de digitale hand en die kan gemanipuleerd worden.”


Ezrachi is een duidelijke en gemakkelijke prater, eentje die beseft dat hij door sommigen als een oubollige pessimist gezien wordt in een tijd waarin de opvatting juist is dat innovatie de vrije hand gelaten moet worden. Daarom blijft hij tijdens het gesprek herhalen dat internet veel goeds gebracht heeft en waakt hij ook voor te veel ingrijpen door toezichthouders. “Het is een delicate kwestie. Zodra je je met de markt bemoeit, loop je het risico dat je de markt beschadigt. Aan de andere kant: niet ingrijpen kan ook schadelijk zijn. De vraag is dus wat voor soort interventie we nodig hebben.” Ezrachi heeft daar zelf wel ideeën over die hij deelt met competitiewaakhonden, zoals die van de Europese Unie in Brussel. Ook informeerde hij het Britse Hogerhuis – enigszins vergelijkbaar met onze Eerste Kamer – over de ontwikkelingen op de e-commercemarkt en de mededingingsrechtelijke aspecten daarvan. “Dit staat hoog op de agenda van de toezichthouders. Maar ze worstelen ermee.” Hij bepleit meer aandacht voor privacy en transparantie en wil dat mensen beter voorgelicht worden over de gevolgen van de sporen die ze achterlaten op internet. “Algoritmen leren door ervaring. Mensen hebben niet in de gaten hoeveel hun data waard zijn. Hun data zijn als een duur schilderij dat ze niet als zodanig herkend hebben en op een vlooienmarkt te koop aanbieden. Internet is een prachtige markt, maar wees voorzichtig. Dat is wat ik wil zeggen.”


Voor de nadelige gevolgen van de opkomst van de personal butler, zoals Ezrachi de computerassistenten van Apple, Google, Facebook en Amazon noemt, heeft hij een concrete remedie. Zo stelt hij dat deze butler verplicht moet vermelden dat een product of dienst dat hij aanbeveelt afkomstig is van een adverteerder, als hier sprake van is. Daarnaast trekt Ezrachi een parallel met hervormingen die we al zagen in de energie- en bankensector, waar klanten tegenwoordig gemakkelijker kunnen overstappen naar een concurrent. “Als je genoeg hebt van je digitale partner moet je al je data – alles wat ze over jou weten – mee kunnen nemen. Je plugt ergens anders in en de nieuwe partner weet ook alles van je. De negatieve gevolgen van overstappen, die er nu voor zorgen dat mensen maar blijven waar ze zijn, moeten verdwijnen.” Een ding is zeker: dat zou Joaquin Phoenix’ afhankelijkheid in de film Her minder pijnlijk hebben gemaakt.