Van oudsher wordt technologie gebruikt om te werken, om er een stuk land mee om te ploegen bijvoorbeeld, of om wagens te maken. Vandaag echter worden ook de contouren van het werk vormgegeven door technologie, en dan meer in het bijzonder door anonieme apps en algoritmen.

Bedrijven bijvoorbeeld gebruiken slimme technologie om werknemers aan te werven. Neem HireVue. Het bedrijf verkoopt AI-systemen om sollicitatiegesprekken te analyseren. Er vindt een interview met een kandidaat plaats en vervolgens wordt het gesprek geanalyseerd op basis van de toon van de stem, de gezichtsbewegingen en de patronen in de spraak. De technologie schuift daarna een kandidaat naar voren. Het probleem hier is discriminatie. Het systeem werkt niet bij mensen met een beperking die de gezichtsuitdrukking beïnvloedt, zoals bij spraakstoornissen.

Mensen worden daarnaast ook ontslagen door apps. Stephen Normandin is een van hen. Hij is een legerveteraan die tijdens zijn loopbaan in Arkansas in de VS kookte voor vluchtelingen uit Vietnam. De voorbije vier jaren reed hij in Phoenix rond voor Amazon om pakketjes aan huis af te leveren. Tot voor kort dus. De technologie van het miljardenbedrijf die hem onafgebroken in de gaten hield, kwam tot de conclusie dat hij zijn werk niet naar behoren deed. Normandin kreeg daarop een geautomatiseerd bericht. Hij mocht vertrekken. Dat was het harde oordeel. Het kwam niet van een mens, maar van levenloze materie.

Normandin kreeg een geautomatiseerd bericht. Hij mocht vertrekken.

Tussen het aanwerven en ontslaan van mensen liggen nog andere praktijken waarin apps worden ingezet. Zo worden algoritmen ook gebruikt voor monitoring. Bedrijven beroepen zich op AI om data te verzamelen en analyseren het werkritme van hun werknemers. Tijdens de Covid-pandemie hebben sommige werkgevers software laten installeren op de laptops van hun werknemers om te controleren hoe vaak ze aan hun computer zitten en welke schermen openstaan. Dat is niet geheel verrassend. In een studie van ExpressVPN blijkt dat 59% van de werkgevers hun werknemers niet vertrouwt zonder digitale surveillance.

Niet enkel monitoren maar ook het opstellen van uurroosters wordt al overgelaten aan de rekenkracht van computers. Het Amerikaanse bedrijf Starbucks gebuikt een AI-systeem dat bepaalt wanneer precies iemand moet werken, een systeem dat Starbucks kocht bij het bedrijf Kronos Incorporated. Op basis van data van het gedrag van consumenten uit het verleden voorspellen algoritmen op welke dag de meeste klanten zal komen in het koffiehuis en op welk moment van de dag het meest zal worden geconsumeerd. Een grote kans op passage betekent dat er veel barista's nodig zijn; is de voorspelling dat er weinig klanten zullen komen, dan zijn er minder werknemers nodig.

Tot slot zijn er ook voorbeelden van hoe kunstmatige intelligentie concrete werksituaties stuurt. Denk aan Uber. Ik log in op een app, geef aan waarheen ik me wil verplaatsen en vervolgens matcht een algoritme me aan een chauffeur die vrij is en zich in de buurt bevindt. Snel en goedkoop voor mij, en ook voordelig voor de chauffeur: hij of zij verdient makkelijk geld en ontdekt via klanten verschillende culturen enkel en alleen door wat rond te rijden in de stad. Geweldig toch? Uber gebruikt AI die chauffeurs in de richting van een bepaald type klanten stuurt: de rijken, zij die misschien meer voor een autorit kunnen betalen. Als dat laatste het geval is, kan het bedrijf die extra opbrengsten volledig voor zichzelf houden, zonder de chauffeur meer te betalen. Alleen al daarom zal wellicht dit cijfer niet verwonderen: in het begin van 2019 werd het vermogen van de medeoprichter van Uber, libertariër Travis Kalanick, geschat op ongeveer zes miljard dollar.

Ik heb die voorbeelden gekozen om iets aan het licht te brengen dat nog te vaak onder de radar blijft vandaag, namelijk dat veel werksituaties worden gedirigeerd door apps, door de macht van het getal. Die bewustwording is één ding, maar wat moeten we daarover denken?

Sommigen keren zich radicaal tegen de implementatie van zulke anonieme technologie in werksituaties. Apps die op de werkvloer worden ingezet en invloed hebben op mensen zouden in alle gevallen geweerd moeten worden, zo hoor je wel eens. Wie dat vindt, moet wel beseffen dat het gebruik van AI op de werkvloer vaak zonder enige twijfel voordelen heeft. Zulke technologie kan sneller de brieven van een groot aantal kandidaten screenen, en draagt ook de belofte van meer objectiviteit in zich, om gelijke cases gelijk te behandelen.

59% van de werknemers rapporteert extra stress en angst door de controle door software.

Aan de andere kant mogen we niet blind zijn voor de risico's die zulke zaken met zich mee brengen. Dat blijkt onder meer uit de voorbeelden van hierboven. De gevolgen van het controleren van werknemers door software zijn niet min. 59% van de werknemers rapporteert hierdoor extra stress en angst. 25% zou zelfs een salarisvermindering aanvaarden om het digitaal toezicht te ontwijken. Of neem de planningssoftware van Starbucks. Daardoor kunnen de werknemers hun leven nauwelijks een week van tevoren plannen. Ze moeten altijd stand-by staan. Voorspelt het algoritme op maandag dat er zaterdag veel klanten zullen zijn, dan moet men zich schikken naar de berekening door het algoritme. Zonder blind te zijn voor de voordelen, lijdt het weinig twijfel dat zulke wereld niet menselijk en dus niet wenselijk is.

Samenleving & Politiek, Jaargang 29, 2022, nr. 1 (januari), pagina 48 tot 49

• macht
• app
• platformeconomie

MACHT