Advocaten en notariaat in Leiden en Den Haag
Menu
Overzicht Delen
IT, IE & Privacy

Online platforms (6): Rechtbank oordeelt over automatische besluiten Uber

Jeroen van Helden

24 maart 2021 - 3 minuten leestijd

Uber houdt de gemoederen flink bezig. In de UK bevestigde het hooggerechtshof onlangs dat chauffeurs werkzaam voor Uber geen zelfstandigen zijn, maar workers en daarmee recht hebben op minimumloon en vakantietoeslag. In Frankrijk lopen vergelijkbare procedures. Onlangs deed de rechtbank Amsterdam uitspraak in twee zaken die verband houden met deze buitenlandse kwesties. De uitspraken zijn vooral van belang omdat daarin aan de orde komt of Uber zich al dan niet schuldig maakt aan een onrechtmatige vorm van geautomatiseerde besluitvorming, een onderwerp dat onmiskenbaar steeds belangrijker wordt, maar waarover nog weinig jurisprudentie bestaat.

Achtergrond

Volgens het hooggerechtshof in de UK bestaat een arbeidsrelatie tussen de Britse chauffeurs en Uber London. De rechthebbende op de Uber-app is echter niet de UK-entiteit, maar de Nederlandse moedermaatschappij Uber B.V. Om de implicaties van voornoemde uitspraak op waarde te kunnen schatten en ook ter voorbereiding op andere procedures deden enkele Britse chauffeurs (zaak 1) daarom een inzageverzoek op grond van de AVG bij Uber B.V. Zij wilden weten welke persoonsgegevens Uber van hen verwerkt, waarvoor deze worden gebruikt en in hoeverre sprake is van profilering en geautomatiseerde besluitvorming.

Een aantal andere chauffeurs (zaak 2) meende dat Uber volledig geautomatiseerd had besloten tot deactivering van hun accounts wegens vermoedens van fraude, waarmee Uber in strijd zou hebben gehandeld met het verbod op geautomatiseerde individuele besluitvorming. Meer specifiek werden deze chauffeurs ervan beschuldigd dat zij ten onrechte annuleringskosten bij Uber hadden geïnd, door zich zowel als passagier als chauffeur te hebben voorgedaan, dan wel dat zij de Uber Driver app hadden gemanipuleerd zodat duurdere ritten geïdentificeerd konden worden voordat de chauffeur de rit accepteerde (hetgeen niet is toegestaan om cherry picking van ritten te voorkomen).

Geautomatiseerde besluitvorming

De AVG kent enkele specifieke regels over geautomatiseerde besluitvorming. Allereerst moet een organisatie die geautomatiseerde besluitvorming wil gaan inzetten de betreffende personen daarover vooraf informeren. Onderdeel van die informatieplicht is dat de betrokkene wordt geïnformeerd over de “onderliggende logica” van de toepassing. Daarvoor is niet nodig dat de werking van het algoritme in (technisch) detail wordt uitgelegd of dat het algoritme openbaar wordt gemaakt. Wel moet op begrijpelijke wijze duidelijk worden gemaakt hoe de besluitvorming werkt en op basis van welke criteria tot een besluit wordt gekomen.

Verder heeft de betrokkene het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.  Hoewel dit artikel als een ‘recht’ is geformuleerd, is volgens de Europese privacy toezichthouders feitelijk sprake van een algemeen verbod op volledig geautomatiseerde individuele besluitvorming, behoudens enkele uitzonderingen. Het is dus verboden een arbeidsovereenkomst te beëindigen uitsluitend op basis van een geautomatiseerd besluit. Gericht adverteren op basis van profielen mag doorgaans wel, omdat dit de betrokkene normaal gesproken niet in aanmerkelijke mate zal treffen.

Uitspraak 1

Uber maakt gebruik van een batched matching systeem. Dit systeem groepeert de dichtstbijzijnde chauffeurs en passagiers in een batch (een groep) en bepaalt binnen die groep de optimale match (koppeling) tussen een chauffeur en een passagier. Volgens Uber gebruikt zij locatie, rijrichting, de drukte van het verkeer, geografische factoren, de verwachte aankomsttijd bij het afhaalpunt van de passagier en door chauffeurs opgegeven persoonlijke voorkeuren. Het systeem koppelt een passagier niet meer aan een chauffeur indien deze passagier de chauffeur in het verleden met een beoordeling van één van de vijf beschikbare sterren heeft gewaardeerd. De chauffeur wordt dan gekoppeld aan een andere passagier in de batch. Volgens Uber heeft de geautomatiseerde allocatie van beschikbare ritten geen rechtsgevolgen, en wordt de betrokkene hierdoor niet in aanmerkelijke mate getroffen zodat geen sprake is van geautomatiseerde besluitvorming. De rechtbank volgt Uber hierin. Hoewel voor de hand ligt dat het systeem een zekere invloed zal hebben op de uitvoering van de overeenkomst tussen Uber en de chauffeur, meent de rechtbank dat deze invloed niet zo groot is dat sprake is van een aanmerkelijk effect. De rechtbank wijst de vordering van de chauffeurs af.

Uitspraak 2

Uber betwist dat zij de accounts van de chauffeurs op basis van uitsluitend geautomatiseerde besluitvorming heeft gedeactiveerd. Volgens Uber is daar een grondig onderzoek aan vooraf gegaan dat is uitgevoerd door een gespecialiseerd team van werknemers van Uber. Daarbij wordt gebruik gemaakt van software waarmee potentiële frauduleuze activiteiten kunnen worden gesignaleerd. Naar aanleiding van een fraudesignaal doet dit team op basis van interne protocollen en eigen kennis en ervaring onderzoek naar de feiten en omstandigheden om het bestaan van fraude te bevestigen of uit te sluiten. Voor het deactiveren van een account is een unaniem besluit van twee werknemers van dit team nodig. Op basis van deze toelichting oordeelt de rechtbank dat de besluiten van Uber tot stand zijn gekomen na ‘betekenisvolle menselijke tussenkomst’ en er dus geen sprake is geweest van een onrechtmatige vorm van geautomatiseerde besluitvorming. Ook deze vordering van de chauffeurs wordt afgewezen.

Wilt u meer weten over de juridische aspecten van online platforms of geautomatiseerde besluitvorming? Neem gerust contact op met ons team.

Jeroen van Helden, advocaat IT, IE & Privacy

Ook interessant?