Kort for personvernombudet
Hvis et system hos kunden din suspenderer, avviser, nedgraderer eller utestenger noen uten at et menneske faktisk kan overprøve avgjørelsen, er du innenfor artikkel 22 — og beviset for at den menneskelige involveringen er reell, bygges på forhånd, ikke i etterkant. En arbeidsflyt der en ansatt trykker «bekreft» på et forslag vedkommende ikke kan omgjøre, er ikke menneskelig involvering.
Hva som skjedde
Mellom 2020 og 2022 suspenderte Ubers systemer kontoer til europeiske sjåfører som algoritmene mistenkte for svindel: ruter vurdert som unødvendig lange, turer akseptert og ikke gjennomført. Ifølge tilsynet ble enkelte kontoer også permanent deaktivert på grunnlag av lave kundevurderinger, uten menneskelig vurdering. Selskapet bestrider dette og mener at permanente deaktiveringer ikke var fullt automatiserte. Saken startet med en fransk klage, men ble behandlet i Nederland, der Uber har sitt europeiske hovedkontor.
Det rettslige poenget er ikke algoritmen, men hvem som kan omgjøre den
Artikkel 22 forbyr ikke automatiserte systemer. Den begrenser avgjørelser som utelukkende bygger på automatisert behandling og har rettsvirkning eller på tilsvarende måte i betydelig grad påvirker noen. Da kreves tre ting samtidig: reell menneskelig involvering — hos noen med myndighet og kompetanse til å endre utfallet — mulighet for den registrerte til å uttrykke sitt syn, og mulighet til å bestride avgjørelsen. Tilsynet fant også brudd på sjåførenes rett til å bli informert om hvordan avgjørelsen ble truffet.
Hvorfor det rammer kunder som er langt mindre enn Uber
- Rekruttering med automatiske CV-filtre: siles en kandidat ut av systemet og ingen ser på utsilingen, er det en automatisert avgjørelse med betydelig virkning.
- Kreditt- eller pålitelighetsscore beregnet av en leverandør: behandlingsansvarlig er fortsatt den som bestemmer, selv om scoren kommer utenfra.
- Systemer mot svindel og hvitvasking som sperrer en konto eller en bestilling. Sperringen er lovlig; fraværet av en menneskelig utvei er det ikke.
- Automatisk vaktfordeling, produktivitetsscore, disiplinærsuspensjoner foreslått av programvare: i arbeidsforhold nås terskelen for betydelig virkning langt tidligere enn man tror.
Dokumentet som nesten alltid mangler
Ikke personverninformasjonen, men beskrivelsen av logikken bak avgjørelsen, kriteriene og de forventede følgene — sammen med beviset for at den menneskelige gjennomgangen finnes og er i stand til å endre utfallet. Den som skriver det etter den første klagen, skriver det under press og med tilsynet lesende.
Beløpet, og hva det sier
Åtte hundre og tjuefem millioner euro. Det er det nest høyeste gebyret som noen gang er ilagt etter forordningen: bare Metas 1,2 milliarder, ilagt i Irland i 2023 for overføringer til USA, er høyere. Samme nederlandske tilsyn ila Uber 290 millioner allerede i 2024, i en annen sak. Uber har varslet klage og kaller gebyret uforholdsmessig, og viser til at dagens rutiner har menneskelig vurdering og mulighet for å bestride suspensjoner.
Official source:Autoriteit Persoonsgegevens — melding 21. august 2026Looking for a workspace for your DPO work?
DPO Workspace is built by a certified DPO. 30-day free trial.
Start free
