Zwarte studente toch niet gediscrimineerd door antispieksoftware van VU

Wel heeft de universiteit de discriminatieklacht van de studente onvoldoende zorgvuldig behandeld.

Het oordeel van het College is verrassend. De onafhankelijke toezichthouder vermoedde in december in een tussenoordeel nog dat de studente vanwege haar huidskleur was gediscrimineerd. Volgens het College heeft wetenschappelijk onderzoek aangetoond dat gezichtsherkenningssoftware over het algemeen slechter werkt bij mensen met een donkere huidskleur.

Masterstudente Robin Pocornie zei in haar klacht dat ze tijdens online examens problemen had met het inschakelen van de verplichte antispieksoftware Proctorio. Pas als ze een lamp op haar gezicht richtte, lukte het haar om haar identiteit aan de software te bewijzen.

De Vrije Universiteit Amsterdam (VU) had volgens de studente bio-informatica vooraf moeten controleren of studenten met een zwarte huidskleur even goed herkend worden als witte studenten. Dat zou niet het geval zijn geweest en daarom neerkomen op discriminatie.

Maar volgens het College heeft de universiteit aangetoond dat Pocornie tijdens haar tentamens niet meer problemen heeft ondervonden dan andere studenten.

“Voor zover de studente bij een van haar tentamens langer deed over het verificatieproces en tijdens het tentamen een herstart moest maken is vast komen te staan dat deze problemen te wijten waren aan feitelijkheden die geen verband hielden met haar huidskleur”, valt te lezen in het oordeel van het College. “Zoals een slechte internetverbinding of het dragen van een bril.”

Pocornie laat weten dat ze een andere uitkomst had verwacht. “De feiten blijven staan zoals ze zijn: ik moest met een lamp in mijn gezicht mijn tentamens maken, terwijl mijn witte medestudenten dat niet hoefden te doen. Het College heeft ook aangegeven dat ik gediscrimineerd ben door mijn eigen universiteit in hoe die mijn klacht heeft behandeld, en dat is pijnlijk.”

Ook is Pocornie teleurgesteld dat het College geen uitspraak doet over mogelijke discriminatie door antispieksoftware in het algemeen. “Het gaat nu alleen maar om mijn geval”, zegt ze tegen NU.nl. “Ook andere studenten zijn hiervan de dupe.”

Wel is de studente blij met alle aandacht die de zaak heeft gekregen. Ze merkt dat onderwijsinstellingen door haar zaak “een stuk bewuster” zijn gaan nadenken over of de technologie die ze gebruiken wel voor iedereen hetzelfde werkt.

Pocornie wordt juridisch bijgestaan door het Racism and Technology Center. Ook dat laat weten teleurgesteld te zijn in het oordeel van het College. “Het oordeel laat zien hoe moeilijk het is om ook juridisch te bewijzen dat een algoritme discrimineert”, zegt jurist en voorzitter Naomi Appelman.

In een schriftelijke reactie zegt de VU het zich “zeer aan te rekenen dat de student zich onvoldoende gehoord heeft gevoeld in haar ervaring”. Daarvoor biedt de universiteit excuses aan.

De universiteit belooft te onderzoeken of het afnemen van online examens verantwoord is en zo ja, hoe. Ze zegt te hopen op “meer bewustzijn over de mogelijk discriminerende effecten van algoritmes in software”.

De VU gaf in oktober toe dat ze niet bij mogelijke discriminatie door software heeft stilgestaan. Wel zei de universiteit dat ze heeft geprobeerd het risico van storingen in de software zoveel mogelijk te beperken. Studenten konden ermee oefenen tijdens een proefexamen. Als dat problemen opleverde, dan hadden ze volgens de universiteit de mogelijkheid om het echte examen in een universiteitsgebouw af te leggen.

NU.nl-techverslaggever Rutger Otto ontvangt vaker signalen van software die discrimineert op huidskleur. Volgens hem is het lastig om na te gaan of dit bewust of onbewust is. “Vaak is niet transparant hoe algoritmes worden getraind en met welke gegevens.”