(NLTimes) – Netherlands Institute of Human Rights a entrega su prome determinacion cu e ta posibel cu e algoritmo a discrimina contra di un persona. Un studiante na Vrije Universiteit na Amsterdam (VU) a entrega un keho cu e programacion usa pa monitor un examen cu a ser duna online no a reconoce su persona pa causa di su color di cuero ora cu el a purba tuma su examen.
VU awo mester demostra cu e programacion cu nan a usa no ta discrimina, e organisacion su hunta a skirbi den un decision interino. Durante e punto mas halto di e crisis di coronavirus, examennan na VU hopi biaha a ser duna online. Pa preveni fraude, studiantenan mester instala un programacion contra cheat riba nan computernan. Prome cu nan por haya acceso na e preguntanan di e examen, nan mester pasa door di varios chekeo incluyendo un cu ta usa un webcam.
Segun e studiante completando su Master, e programacion no a reconoce su cara. El a ricibi varios mensahe di eror, manera “cara no a ser mira” of “camber demasiado scur.” E programacion tambe a saca su persona for di e examen varios biaha, forsando cu e mester bolbe ingresa den e sistema y pasa door di e proceso.
E situacion a causa su persona “stress substancial” y “un sentimento di insiguridad” segun e hunta independiente di e instituto. E muhe ta bisa cu e programacion no pro a funciona debidamente pa causa di su color di cuero. “Generalmente ta conoci cu e algoritmo di deteccion di cara no ta fuciona cu mesun eficacia riba personanan di su color di cuero,” e instituto a skirbi. E organisacion a declara cu “e muhe a exitosamente provee suficiente hechonan unda cu por sospecha discriminacion.”
