Un ex conducente di Uber intraprende un’azione legale contro un software di riconoscimento facciale “razzista”

theguardian.com Un autista Uber che ha perso il lavoro quando il software di scansione facciale automatizzato non è riuscito a riconoscerlo, sta accusando l’azienda di discriminazione razziale indiretta in una azione legale. L’autista nero, che ha lavorato sulla piattaforma Uber dal 2016 all’aprile 2021, ha presentato una denuncia al tribunale del lavoro sostenendo che il suo account è stato disattivato illegalmente quando il software di verifica facciale utilizzato per accedere ai conducenti all’app di chiamata non lo ha riconosciuto.

L’Indipendent Workers’ Union of Great Britain (IWGB), che sostiene l’azione, ha affermato che almeno altri 35 conducenti avevano interrotto la loro registrazione con Uber a causa di presunti errori con il software dall’inizio della pandemia. Chiede a Uber di eliminare l'”algoritmo razzista” e ripristinare i conducenti rimossi.

Uber ha affermato di “confutare fermamente le affermazioni completamente infondate” e di essere “impegnato a combattere il razzismo e ad essere un campione per l’uguaglianza, sia all’interno che all’esterno della nostra azienda”. L’azienda ha affermato che i controlli sono stati “progettati per proteggere la sicurezza di tutti coloro che utilizzano l’app, garantendo che il conducente corretto stia utilizzando il proprio account”. I conducenti possono scegliere la verifica facciale della loro immagine e quando viene scelta la tecnologia “c’è sempre un minimo di due revisioni di esperti umani prima di qualsiasi decisione di rimuovere un conducente”, ha affermato.

Uber utilizza il software da aprile 2020. Nel 2019 Microsoft, che produce il software, ha ammesso che il software di riconoscimento facciale non funzionava altrettanto bene per le persone di colore e che perciò potrebbe non riconoscerle.

Studi su diversi pacchetti software di riconoscimento facciale hanno dimostrato che i tassi di errore nel riconoscimento delle persone con la pelle più scura sono stati più alti rispetto alle persone con la pelle più chiara, sebbene Microsoft e altri abbiano migliorato le prestazioni. Uber ha affermato che il suo software non si basava sulla scansione di un gran numero di volti, che era stato accusato di aver introdotto errori. Piuttosto ha verificato un’immagine già caricata del conducente rispetto al selfie appena inviato.

Secondo un recente sondaggio di Tf a Londra nove su 10 conducenti privati ​​a noleggio sono britannici neri o neri, britannici asiatici o asiatici o di razza mista .

“L’uso continuato da parte di Uber di un algoritmo di riconoscimento facciale che è inefficace sulle persone di colore è discriminatorio”, ha affermato Henry Chango Lopez, segretario generale dell’IWGB. “Centinaia di autisti e corrieri che hanno prestato servizio durante la pandemia hanno perso il lavoro senza alcun giusto processo o prova di illeciti”.

Un autista nigeriano che ha lavorato sulla piattaforma Uber Eats a Manchester fino a quando non è stato bloccato a marzo dopo diversi tentativi falliti utilizzando il software di verifica facciale, ha affermato che la sua famiglia ha dovuto affrontare “gravi sofferenze”.

Abiodun Ogunyemi, sposato e padre di tre figli, ha detto di aver accumulato debiti così alti che non poteva permettersi il biglietto dell’autobus di suo figlio per andare a scuola. Dice che la foto sui registri di Uber non mostrava i capelli o la barba più lunghi che ha attualmente, ma ha una cicatrice distintiva su un occhio e il resto del suo viso è visibile. “Sento che l’algoritmo è discriminatorio per le persone di colore”, ha detto. “Conosco circa cinque persone di colore a cui è successa la stessa cosa.”

Uber ha affermato che chiunque venga rimosso dalla piattaforma potrebbe presentare ricorso contro la decisione, con un’ulteriore revisione umana.

Il 10 aprile l’autista nel caso di prova, che ha chiesto di non essere nominato, ha provato ad accedere al lavoro inviando una foto tramite l’app, ma ha ricevuto un messaggio da Uber che diceva che non era riuscito a verificare la sua identità ed era stato bloccato fuori il sistema per 24 ore. Ha inviato una seconda foto dopo quel periodo, che non ha funzionato neanche.

Secondo la sua affermazione, quattro giorni dopo il suo account è stato disattivato e gli è stato inviato un messaggio che affermava: “Il nostro team ha condotto un’indagine approfondita e la decisione di porre fine alla partnership è stata presa su base permanente. La questione non è soggetta a ulteriore revisione”.

Il suo caso è anche sostenuto dall’organizzazione Black Lives Matter che ha affermato: “La gig economy, che già crea un’immensa precarietà per i lavoratori chiave neri, è ora ulteriormente esacerbata da questo software”.

Microsoft ha rifiutato di commentare un caso legale in corso.

(traduzione automatica di Google traduttore)