Агрегатора такси Uber обвинили в использовании «расистской» системы распознавания лиц для идентификации водителей. Союз водителей приложений и курьеров Великобритании (ADCU) выдвинул компании соответствующий иск.
BREAKING: in global first, the ADCU launches legal action against Uber's racist facial recognition software.https://t.co/cTIT96AXjV
— ADCU (@ADCUnion) October 5, 2021
В профсоюзе заявили, что принимают меры после несправедливого увольнения бывшего водителя Uber Имрана Джавида Раджи и бывшего курьера Uber Eats Па Эдриссы Манджанг из-за неудачных проверок с использованием технологии распознавания лиц.
«В прошлом году Uber заявил, что является антирасистской компанией […]. Но вместо искоренения расизма Uber внедрил его в свои системы, в результате чего сотрудники ежедневно сталкиваются с дискриминацией», — сказал президент ADCU Ясин Аслам.
По его словам, согласно лицензии Uber, предоставленной лондонскими властями, неудачные попытки верификации в приложении передаются городскому транспортному регулятору, который может аннулировать водительские права.
Одновременно с этим Независимый профсоюз работников Великобритании поддержал аналогичный иск другого бывшего водителя Uber, которого также уволили из-за провалившейся попытки биометрической идентификации. По их данным, с подобными проблемами столкнулись по меньшей мере 35 таксистов.
В организации призвали прекратить использовать «расистский алгоритм распознавания лиц» и восстановить отключенных водителей.
[1/6]🚨 End #RacistUber Algorithms! 🚨
Alongside @ukblm, we demand @Uber stop firing its BAME drivers because of a racist facial recognition algorithm. Share this thread, join the 24-hour #UberBoycott and sign the letter now to support striking drivers!https://t.co/D0mXnCp6pf pic.twitter.com/NIWW8iQpfr
— IWGB (@IWGBunion) October 6, 2021
В Uber обвинения отвергли, заявив, что «привержены пресечению расизма и борются за равенство — как внутри, так и за пределами компании». Согласно заявлению, биометрическая проверка водителей обеспечивает безопасность пассажиров.
«Всегда есть как минимум два человеческих экспертных обзора, прежде чем принимается какое-либо решение об удалении водителя», — заявили в компании.
Uber использует технологию распознавания лиц компании Microsoft с апреля 2020 года. Однако в 2019 году разработчики ПО признали, что оно не всегда хорошо работает по отношению к цветным людям и может не распознавать их.
Напомним, в апреле британец обвинил правительственный ИИ в расизме из-за ошибок определения лиц.
В начале апреля алгоритмы определения лиц программы для наблюдения за учащимися во время экзаменов обвинили в предвзятости к темнокожим студентам.
В начале 2019 года темнокожий американец провел десять суток в тюрьме из-за ошибки распознавания лиц.
Источник: Источник
