Стартап Clearview AI, разрабатывающий скандально известный инструмент распознавания лиц, увеличил запас обработанных изображений до более чем 10 млрд и анонсировал ряд новых функций. Об этом генеральный директор компании Хоан Тон-Тэт рассказал в интервью WIRED.
По его словам, изображения базы данных распознавания лиц скопированы из открытых источников. Тон-Тэт добавил, что компания разрабатывает ряд новых функций на основе машинного обучения, в том числе инструменты «деблюринга» и «удаления маски».
Первая с помощью алгоритмов искусственного интеллекта увеличивает разрешение изображений низкого качества и добавляет к ним дополнительные детали.
Функция удаления маски использует статистические шаблоны, обнаруженные на других изображениях, чтобы угадать, как человек может выглядеть под ней.
По словам профессора Массачусетского технологического института Александра Мэдри, такие инструменты не смогут выдать высокую точность предсказания.
«И даже помимо точности, без тщательного контроля над набором данных и процессом обучения, я ожидал бы появления множества непреднамеренных предубеждений [со стороны алгоритма]», — сказал он.
Мэдри добавил, что использование подобных систем ставит под угрозу права людей, которые «замаскировались для участия в мирном протесте или защиты частной жизни».
Тон-Тэт ответил критикам, что «программное обеспечение не может арестовать кого-либо само по себе». Однако к любым улучшенным изображениям следует относится с особой осторожностью при проверке результатов, добавил он.
«Я хочу, чтобы эта технология всегда находилась под контролем человека. Когда ИИ ошибается, его должны проверять люди», — заявил Тон-Тэт.
Напомним, в январе 2020 года The New York Times выпустила расследование о деятельности компании Clearview AI, которая разработала систему распознавания лиц и предоставила к ней доступ сотням правоохранительных департаментов в США.
Распознавание лиц, расизм и полиция: история одного стартапа
В феврале 2021 года канадские власти обвинили компанию в незаконном сборе данных граждан.
В апреле американский сенатор предложил на законодательном уровне запретить правительственным учреждениям покупать данные Clearview AI без судебного ордера.
В мае европейские правозащитники подали жалобы на разработчика системы распознавания лиц.
В июле Clearview AI привлек $30 млн в рамках раунда Серии С.
Источник: Источник
