Алгоритм автоматической обрезки фотографий в ленте Twitter отдает предпочтение стройным девушкам. К такому выводу пришел исследователь Федеральной политехнической школы Лозанны в ходе конкурса по выявлению алгоритмической предвзятости в социальной сети.
Drumroll please! Our first-ever algorithmic bias bounty at #defcon wrapped this weekend, and the winners were announced at yesterday’s #defcon @aivillage_dc workshop. ICYMI, you can watch a recording of the presentation here https://t.co/0cCwSAzSAq
— Twitter Engineering (@TwitterEng) August 9, 2021
Аспирант кафедры компьютерной безопасности Богдан Кулинич использовал технику дипфейка для автоматического создания изображений различных лиц. Затем он протестировал алгоритм обрезки фото, чтобы увидеть, как он отреагирует на них.
Демонстрация работы алгоритма обрезки изображений. Данные: Twitter.
Кулинич выяснил, что инструмент кадрирования фотографий выделяет молодых и стройных женщин, оставляя других людей и объекты вне поля зрения.
«По сути, чем стройнее, моложе и женственнее изображение, тем вероятнее ему будет отдаваться предпочтение», — заявил главный научный сотрудник консалтинговой компании BNH и один из членов жюри Патрик Холл.
Исследователь безопасности в OpenAI Ариэль Герберт-Восс считает, что обнаруженные конкурсантами предвзятости алгоритма отражают предубеждения людей, предоставивших данные для обучения модели. По ее словам, тщательный анализ алгоритмов может помочь продуктовым командам устранить проблемы с их ИИ-моделями.
Дата-сайентист Даниил Швец: алгоритмам часто приписывают предвзятость, невзирая на зависимость данных
Первый конкурс по обнаружению алгоритмической предвзятости в Twitter проходил с 30 июля по 6 августа 2021 года. Итоги соревнования компания объявила 8 августа в рамках конференции DEF CON AI Village.
Победитель конкурса Богдан Кулинич получил от компании приз в размере $3500.
Напомним, в июне OpenAI сообщила, что смягчила предвзятость и токсичность в языковой модели GPT-3.
В апреле группа студентов пожаловалась на наличие предубеждений у искусственного интеллекта, который следит за тем, чтобы учащиеся не жульничали на экзаменах.
Источник: Источник
