Кулинич доказал предвзятость Twitter к темнокожим и получил $3500: оказалось, что программа отдаёт предпочтение стройным и молодым людям со светлым цветом кожи.
Алгоритм Twitter, который автоматически подгоняет большие изображения под размер окна превью, работает в соцсети с 2018 года.
Впервые его обвинили в неосознанном расизме ещё в сентябре 2020 года.
Колин Медленд из Канады заметил странность, когда выложил серию фото с темнокожим коллегой. Алгоритм предпочёл вынести в превью лицо Колина, оставив второго человека за кадром.
Другие пользователи соцсети поддержали это наблюдение. Алгоритм отредактировал фотографии сенатора США Митча Макконнелла и экс-президента страны Барака Обамы, обрезав изображение так, чтобы оставить только светлокожее лицо. И даже на фотографиях собак он предпочёл более светлых животных.
Представители Twitter принесли извинения и заверили, что проведут дополнительный анализ, который проверит алгоритм на предвзятость. В мае 2021 года специалисты соцсети завершили изучение и подтвердили, что предвзятость есть. Алгоритм выбирает светлокожих людей вместо темнокожих и отдаёт предпочтения мужчинам, а не женщинам.
Эксперты назвали процент предвзятости «незначительным», но решили дополнительно объявить Bug Bounty — открытый конкурс на проверку ошибок в алгоритме. Победителем этого конкурса и стал Богдан Кулинич.
С помощью искусственного интеллекта Кулинич сгенерировал десятки лиц и проверил их в Twitter. Так он доказал, что алгоритм предпочитает выбирать на превью мужчин. «Худых, молодых, со светлым цветом кожи и мягкой ее текстурой, а также со стереотипно женственными чертами лица».
http://котлы-ярославль.рф Конверсия выросла, показатель отказов снизился.
...Присоединяйтесь к ОК, чтобы подписаться на группу и комментировать публикации.
Нет комментариев