Нейросеть Твиттера обвиняют в расизме: алгоритмы предпочитают выводить в превью белокожих людей
Пользователи обвинили алгоритмы Твиттера в расизме. Поводом послужило то, что нейросеть выводит на превью преимущественно людей с белым цветом кожи.
Алгоритм разработан в 2018 году, он заточен на автоматическое отображение в предпросмотре самых важных участков фотографии. Тестирование, проведенное аудиторией в социальной сети на выходных, выявило, что на фотографиях, где изображены чернокожий и белокожий человек, предпочтение отдается последнему. Разработчик Тони Арcиери провел эксперимент, публикуя фото бывшего президента Барака Обамы и республиканского сенатора Митча Макконелла. Твиттер отобразил в анонсе Митча. В дальнейшем Арсиери менял изображения на картинке местами, переодевал политиков в графическом редакторе, но итог был все тем же. Алгоритм предпочел Обаму, лишь когда Тони инвертировал цвета на фото.
Let's try inverting the colors… (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2
— Tony "Abolish ICE" Arcieri 🦀🌹 (@bascule) September 19, 2020
Боссы Твиттера уже обратили внимание на проблему. Представитель компании заявил в СМИ:
«Наша команда провела тест на предвзятость перед отправкой модели и не нашла доказательств расовой или гендерной предвзятости в нашем тестировании.
Но из этих примеров ясно, что нам нужно провести больше анализов.
Мы продолжим делиться тем, что узнали, какие действия мы предпринимаем, и откроем исходный код нашего анализа, чтобы другие могли его просматривать и воспроизводить».