Новости

Нейросеть Твиттера обвиняют в расизме: алгоритмы предпочитают выводить в превью белокожих людей

Христофор Миндыла Христофор Миндыла
Нейросеть Твиттера предпочитает выводить в превью белокожих людей. Но так ли это на самом деле?

Пользователи обвинили алгоритмы Твиттера в расизме. Поводом послужило то, что нейросеть выводит на превью преимущественно людей с белым цветом кожи.

Алгоритм разработан в 2018 году, он заточен на автоматическое отображение в предпросмотре самых важных участков фотографии. Тестирование, проведенное аудиторией в социальной сети на выходных, выявило, что на фотографиях, где изображены чернокожий и белокожий человек, предпочтение отдается последнему. Разработчик Тони Арcиери провел эксперимент, публикуя фото бывшего президента Барака Обамы и республиканского сенатора Митча Макконелла. Твиттер отобразил в анонсе Митча. В дальнейшем Арсиери менял изображения на картинке местами, переодевал политиков в графическом редакторе, но итог был все тем же. Алгоритм предпочел Обаму, лишь когда Тони инвертировал цвета на фото.

Боссы Твиттера уже обратили внимание на проблему. Представитель компании заявил в СМИ:

«Наша команда провела тест на предвзятость перед отправкой модели и не нашла доказательств расовой или гендерной предвзятости в нашем тестировании.

Но из этих примеров ясно, что нам нужно провести больше анализов.

Мы продолжим делиться тем, что узнали, какие действия мы предпринимаем, и откроем исходный код нашего анализа, чтобы другие могли его просматривать и воспроизводить».

Загрузить еще