Алгоритм рекомендаций Facebook спросил у пользователей, которые посмотрели видео с чернокожими мужчинами, хотят ли они «продолжать смотреть видео о приматах».
Facebook сообщил BBC, что это «явно недопустимая ошибка», отключил систему и начал расследование.
Фото: maxpixel.net
«Мы приносим извинения всем, кто, возможно, видел эти оскорбительные рекомендации, — говорится в заявлении. — Рекомендация приматов была алгоритмической ошибкой и не отражала содержание видео. Мы отключили функцию рекомендаций по темам, чтобы выяснить причину и предотвратить повторение ошибки. Как мы уже говорили, мы знаем, что наш ИИ несовершенен, и нам еще предстоит продвинуться вперед в его улучшении».
Подобная ошибка — не первое расовое предубеждение искусственного интеллекта. В 2015 году приложение Google Photos пометило фотографии чернокожих людей как «горилл».
Ранее Twitter заплатил украинцу за то, что он обнаружил расистский алгоритм обработки фото в соцсети.
Самые интересные истории и новости дня теперь в Telegram! Подписывайтесь на канал theLime и узнавайте о них скорее.