Обновляемый алгоритм Facebook «против ненависти», похоже, предполагает, что только некоторые виды оскорблений неприемлемы в соцсети.

Facebook пересматривает свои алгоритмы для удаления «хейт спич» («враждебных высказываний»), потому что политика, которую он считал расово нейтральной, расстраивала многих чернокожих пользователей и сотрудников.

В частности, согласно внутренним документам, полученным газетой, протокол предписывает своим роботам сосредоточиться на «худшем из худшего»: «оскорблениях, направленных на чернокожих, мусульман, людей смешанных рас, сообщество ЛГБТК и евреев».

Фанатизм по отношению к мужчинам, белым и американцам не будет автоматически отмечен, поскольку они обладают «низкой чувствительностью».

(Что уже говорить о каких-нибудь русских, их можно оскорблять вообще безнаказанно, – прим. переводчика).

«Мы знаем, что враждебные высказывания, нацеленные на недопредставленные группы, могут быть самыми вредными, поэтому мы сосредоточили наши технологии на поиске враждебных высказываний, которые, по мнению пользователей и экспертов, является наиболее серьезными», – сказала The Post пресс-секретарь Facebook Салли Олдос.

По-видимому, старые алгоритмы автоматически удаляли сообщения, в которых чернокожие просто рассказывали о своем опыте расизма. Но вместо того, чтобы исправить эту проблему, Facebook решил, что расизм по отношению к белым либо не расизм, либо вообще не считается. Вы можете написать, например, «белые глупы», и вас не помечают. Но если вы сказали это о другой расе…

Как это решает проблему? Если Facebook считает, что его алгоритмы не обнаруживают разжигание ненависти, пусть улучшит эти алгоритмы. Но как сокращение цензуры в отношении одной группы людей поможет лучше справляться с цензурированием другой группы людей?

Это совсем не похоже на решение: похоже, сотрудники Facebook решили, что только определенные виды оскорблений имеют значение.

«Поскольку описание опыта дискриминации может включать в себя критику белых людей, алгоритмы Facebook часто автоматически удаляли этот контент, демонстрируя, как даже продвинутый искусственный интеллект может чрезмерно усердствовать в решении сложных вопросов», – говорится в статье The Washington Post, посвящённой этому же вопросу.

«Мы не можем бороться с системным расизмом, если не можем говорить о нем, а оспаривание превосходства белых людей – важная часть диалога о расизме», – сказала Даниэль Ситрон, профессор права, специализирующаяся на свободе слова в юридическом отделении Бостонского университета. «Но у вас не может быть разговора, если он, как ни странно, отфильтровывается чрезмерно грубыми алгоритмами языка ненависти», – добавила она, объясняя, почему теперь дискриминация обратилась против белых людей.

(Впрочем, не понятно, как враждебные высказывания в адрес белых связаны с оспариванием превосходства белых – прим. переводчика)