— Фейсбук — очень большая технологическая корпорация, – сказал Джефф Питерс.
-- Это напоминает мне, – сказал я, – бессмысленное изречение вроде «Почему существует полисмен?».
Действительно, 2,8 миллиарда активных пользователей ежемесячно и 1,8 миллиарда пользователей каждый день — это вам не баран начихал. Поди, уследи за всем, что они там пишут. Как это выглядит на практике? А вот так:
Хейтспичей стало больше (26,9 миллиона постов в IV квартале 2020 года против 22,1 миллиона постов в III квартале 2020 года). Основной прирост дали арабский и испанский сегмент ФБ. Под сегментом понимается не страна, а язык пользователей.
Чтобы держать в берегах потный вал вдохновения фейсбучников, компания использует 15000 модераторов (в основном на аутсорсе), которые и есть те люди, что банят пользователей, удаляют посты и выносят предупреждения.
«Банные» внутренние правила ФБ — это более 300 страниц текста. Уровень доступа, как минимум, совсекретно, накрайняк, жёсткий ДСП. На этих страницах скрупулёзно, до мельчайших деталей расписана вся работа модераторов. Детализация настолько дотошная, что в ней подробно описывается, какие смайлики означают «одобрение», а какие — «осуждение».
Вот это вот, для иллюстрации, то, что выражает явное одобрение: 😀😍❤️👍 и 👌 (модераторы, они же тупые).
Аутсорсер-модератор ФБ (Инстаграм тож) обязан точно знать, какой пост означает «поддержку» террористических групп и других «опасных лиц», уметь проводить различие между «объяснением» и «оправданием» действий террористов, и даже судить о том, использовано ли слово «газенваген» в хорошем смысле, или в нехорошем.
Собственно, любой пользователь ФБ может ознакомиться с общедоступной версией правил соцсети. Кому не лень, тот их найдёт самостоятельно. Однако свои секретные инструкции по модерации ФБ компания считает не предназначенными для всеобщего доступа. Потому что, внимание, следите за руками, тогда «злоумышленники узнают, как эти правила обходить».
Тут у нас в чистом виде ситуация, о которой писал ещё Бентам:
«Именно ФБ создает общие правила для пользователей. А знаете, как они его создают? Так же, как человек создает правила для своей собаки. Если ваша собака делает то, от чего вы хотели бы ее отучить, вы ждете, когда она это сделает, а затем бьете ее за это.
Таким способом создаются правила для вашей собаки, и так же фейсбук делает правила для своих пользователей.
Они не хотят сказать пользователям заранее, чего они (пользователи) не должны делать, и даже не позволяют сказать им об этом: фейсбук бездействует в ожидании, пока пользователь сделает то, что, алгоритмы и модераторы фейсбука считают, пользователю не следовало делать; и тогда они банят пользователя за это».
Для разруливания время от времени возникающих скандальных ситуаций в ФБ существует quasi-юридический орган, который выносит окончательные решения и толкует правила модерации сети.
Например, упоминание доктора Геббельса в ФБ запрещено, включая его изображения, тексты Геббельса и его цитаты.
Но если сравнить Трампа с Геббельсом, и привести соответствующую цитату из Геббельса на полстраницы, то тогда это можно. Я ничего не выдумываю, есть даже целое разбирательство по этому поводу.
«Компания Facebook утверждает, что в стремлении предотвратить и пресечь нанесение кому-либо вреда в реальном мире она запрещает присутствие на Facebook организаций и отдельных лиц (ныне живущих или умерших), вовлеченных в организованную деятельность на почве ненависти. Она также запрещает публикацию контента, в котором выражается поддержка или восхваление отдельных лиц и групп, занимающихся подобной деятельностью, а также лидеров этих групп. Компания Facebook не опубликовала список лиц и организаций, которых она причисляет к опасным.
В предоставленном Совету обосновании своего решения компания Facebook уточнила некоторые аспекты политики в отношении опасных лиц и организаций, не описанные в Нормах сообщества.
Во-первых, Facebook подтвердила, что нацистская партия (Национал-социалистическая немецкая рабочая партия, существовавшая в период с 1920 г. по 1945 г.) в 2009 г. внутренним решением компании Facebook была причислена к организациям, связанным с ненавистью. Йозеф Геббельс как один из лидеров этой партии был причислен к опасным лицам.
Во-вторых, Facebook расценивает весь контент, предположительно цитирующий лиц, причисляемых к опасным, как восхваление или выражение поддержки таких лиц, если только пользователь не предоставляет дополнительный контекст, поясняющий его намерения.
В-третьих, компания Facebook определяет соблюдение политики исключительно на основе текста и/или изображений, содержащихся в самой публикации, без оценки реакции на публикацию и комментариев к ней.
В этом случае контент включал только цитату, приписываемую Йозефу Геббельсу. Совет пришел к выводу, что публикация этой цитаты не продвигала идеологию нацисткой партии и не поддерживала действия режима, связанные с ненавистью и насилием. Комментарии друзей пользователя к публикации, по всей видимости, подтверждают заявление пользователя о том, что целью публикации было сравнение президентства Дональда Трампа с нацистским режимом».
Вот ещё пример того, как модераторы должны поступать при обнаружении подозрительных публикаций:
Текст «действия ИГИЛ в Сирии оправданы несправедливой оккупацией Ближнего Востока Соединенными Штатами» будет забанен по-любому.
Зато текст «ИРА подтолкнули к насилию жестокие действия британского правительства в Ирландии» будет разрешён.
Хотя и тут не всё так однозначно.
И текст «ИРА была права, применяя насилие для борьбы с жестокими действиями британского правительства» будет запрещен.
Умом и вы, и я понимаем, что в целях повышения смотрибельности, читабельности и посещабельности люди склонны публиковать сенсационный и провокационный контент.
Именно поэтому, кстати, Цукер, на заре фейсбучной туманной юности, запретил печатать в мордокниге картинки с сиськами (от этого когда-то даже пострадали подруги из группировки FEMEN, чьи аккаунты Цукер безжалостно снёс ещё лет так семь тому).
Логика в этом видна безупречная. Ибо в ином случае в ФБ уже давно ничего, кроме сисек, не осталось. И, возможно, это было бы лучше для всех нас.
На то есть, кстати, и чисто технологическая причина. На сегодня гораздо проще создать ИИ, алгоритмы которого будут отслеживать и блокировать сиськи, чем научить тот же ИИ выявлять хейтспич и разные всякие мемасики с грязным подтекстом. Тем не менее, задача такая есть и она решаема.
В I квартале 2020 года ФБ выявил и удалил 9600000 случаев контента, маркированного как хейтерский. В почти 90% случаев алгоритмы ФБ обнаружили крамолу раньше, чем о ней сообщили пользователи. В IV квартале 2020 года уже 97% хейтспича, забаненного в ФБ, были обнаружены ИИ до того, как лучи ненависти были отмечены пользователями (при эффективности ИИ в 80,5% в конце 2019 года).
Количество условных «сисек» в ФБ снизилось с 36,6 миллиона единиц контента в III квартале 2020 года до 28 миллионов в IV квартале 2020 года. То есть искусственный интеллект и алгоритмы ФБ умнеют сисськимассиськи, если воспользоваться определением Леонида Ильича Брежнева.
Таким образом, ФБ сейчас делает ставку на выявление контента, маркированного как «на грани фола», именно с помощью алгоритмов. И одновременно идёт алгоритмическое подавление этого контента.
А знаете, как в ФБ объясняют своё нежелание публиковать мотивированные правила, по которым работают модераторы и под которые затачиваются алгоритмы ИИ?
Правильно, не желают публиковать именно для того, чтобы держать пользователей в страхе. Цукерберг уже давно постановил, что пользователь ФБ должен всё время бояться пиздануть что-нибудь не то. То есть перестраховываться ещё на той стадии, когда пользователю в голову взбредёт что-то запостить. А не вступать потом с модераторами в дискуссии о том, что можно, а что нельзя (если поймают).
Тут у ФБ тоже интересная политика. Они, допустим, считают террористами только тех, кого сами записали в террористы.
Поэтому хвалебный текст про бандеровцев из ОУН/УПА на ФБ будет жить долго и счастливо. А статья про зверства украинских полицаев, которые сожгли белорусскую Хатынь, не провисит на ФБ и двух минут.
Объявление фанатов «Русскаго мiра»: «свяжитесь с нами через Telegram» в ФБ уничтожат сразу. Объявление о сборе денег для БЛМ, напротив, будет максимально раскидано по соцсети.
Впрочем, есть 4 позиции, которые железно не прокатывают на ФБ. Это белый супремацызм, белый национализм, белый сепаратизм и национал-социализм. Если же всё это чёрное, то можно.
Такова их дислокация.