1. Введение

Развитие информационных технологий принесло с собой достаточно новых проблем, связанных как с манипулированием общественного мнения

[1][2][3][4]

– продвижение или торможение контента;

– модерация контента часто предполагает сложное взаимодействие различных участников и видов деятельности.

Несмотря на это, по своей сути, модерацию контента по-прежнему можно определить как проверку, оценку, категоризацию, одобрение или удаление контента в соответствии с соответствующими коммуникационными и издательскими политиками

[5]

В рамках этой концепции распределенная (децентрализованная) модерация контента предполагает и поддерживает инфраструктуру модерации, в которой полномочия и ответственность за модерацию распределены между множеством участников или организаций. Важно отметить, что децентрализация не является бинарной противоположностью централизованной модерации, а лишь указывает на относительное распределение полномочий по принятию решений о распространении контента.

2. История и развитие

Учитывая, что изначально онлайн-общение осуществлялось в основном с помощью децентрализованных протоколов (например, SMTP или TTNP), а не корпоративных веб-сайтов, неудивительно, что на заре развития Интернета модерация контента также была в значительной степени децентрализована. Наиболее показательный пример такой ранней децентрализованной практики модерации контента представляет собой Usenet, распределенная система многопоточных форумов обмена сообщениями (так называемых групп новостей), распространяемая сетью независимых серверов. В то время как в самом Usenet не было универсальной политики в отношении контента или центрального органа, который мог бы обеспечить ее соблюдение, создатели групп новостей могли принять решение о «модерировании» группы. При этом каждая новая публикация пользователя требовала предварительного одобрения модератором, прежде чем она будет распространена среди других пользователей. Однако эта система предварительного одобрения стала узким местом и критической точкой отказа, от которой большинство создателей предпочли отказаться. Изначально отсутствие в Usenet эффективных инструментов модерации оставалось в значительной степени несущественным, так как большинство его первых пользователей принадлежали к однородной группе профессионалов, у которых были серьезные стимулы соблюдать общий сетевой этикет, чтобы не подвергать опасности свою репутацию в группе.

Однако, как только все более разнообразные демографические группы получили частный доступ в Интернет, такие дискурсивные соглашения было трудно поддерживать. Спам стал еще одной огромной проблемой, серьезно ставящей под угрозу удобство использования сервиса. Возможность серверов Usenet блокировать отдельных пользователей, размещать только новостные группы с определенными учетными данными или не распространять контент с других серверов, которые, как считается, содержат чрезмерное количество спама или другого «плохого» контента, предоставляла лишь довольно примитивные инструменты для решения этих проблем. Не в последнюю очередь и по этой причине Usenet, хотя и продолжает существовать, постепенно теряет свою актуальность.

В эпоху Web 2.0 появились гораздо более централизованные дискуссионные площадки, которые до сих пор считаются доминирующими социальными сетями, такими как Twitter* (теперь называется X), Facebook**, Instagram** или TikTok. Большинство из этих платформ внедрили единую политику в отношении контента в масштабах всей платформы, которая обеспечивается, в основном, централизованными механизмами модерации

[6][7][8]

Стремясь сделать обсуждение максимально увлекательным и соответствующим теме, эти правила зачастую выходят далеко за рамки запрета «вредного» контента и подробно предписывают, какие посты и комментарии разрешены

[9][10]

Наконец, в попытке предложить пользователям сети, альтернативы доминированию крупных социальных сетей, в последнее время возобновился интерес и началось интенсивное развитие по-настоящему децентрализованных онлайн-коммуникационных инфраструктур, возглавляемых протоколом ActivityPub и его флагманским сервисом социальных сетей Mastodon. Подобно Usenet, Mastodon не представляет собой единый веб-сайт, а скорее состоит из множества объединенных в сеть (федеративных) независимых серверов (так называемых «instances»). Каждый «instances»

Очень похожим примером является Bluesky, еще один новый сервис микроблогов, разработанный на основе нового децентрализованного сетевого протокола под названием AT-protocol. Помимо децентрализации модерации, обеспечиваемой федеративной архитектурой протокола, Bluesky также планировал предоставить пользователям больше возможностей для индивидуальной модерации с помощью таких функций, как настраиваемые механизмы выдачи рекомендаций и другое «middleware» для модерации. В качестве микропримера децентрализованной модерации контента можно рассмотреть очень популярные в России чаты жильцов, проживающих в одном доме. Такие чаты организуются в мессенджерах типа Max, Telegram, WhatsApp** и т.п. Модераторами таких чатов, как правило, являются неравнодушные жители этих домов, которые следят не только за выполнением требований законодательства, но и за тематикой и содержанием контента, размещаемого в чатах. Причем в одном доме может быть несколько чатов, тематически отличающихся друг от друга (животные, проезд во двор, капитальный ремонт дома и т.д.) и правила модерации могут в них отличаться.

Не оставим без внимание и российские социальные сети. В 2026 году на российском рынке соцмедиа продолжается этап перераспределения. После ухода одних игроков и роста других сформировалась устойчивая группа

[11][12]

Модерация контента в VK Видео происходит централизованно и автоматически: после загрузки ролик проверяется и, если нарушений не выявлено, публикация происходит в течение нескольких минут

[13]

– модератор может одобрить запрос и принять в группу или же отказать, также как и администратор группы, модератор может открывать новые темы и добавлять новые альбомы, также он может изменять созданные им альбомы и темы и удалять;

– модератор имеет права удалить находящиеся во всех альбомах фото и картинки, а также удалять сообщения, которые противоречат правилам группы и сайта Одноклассники в целом;

– модератор также наделен таким правом, как блокировать пользователей группы за некорректное поведение и нарушение правил группы и сайта

[14]

Сводная информация о типах модерации контента в некоторых популярных соцсетях и мессенджерах приведены в таблице 1.

* – соцсеть Twitter (ныне переименованная в X) заблокирована на территории России по требованию Генпрокуратуры.

** – принадлежит Meta, признана судом экстремистской и запрещена в Российской Федерации.

3. Типология

Как уже упоминалось, децентрализация как социотехнический процесс не может быть понята в бинарных терминах. Скорее, ее необходимо выражать в терминах степени распределения системы или инфраструктуры между различными «узлами» принятия решений. Кроме того, децентрализованная модерация контента может включать в себя множество практик и принимать различные формы

[15]

Первый фактор связан с формальным аспектом юрисдикции, то есть с тем, какие и сколько узлов управления обладают правом принятия решений или полномочиями в отношении конкретного контента. (Слово «юрисдикция» используется здесь в неюридическом смысле, а для того, чтобы указать, обладает ли конкретный узел правом вынесения решения и полномочиями в отношении данного онлайн-контента.) Различные узлы управления контентом могут обладать либо исключительной, либо частично совпадающей юрисдикцией в отношении определенного контента. Частично совпадающая юрисдикция приводит к децентрализации права принятия решений в отношении контента между различными узлами. Например, крупные платформы социальных сетей, как правило, обладают исключительной универсальной юрисдикцией в отношении большей части пользовательского контента, что означает, что собственная команда модераторов компании является единственным узлом управления, который может удалять контент для всех пользователей. В то же время, команды модераторов компании могут разделять юрисдикцию в отношении контента, размещенного в группах (например, на Facebook**), с администраторами этих групп

[16]

Во-вторых, различные варианты децентрализованной модерации контента можно охарактеризовать на основе автономии узлов модерации контента от соответствующих полномочий других, особенно иерархически вышестоящих узлов управления. Например, с одной стороны, можно сказать, что практика модерации на крупных платформах социальных сетей сильно децентрализована, поскольку решения распределяются между огромными группами модераторов, часто также с участием независимых подрядчиков. Однако, в конечном счете, хотя эти системы явно предполагают определенную степень многополярности или многоуровневого управления, специфика и жесткость правил внутренней модерации редко оставляют модераторам значительную самостоятельность в принятии решений, что приводит к эффективной централизации системы модерации. Еще одним важным фактором при оценке автономии модерации является то, насколько технологически закреплены полномочия по принятию решений. Например, хотя Reddit предоставляет модераторам сабреддитов значительные полномочия по модерации, эти «привилегии» могут быть легко отозваны, например, если Reddit решит изменить структуру сайта или в большей степени полагаться на централизованную модерацию контента. Напротив, структуры управления контентом, жестко заложенные в технологических протоколах, таких как платформы на основе Usenet или ActivityPub, предоставляют децентрализованным узлам модерации гораздо большую безопасность и автономию, гарантируя, что их методы модерации не будут подорваны или изменены сверху. Другими словами, они укрепляют автономию на инфраструктурном уровне.

В-третьих, последний фактор, определяющий эффективный уровень децентрализации модерации на платформе, — это возможность и относительная легкость, с которой участники могут покинуть платформу или перейти на новые форумы. Чем проще и дешевле администраторам форума или обычным пользователям создать новый форум или перейти на него, тем выше вероятность того, что платформа действительно децентрализуется и предложит пользователям несколько площадок для обсуждения. Например, ни Twitter* (теперь «X»), ни Instagram**, ни TikTok не предоставляют пользователям возможности выбора между различными форумами/системами модерации, что исключает один из самых фундаментальных уровней потенциальной децентрализации [17], [18]. Reddi или Mastodon, с другой стороны, позволяют пользователям создавать новые сабреддиты или переходить на новые платформы. Разница между этими двумя последними примерами может заключаться в относительной стоимости миграции. Факторы, определяющие эту стоимость, включают техническую легкость, с которой пользователи могут перейти на другой форум, или риск потери результатов своей прошлой активности на платформе, таких как существующие подписчики или другие учетные данные.

* – соцсеть Twitter (ныне переименованная в X) заблокирована на территории России по требованию Генпрокуратуры.

** – принадлежит Meta, признана судом экстремистской и запрещена в Российской Федерации.

4. Достоинства и недостатки

Как централизованные, так и децентрализованные формы модерации контента обладают своими сильными и слабыми сторонами. Пожалуй, самым большим преимуществом децентрализованной модерации является возможность распределения обязанностей по модерации между теми, кто наиболее хорошо осведомлен о тонкостях конкретных онлайн-сообществ. Таким образом, модераторы часто глубоко заинтересованы в укреплении, процветании и достижении целей этих сообществ и приобретают конкретный опыт и ноу-хау в отношении того, как достичь этих целей. Децентрализованная модерация контента, основанная на принципах традиционного федерализма как средстве ограничения власти, способствует системной эффективности, плюрализму, профессионализму, свободе личности и является потенциальным ответом на многие проблемы, связанные с распространенными в настоящее время моделями экономики внимания, ориентированной на рекламу. Распределенная самомодерация сообществ также может привести к более демократичным формам онлайн-управления. Наконец, децентрализованная модерация контента может обеспечить дискурсивное разнообразие во всей сети, а также смягчить возникновение чрезмерной власти модераторов или «единых точек отказа»

[19]

Децентрализованная модерация контента, однако, также сопряжена с рисками. Во-первых, децентрализованная модерация может создавать так называемые «эхо-камеры» и усиливать дискурсивную фрагментацию и поляризацию общества. Конечно, вопрос о том, действительно ли такие онлайн «эхо-камеры» нежелательны и можно ли их эффективно предотвращать, по-прежнему остается открытым. Однако другие есть и другие, более ощутимые недостатки децентрализованной модерации контента. Важнейшим из них, на наш взгляд, из них является то, что модерация требует больших ресурсов и времени. Децентрализованные методы модерации могут не только не поддаваться эффективному масштабированию, что довольно легко удается централизованным системам, но и могут страдать от отсутствия источников финансирования. Действительно, идеалы устойчивого самомодерирования сообщества могут противоречить логике получения прибыли, необходимой для доступа к традиционным источникам финансирования. Отсутствие источников финансирования и риск хронической перегрузки команд модераторов также означают, что дополнительные меры защиты пользователей, такие как повышение прозрачности или механизмы обжалования, иногда могут оказаться нежизнеспособными. Более того, некоторые согласованные атаки на онлайн-форумы, такие как скрытое проникновение ботов, могут быть обнаружены только системными администраторами; децентрализованным командам модерации часто не хватает данных и инструментов для противодействия таким действиям. Одним из решений этой проблемы может стать более широкое и доступное использование инструментов автоматической модерации, поскольку достижения в области технологий машинного обучения снижают затраты на обнаружение и удаление нежелательного контента. В любом случае, из-за скорости, масштаба и ресурсов, необходимых для такой модерации, риск коммерческого использования модерации контента в децентрализованных системах может привести к повторной централизации методов модерации

[20]

5. Заключение

Вряд ли можно сомневаться в том, что онлайн-коммуникация, как и любая другая, наиболее эффективно служит и удовлетворяет своих участников, если она происходит в духе уважения и сотрудничества, при этом все участвующие стороны в идеале разделяют общую цель. Децентрализация модерации контента стимулирует онлайн-сообщества размышлять, обсуждать и согласовывать цели своего сообщества, что может привить как участникам, так и модераторам культуру коллективной ответственности. Модерация контента и управление сообществом также должны основываться на традиционных федералистских принципах субсидиарности и локализма, и особенно на том, что управление, как правило, должно осуществляться на самом низком уровне, если иное не оправдано (например, соображениями практичности)

[21][22][23][24]

The additional file for this article can be found as follows: