Модерация СМС-сообщений

Блог

В этом материале мы опишем систему модерации СМС-сообщений, которая применяется в нашем сервисе рассылок.

В настоящее время применяется 3 режима модерации:

1. Ручная модерация: каждое СМС-сообщение, которое отправляет клиент или партнер, проходит ручную проверку на основании которой сотрудником-модератором принимается решение пропустить и отклонить сообщение. Данный режим применяется в целях недопущения отправки СМС-рассылок не этичного, не законного содержания к следующим группам клиентов и партнеров:
   • Новые клиенты и партнеры (как те, что еще только тестируют наш сервис, так и те, что заключили договор о сотрудничестве совсем недавно)
   • Клиенты и партнеры, в отношении которых есть сомнения в законности отправляемых СМС-сообщений (спам, мошенничество и т.п.) 
2. Нет модерации: все сообщения, которые отправляет клиент или партнер, отправляются без проверки сотрудником модератором. Данный режим применяется к исключительно надежным клиентам и партнерам, в отношении которых нет никаких сомнений. Также данный режим обычно применяется к типу трафика, где важна оперативность доставки (например, отправка одноразовых паролей и т.п.)
3. Автоматическая модерация: сотрудники-модераторы осуществляют проверку только тех СМС-сообщений, которые в тексте или имени отправителя содержат так называемые «стоп-слова», например, «акция», «кредит», «казино» и т.п. Данный режим применяется по умолчанию к основной массе клиентов и партнеров. В список стоп-слов входят названия банков, финансовых учреждений, названия наркотиков, табачных изделий и многое другое.

ВАЖНО:

1. Модерация сообщений — это инструмент для снижения вероятности осуществления СМС-рассылок, которые нарушают положения законодательства или требований операторов связи. Модерируя сообщения, мы снижаем риск получения штрафных санкций для наших клиентов и партнеров.
2. В случае ручной или автоматической модерации СМС могут приходить с некоторой задержкой (от нескольких секунд, до нескольких часов; обычно ручная модерация осуществляется в течение 1-5 минут после поступления СМС-сообщения на проверку)
3. Модерация осуществляется за наш счет (совершенно бесплатно для клиентов и партнеров)
4. Модерация не означает того, что наша компания теперь несет ответственность за Ваши СМС-сообщения (Вы продолжаете нести за них всю полноту ответственности)

Управление утверждением сообщений в Exchange Online

• 13.09.2021
• Чтение занимает 2 мин

В этой статье

Иногда имеет смысл назначить дополнительного пользователя для проверки сообщения перед его доставкой. Как администратор Exchange Online, вы можете настроить это. Требование утверждения перед доставкой сообщения называется модерацией, а утверждение сообщения — модератором.

Существует два основных способа сделать модерировать поток почты в Exchange Online:

• Требуется утверждение модератором сообщений, отправленных конкретному получателю. Можно настроить группы для модерации в центре администрирования Exchange (EAC). Для других типов получателей необходимо использовать Exchange Online PowerShell. Инструкции см. в инструкции Configure moderated recipients in Exchange Online

• Требуется утверждение для сообщений, которые соответствуют определенным критериям: для указания критериев отправки сообщений (например, контента сообщений, отправившего сообщения или получателей сообщений) используются правила потока почты (также известные как правило транспорта) и которые должны утверждать сообщение для доставки (которое может включать несколько уровней утверждения). Инструкции см. в инструкции Использование правил потока почты для сценариевутверждения сообщений в Exchange Online.

В остальной части этой статьи описывается, как модерация работает в Exchange Online.

Как работает процесс утверждения сообщений

При отправке сообщения умеренному получателю в Outlook в Интернете (ранее известном как Outlook Web App), вы будете уведомлены о том, что ваше сообщение может быть отложено, как показано на следующем скриншоте:

Модератор получает уведомление по электронной почте, чтобы утвердить или отклонить доставку сообщения. Текст уведомления включает кнопки для утверждения или отклонить сообщение, а вложение включает исходное сообщение для проверки.

Сообщение, ожидающих утверждения, временно хранится в системном почтовом ящике, называемом почтовым ящиком арбитража. Исходное сообщение хранится в почтовом ящике арбитража до тех пор, пока модератор не приступает к действию по сообщению. Модератор может принять одно из следующих действий:

• Утверждение. Сообщение передается исходным получателям. Отправитель не получает уведомления.

• Отклонение. Отправитель отправляет сообщение об отказе. Модератор может добавить объяснение, как показано на следующем скриншоте:

• Игнорировать или удалять сообщение об утверждении Отправитель отправляет сообщение об истечении срока действия. В Exchange Online срок действия запроса на утверждение истекает через два дня.

  Примечание

  Обработка просроченных умеренных сообщений выполняется каждые семь дней. Это значит, что такое сообщение может оказаться просрочено на сроке от двух до девяти дней.

Поток сообщений и результат действий модератора описаны на следующей схеме:

Задаваемые в умеренных количествах faq получателей

В. В чем разница между модератором группы и владельцем группы?

Ответ: Владелец группы рассылки отвечает за управление членством в группе. Например, ИТ-администратор может быть владельцем группы рассылки All Employees, но руководитель отдела кадров может быть настроен в качестве модератора, который отвечает за утверждения сообщений, отправленных в группу.

Кроме того, сообщения, отправляемые владельцем в группу рассылки, не должны быть утверждены модератором.

В. Что происходит, когда модератор отправляет сообщение группе рассылки?

О. Сообщение отправляется непосредственно в группу, минуя процесс утверждения.

В. Что происходит, когда только подмножество получателей нуждается в утверждении?

О. Рассмотрим сообщение, отправленное 12 получателям, одним из которых является модерировать группу рассылки. Сообщение автоматически делится на две копии. Одно сообщение немедленно доставляется 11 получателям, которые не требуют утверждения, а второе сообщение передается в процесс утверждения для модерации группы рассылки.

Если сообщение предназначено для более чем одного модератора, для каждого модерируется автоматически создается отдельная копия сообщения, и каждая копия проходит соответствующий процесс утверждения.

В. Что делать, если группа рассылки содержит модерировать получателей, которые требуют утверждения?

О. Группа рассылки может включать модерировать получателей, которые также требуют утверждения. В этом случае после утверждения сообщения для группы рассылки возникает отдельный процесс утверждения для каждого управляемого получателя, являющегося участником этой группы. Тем не менее, можно также включить автоматическое утверждение участников группы рассылки после утверждения сообщения для управляемой группы рассылки. Для этого в командлете Set-DistributionGroup используется параметр BypassNestedModerationEnabled.

Вопрос: Отличается ли этот процесс, если у нас есть собственные Exchange серверы?

О. По умолчанию для каждого локального почтового ящика Exchange организации. Если у вас есть собственные Exchange серверы и вам нужно больше почтовых ящиков арбитража для балансировки нагрузки, следуйте инструкциям по добавлению почтовых ящиков арбитража в Reassignи удалите почтовые ящики арбитража, которые используются для получателей с умеренным доступом. Почтовые ящики разрешения конфликтов — это системные почтовые ящики, для которых лицензия Exchange не требуется.

Премодерация комментариев и сообщений — что это такое и зачем нужна

Автор admin На чтение 21 мин. Опубликовано 10.02.2020

Модерация комментариев

Модерация комментариев – это возможность WordPress, позволяющая откладывать публикацию комментариев на сайте до тех пор, пока вы лично не проверите их. Модерация полезна для предотвращения спама в комментариях.

Как работает модерация

WordPress выполняет специальное тестирование для каждого нового комментария перед тем, как опубликовать его в блоге. Если комментарий не проходит один из этих тестов, он будет поставлен в очередь на модерацию. Администратор блога сможет впоследствии вручную одобрить или удалить подозрительный комментарий.

Вы можете задать настройки, которые будут влиять на модерацию комментариев. Сделать это можно в разделе Параметры – Обсуждение панели администратора.

Если вы хотите, чтобы каждый комментарий помещался в очередь на модерацию, установите настройку An administrator must approve the comment (администратор должен проверить комментарий). Вы можете установить ряд правил, в соответствии с которыми можно будет вычислить подозрительные комментарии и отправить их в очередь на модерацию. Эти правила задаются в разделе Параметры – Обсуждение в поле Модерирование Комментария.

Первая настройка, которая позволяет выявить нежелательные комментарии – это количество ссылок. Вы можете автоматически отправлять комментарии в очередь на модерацию, если они содержат определенное число ссылок на другие сайты. Большинство нормальных комментариев содержат максимум одну или две ссылки, в то время как спамерские комментарии могут включать в себя огромное число ссылок.

Вторая настройка для комментариев – это ключи модерации. Если эти ключи будут найдены в комментарии, то он автоматически будет отправлен на модерацию. Каждый ключ модерации должен быть задан с новой строки. Ключи модерации могут определять текстовые участки, IP-адреса и регулярные выражения.

Если вы добавили новый ключ модерации, его всегда можно протестировать с уже опубликованными комментариями. Для этого пройдите по ссылке Check past comments against moderation list, которая содержится под текстовым полем с ключами модерации. С помощью тестирования вы сможете проверить, какие из уже опубликованных комментариев не соответствуют установленным вами требованиям.

Поле под названием Comment blacklist (Черный Список) функционирует аналогично полю для модерации комментариев, за небольшим исключением: комментарии, которые попадают в черный список, удаляются сразу, без каких-либо уведомлений. Будьте осторожны, устанавливая в него какие-либо правила!

Некоторые средства блоггинга используют «блэклистинг» (помещение в черный список) для избавления от спама в комментариях. В этой ситуации, если бы вы попытались оставить комментарий, содержащий слова или домен, находящий в блэклисте (черном списке), то он был бы сразу же отклонен.

Почему WordPress не использует этот метод? Основной принцип борьбы со спамом – не навредить пользователям. Препятствия на пути комментирования могут причинить вред блогам, ориентированным на диалог с пользователями. Вместо того, чтобы отклонять комментарии, которые соответствует запрещенным ключам модерации, WordPress просто содержит их для изучения. Впоследствии, если этот комментарий был неверно отловлен фильтрами, автор блога сможет прочитать его и ответить читателю. Естественно, отсюда следует, что в очереди на модерацию может стоять довольно большое число нежелательных комментариев, однако специально для этого в WordPress существуют средства, позволяющие быстро управлять комментариями.

Что такое премодерация

3 ноября 2017 года. Опубликовано в разделах: Азбука терминов. 2665

Если сторонний пользователь пытается разместить на вашем сайте комментарий, то после его отправки сообщение проверяется вручную модератором, а только потом публикуется.

Например, если на заборе написано, что «Вася – дурак», то данное сообщение не прошло премодерацию. Если бы она была произведена, то после проверки умственных способностей Васи хозяином забора был бы отражен один из двух вердиктов: «Вася – глупый человек» или «Вася умный».

Комментарии: что это такое и для чего они нужны

Это средство общения между читателями и с администрацией сайта. Они влияют на продвижение, обеспечивая улучшение поведенческих факторов.

По умолчанию комментарий можно оставить под публикацией. Как только посетитель оставляет сообщение – оно уходит на модерацию, и если коммент устраивает модератора, то он отобразится на сайте под текстом. Чтобы публикации не задерживались, необходимо настроить отправку сообщения на электронную почту модератора о том, что пришел комментарий.

Где размещаются комментарии

• Под записями блогов, статьями, новостями и т.п.
• На форумах, досках объявлений.
• В новостных лентах соцсетей.
• В системах “Вопрос-ответ” на сайтах и т.п.

Для чего нужна премодерация

• Нередко открытые для публикации сервисы используются для продвижения сторонних сайтов: размещаются чужие ссылки, реклама, которая снижает рейтинг вашего сайта и портит сам веб-ресурс.
• Некоторые пользователи интернета находят особое удовольствие в троллинге – разжигании нелицеприятных споров, ругательств, ехидных замечаний не по теме и т.п. Премодерация помогает подавить агрессию пользователей.

Спамные комментарии

От спама необходимо избавляться. Итак, спам комментарий, какой он?

• В тексте присутствуют мусорные ссылки, ключи и странные определения.
• Сообщение оставляет человек с фейковым именем, к примеру «ОСАГО Воронеж» или «Сауна Волна».
• В тексте присутствует шаблонный текст типа «Понравилась статья» или «Интересная статья», а дальше – набор ключей или ссылок.

Если вы позволяете посетителям проявлять активность на сайте – внимательно следите за порядком. Какие бы умные люди не писали комментарии, часто возникают ситуации, требующие твердой руки модератора. Иначе ваш веб-ресурс превратится в сливную яму ссылок, рекламы и прочего ненужного спама.

Модератор должен быстро проверять сообщения и уметь противостоять вседозволенности, которая часто ассоциируется с интернетом.

– Опыт работы более 3х лет.
– Специально разработанные проекты.
– Отлаженные процессы.

М Модерация

Модерация – это в первую очередь контроль над выполнением требований в каком-либо сообществе, группе в соцсети, на форуме или онлайн-конференции. Термин происходит от устаревшего французского слова modération – умеренность, сдержанность. В современном понимании модератор – человек, наделенный более широкими правами, чем обычный интернет-пользователь на сетевых ресурсах.

Модерация – регулярный мониторинг одним модератором или группой соблюдения правил общения на конкретной площадке в сети или офлайне, которые установил владелец или администратор ресурса. Также в обязанности модератора входит проверка материала, который размещается пользователями на площадке.

Например, модератор тематического форума или сообщества в соцсети следит за тем, чтобы участники не нарушали установленные правила общения. То есть не флудили, не оскорбляли друг друга, не рекламировали «левые» товары и сервисы. Словом, всё, что запрещено владельцами и администрацией ресурса, то входит в чек-лист проверки модератора. В зависимости от «тяжести» и систематичности нарушений, он выписывает участнику предупреждение, временный или вечный бан.

Однако у модерации есть ещё одно направление, а точнее цель. Довольно часто живые или онлайн-конференции превращаются в нудные, никому не интересные заседания. В итоге – участники тратят время и энергию, но так и не приходят к единому выводу. Модератор на таких мероприятиях, пожалуй, самое ответственное лицо. Его задача состоит в том, чтобы подключить всех участников в рабочий процесс. И главное – следить за тем, чтобы обсуждение велось в тематическом русле, а члены группы концентрировались на сути.

В этом случае принципы работы модерации следующие:

• Систематичность. Модератор онлайн-конференций и бизнес-встреч следит, чтобы каждый вопрос обсуждался в логической последовательности.
• Структурность. Заседание имеет свой регламент и рабочий план. Их соблюдение обеспечивает профессиональная модерация.
• Прозрачность. Модератор контролирует выполнение установленных правил на конференции. Эти правила находятся в свободном доступе, и ознакомиться с ними может любой участник без ограничений.

Таким образом, модерация необходима для поддержания порядка, проверки информации пользователей на соответствии правилам форума, сайта или группы. Сегодня любая не модерируемая площадка быстро превращается в «клоаку» – скопище спама, чернухи и ссылок на сомнительные сайты. На конференциях, модератор, помимо контроля над соблюдением правил, координирует рабочий процесс.

Виды и способы модерации

На практике используются несколько видов модерации

1. Предварительная модерация. Любой контент или материал проверяется, прежде чем быть опубликованным на площадке. Что такое модерация сообщений? Например, комментарии или сообщения пользователей могут содержать спам, запрещенные темы или навязчивую рекламу. Такой контент отклоняется. Премодерацию используют на официальных сайтах компаний, в небольших тематических группах в соцсетях, блогах. Преимущества – максимальный контроль над качеством контента на ресурсе. Недостатки – низкая оперативность, то есть сообщения публикуются только после личной проверки. Зачастую премодерация используется как ограничительная мера для некоторых пользователей портала, которые систематически нарушают правила. Их сообщения и комментарии проверяются лично в течение определенного срока.
2. Постмодерация. Контент проверяется после его размещения на площадке. Преимущество – высокая оперативность коммуникаций пользователей. Недостаток – модератор должен всегда быть на форуме и следить за всем потоком сообщений. Это не просто.
3. Автоматическая модерация. На портале в сети устанавливаются фильтры и программы, которые проверяют контент по определенным критериям. Автомодерация часто используется в рекламных сервисах для проверки качества баннеров. На различных пабликах к модерации подключают самих пользователей. Например, предлагают им оценить публикацию – «полезно» или «бесполезно». Явным преимуществом пользовательской модерации является высокая объективность оценки. К недостаткам можно отнести возможность накрутки голосов или сговора против одного их пользователей и соответственно простановки большого числа «дизлайков».
4. Модерация конфликтов. На крупных форумах любой пользователь может пожаловаться на сообщение или нарушения его прав, предъявив письменную жалобу модераторам или администраторам ресурса. Конечно, рассматриваются только аргументированные претензии.

Кто такой модератор?

Модератор, согласно значению своего термина, призван сдерживать и умерять пользователей интернет-ресурса. Как мы уже писали выше – он следит за соблюдением правил сайта, контролирует общение посетителей.

В отличие от администратора, человека с неограниченными полномочиями на площадке, модератор имеет свой перечень обязанностей и прав. По сути, он выступает помощником админа в плане контроля над соблюдением правил форума.

Чтобы успешно выполнять обязанности модерирования, необходимо разбираться в тематике ресурса, обладать достаточным уровнем знаний в веб-программировании. Кроме того, модератор должен уметь разрешать конфликтные ситуации и споры, вести общение с пользователями.

К стандартным правам модератора относят:

• Редактирование и удаление сообщений пользователей;
• Блокировка и удаление аккаунтов забаненных участников;
• Предупреждение юзеров, применение санкций – временный, вечный бан;
• Ограничение прав – запрет на отправку сообщений, комментирования, просмотра тем площадки;
• Передача полномочий другому модератору.

В обязанности помощника администратора входят уведомление пользователей о важных событиях, изменениях на площадке и вне её. Кроме того, он должен следить за тематикой сообщений и при необходимости перемещать посты в нужный раздел. Модератор – это связующее звено между обычным пользователем форума и администратором. Именно поэтому он должен оперативно реагировать на просьбы и жалобы участников, а также соблюдать правила площадки.

Модератор применяет следующие виды санкций к нарушителям:

• Предупреждение;
• Удаление поста напрямую или выставление требования удалить сообщение, которое содержит недопустимый контент: спам, оскорбления, брань, рекламу;
• Начисление штрафных баллов;
• Блокировка пользователей, бан;
• Разблокировка пользователей после периода ограничений;
• Оповещение участников о нарушениях, призыв к соблюдению правил ресурса.

Какие модераторы бывают?

Для начала обобщенно рассмотрим типы модераторов, а далее изучим более подробно их обязанности и права.

• Супермодератор. По сути, это большой босс, который контролирует работу других помощников администратора ресурса. С его согласия и/или по его рекомендации назначаются модераторы среднего звена. Кроме того, в обязанности «главного» входит курирование работы всего сайта, форума, портала. Нередко, на крупных площадках супермодераторы имеют статус, близкий к администратору, со всеми полномочиями.
• Модератор чата – это такой же «бывший» обыкновенный пользователь, который наделяется полномочиями модерировать подконтрольный ему чат. Например, следить за соблюдением правил общения, контролировать попытки повторной регистрации или ведения мультиаккаунтов.
• Модератор форума/портала. Пользователь, который помогает админу ресурса, проверять сообщения, комментарии, опросы участников. Чем крупнее портал, тем больше требуется помощников.
• Модератор новостей. Пользователь ресурса, который проверяет новостную группу сообщений. Обычно это премодерация, но существуют крупные новостные порталы с автоматической или постмодерацией. В таком варианте помощник наделяется правами удалять размещенный контент, если он не соответствует правилам площадки.

Модератор форума

Типовые обязанности и права помощников админа на разных площадках чем-то схожи. Модератор здесь выступает неким «смотрителем» площадки или раздела. Его задача контролировать соблюдение участниками правил и помогать развивать ресурс. Хороший помощник поддерживает на площадке экологичную атмосферу, то есть своевременно решает спорные ситуации, выслушивает просьбы и жалобы пользователей.

• Проверка публикуемых участниками тем;
• Перенос постов и тем в нужные разделы;
• Удаление и редактирование тем;
• Контроль правил общения на форуме;
• Реагирование на жалобы и пожелания пользователей;
• Удаление несанкционированной рекламы;
• Создание подразделов и другое

• Участвовать в обсуждениях;
• Редактирование сообщений пользователей;
• Предложения по улучшению площадки;
• Блокировка, предупреждения участников за нарушения;
• Анонс мероприятий на форуме.

Модератор не0сет ответственность за соблюдение конфиденциальности информации пользователей. Он не должен разглашать данные об администрации и других помощниках портала, а также распространяться о техническом оснащении площадки.

Модератор в соцсетях

Участник сообщества, группы в социальной сети, который имеет полномочия контролировать действия других подписчиков и гостей. В частности он следит за качеством постов, соблюдением правил и норм общения, принимает участие в раскрутке паблика.

• Наполнение группы тематическим контентом;
• Оформление страницы;
• Проверка новостей, которые предлагают к размещению подписчики;
• Редактирование, удаление постов;
• Удаления спама в комментариях;
• Сбор статистики;
• Проведение конкурсов;
• Поддержание активности в сообществе.

• Мониторинг сообщений, постов, комментариев подписчиков;
• Контроль над соблюдением правил в сообществе;
• Удаление забаненных пользователей;
• Закрытие тем, которые не соответствует тематике или правилам сообщества;
• Выписка штрафных баллов подписчикам, исключение из сообщества;
• Выставление требований по редактированию постов, которые не соответствует политике паблика.

Главное отличие модератора в соцсетях в том, что он принимает активное участие в развитии группы, сообщества. По сути, он «админ на передовой». От его работы зависит активность в паблике, уровень лояльности подписчиков и их заинтересованность тематикой.

Модератор новостей

В обязанности помощника по этому блоку входит мониторинг новостей, отбор актуальных сообщений и их публикация на портале. Это если проверка выполняется в режиме премодерации. В случае с автоматическим размещением, модератор может удалять неактуальный контент или редактировать его содержимое.

Модератор чата

Модерация чата чем-то схожа с работой в соцсетях. Пользователь с полномочиями курировать сообщения других участников проверяет контент на соответствии тематике и правилам чата. Он имеет право предупреждать или исключать пользователей из переписки за различные нарушения. Например, повторная регистрация, мультиаккаунт, оскорбления и другое.

Преимущества и недостатки профессии

К несомненным плюсам профессии относят:

1. Удаленная работа. В большинстве случаев модерировать сайты, чаты, форумы и паблики в соцсетях можно вне офиса.
2. Модератор в России до сих пор ещё новая профессия, поэтому большинство крупных компаний имеют свободные вакансии.
3. Быстрая прокачка навыков общения и решения спорных ситуаций, что особенно хорошо для фрилансеров и удаленных сотрудников.
4. Модерация – это дисциплина, которой можно и нужно учиться самостоятельно.
5. Удобный график работы.

1. Модерация крупных ресурсов отнимает много времени даже на удаленной работе.
2. Модератор должен иметь навыки стрессоустойчивости, грамотной устной и письменной речи.
3. Требуется усидчивость и внимательность.
4. Необходимо разбираться в тематике площадки.

Резюме

Мы узнали, что такое модерация сайта, а также изучили схожие направления – соцсети, чаты, форумы и онлайн-конференции. Рассмотрели виды и способы модерации, права и обязанности модераторов. В конце статьи сравнили преимущества и недостатки этой профессии.

Технически стать модератором любого ресурса в сети несложно. Специальной подготовки не требуется, диплом не нужен. Главное – это понимать тематику сайта и быть на хорошем счету у администрации ресурса.

Премодерация

Премодерация — способ управления контентом, при котором сообщения пользователей (Обычно комментарии, посты) изначально видны лишь узкому кругу модераторов, которые решают, публиковать ли их в открытом доступе. Такая система позволяет свести на нет (или хотя бы минимизировать) спам, флуд, троллинг, оскорбления и другие явления, неизбежно возникающие при постмодерации.

Обычно существует категория участников, чьи комментарии публикуются сразу (например, как правило ими являются сами модераторы). Иногда в премодерацию попадают только посты с подозрительным содержанием, например содержащие внешнюю ссылку или последовательность букв, напоминающую мат (встречается в ЖЖ). Премодерация может работать постоянно, а может включаться только в особых случаях, например, как ответ на нашествие спамеров.

Содержание

[править] Преимущества

Премодерация имеет ряд преимуществ, по сравнению с постмодерацией в интернет-сообществах:

• Премодерация позволяет недопускать проявление троллинга, спама, оскорблений, а также других нарушений политики сайта. Таким образом она придерживается принципа предотвращения, а не борьбы с последствиями, в плане нарушения.
• На ресурсах, которые имеют высокую скорость постинга, частичная премодерация некоторых пользователей, может понизить вероятность вырождение интернет-сообщества, так как постинг, нарушающий правила не будет висеть некоторое время на сайте, (как при постмодерации) что может создать дискомфорт для некоторых пользователей, а также их желание поскорее покинуть данный ресурс.

[править] Критика

Премодерация часто критикуется. Существуют следующие аргументы против неё:

• Премодерация может быть использована для манипуляции общественным мнением (цензура). Если, например, модераторы будут стирать конструктивную критику, а пропускать только неадекватные выкрики оппозиции, то у читателей создастся неверное представление об отношении публики к посту (Тот, кто против — идиот). При постмодерации адекватная критика будет замечена, пусть даже стёрта впоследствии.
• Премодерация затрудняет нормальное общение. Например, пользователь может не знать, что на вопрос собеседника уже был дан более полный ответ, который ожидает модерации. В результате на один пост публикуется множество одинаковых ответов. Не говоря уже о том, что сообщения появляются не сразу. Если модераторский корпус в полном составе ляжет в больницу с тяжелым отравлением, общение станет невозможным.

[править] Цитаты

Премодерация (предмодерация) — анально-ретентивная (то есть, связанная «с напряжением до облегчения», по Фрейду) политика ресурса, при которой между отправкой юзером поста на ресурс и появлением его на нем проходит стадия просмотра (цензуры) поста модератором.

Вы, камрады, плохо себе представляете – что такое 50.000 человек в сутки и количество малолетних дебилов в сети. Премодерация – она не потому, что мне так хочется, а потому, что без неё всё умрёт в течение часа.

Автоматическая модерация комментариев — способ раскрутки блога на Вордпресс

Здравствуйте, уважаемые читатели блога KtoNaNovenkogo.ru. Это очередной пост из серии «не моих». Пару статей я просто купил у профессиональных копирайтеров (это были как раз публикации на актуальные для них темы — биржи Textsale и Етхт). Ну, а еще одну статью (Комментарии для Joomla с автомодерацией и защитой от спама) разместил сам не знаю почему, ибо денег за это не брал, да и с самим продуктом этого стартапа не знаком.

Ну, а это, собственно, вторая и заключительная часть публикации от того же автора, но уже касательно борьбы со спамом в комментах блога на WordPress.

Да, и уж раз «пошла такая пьянка», то хочу посоветоваться с вами по вопросам, которые можно было бы задать представителям славного буржуйского конструктора сайтов Wix. Они тоже хотели получить обзор их сервиса на моем блоге, но я подумал, что компромиссным вариантом будет интервью, на вроде этих. Чуть подробнее напишу внизу статьи в постскриптуме.

Модерация новых комментариев в блоге и проблема Капчи

Добрый день, читатели ktonanovenkogo.ru! Я думаю многие посетители этого сайта введут собственный блог, в том числе с целью заработать, собирая вокруг него постоянную аудиторию. Спустя какое-то время, благодаря вашим непрестанным усилиям по внутренней и внешней SEO оптимизации, наполнению уникальными статьями, у блога появляются постоянные читатели и наиболее активные из них комментируют новые материалы, отвечают на отзывы других посетителей.

С этого момента у вас, как у владельца, появляется новая задача — модерировать комментарии посетителей. А именно, не допускать появление спама, офотопов и личных оскорблений комментов, т.к. подобные сообщения отрицательно могут сказаться на репутации блога и его посещаемости.

Дабы решить эти задачи, большинство бесплатных и платных CMS использует CAPTCHA и премодерацию для фильтрации спама, а компрометирующие материалы либо модерируются после публикации комментария, либо удаляются на премодерации.

У каждого из этих методов есть свои недостатки, поговорим о них.

Капча требует дополнительных усилий со стороны посетителя для написания отзыва. Причем порой бывают Капчи такой сложности, что удается их пройти только с 3-5 попыток. Каждая такая попытка увеличивает шансы того, что посетитель в следующий раз предпочтет промолчать, чем писать новый комментарий. Пример не самой простой CAPTCHA от Google:

В то же время, по исследованиям западных коллег, наличие Капчи снижает конверсию в клиенты, либо количество комментариев в блоге более, чем на 30%! Т.е. это прямые потери качественного контента, который может привлекать трафик на сайт.

Кроме того, использование CAPTCHA это тоже самое, как если бы владелец кафе предлагал посетителям швабры, тряпки и моющие средства при входе в заведение, дабы они подтерли за собой пол и стол после посещения. Т.е. используя Капчу, владелец блога перекладывает решение проблемы спама на посетителей сайта.

Ручная и автоматическая модерация на основе релевантности

Премодерация — позволяет надежно защитить от спама и ненужного контента, если ее не использовать, то к тому же появляется проблема компромата в блоге, если вовремя не уследить, то словесная перепалка между посетителями может серьезно подпортить его репутацию.

Но применение премодерации отрицательно сказывается на количестве полезных комментариев в блоге. Т.к. теряется оперативность, накал страстей, а соответственно и количество обсуждений, а вместе с этим уменьшается количество полезного контента в блоге!

Однако все эти недостатки можно устранить, применив на блоге новый подход к модерации, а именно используя плагин автомодерации сообщений “Клинтолк” для WordPress. Суть его — использование функции анализа релевантности текста коммента относительно текста статьи и предыдущих комментариев к ней для решения задач — модерации в режиме онлайн, наполнения блога отзывами соответствующего его тематике.

Предлагаю перейти от теории к практике. В целях эксперимента я взял статью про Ликпей на этом блоге. Добавил ее в свой локальный блог с установленным плагином Клинтолк, а затем последовательно добавил реальные комментарии оставленные к оригинальной статье на сайте ktonanovenkogo.ru.

В результате 8 из 9 были автоматически опубликованы, т.к. являются 100% релевантными тексту статьи. Один отзыв (сообщение №2 от пользователя Александр) попало в очередь на ручную модерацию, т.к. было не достаточно релевантно и содержало html-ссылку.

Отлично! Продолжим эксперимент. Для демонстрации полезности функции автомодерации оставим комментарий на тему не связанную со статьей, для чего используем первый попавшийся текст из сервиса генерации уникальных текстов Яндекса. К примеру такой отрывок:

Результат — сообщение отправлено на ручную модерацию, т.к. не достаточно релевантно. Автомодератор выдал резюме:

*** Сообщение запрещено к публикации. Не затрагивает тематику материала. Номер запроса 0da84bb441b8e3114fc8a60ac1985d1b. Автомодератор cleantalk.ru. ***

Следующий пример, текст стандартного спам сообщения, коих миллионы, рассылается каждый день на блоги Интернета:

Сообщение так же отправлено на ручную модерацию. Таким образом блог был избавлен не только от офтопа, но и был остановлен очередной спаммер.

Если вы ищете способы увеличения посещаемости блога, работаете над лояльностью существующих читателей или вам хотелось бы меньше времени тратить на ручную проверку новых комментариев, то автоматическая модерация — это один из способов добиться поставленных целей.

Конечно, не стоит рассчитывать на то, что ее применение даст мгновенный, головокружительный результат, но это один из небольших шагов на длинном пути к качественному контентному сайту (СДЛ).

С уважением, Денис Шагимуратов. Руководитель проекта cleantalk.ru

Про интервью с представителем конструктора сайтов Wix

P.S. Немного поясню про свою просьбу помочь придумать вопросы для интервью с представителями конструктора современных сайтов Wix. Дело было так. Как обычно, рекламодатель (их баннер сейчас размещается вторым по очереди вверху всех статей блога) хочет получить несколько больше, чем просто баннер для сайта.

Отписываясь им в ответ о том, что рекламных постов не пишу и не размещаю, вдруг обнаружил, что мне реально интересно поподробнее узнать об этом популярном в буржунете проекте. Задал ряд вопросов о монетизации, хостинге, доменах и прочих вещах. Получил на это довольно общие ответы и в результате предложил им сварганить полноценное интервью с более развернутыми ответами на интересные мне вопросы.

Представителем WIX в общении со мной выступает хорошо говорящая (пишущая) по-русски девушка по имени Алена, которая фактически отвечает за продвижение проекта в рунете (раньше работала в техподдержке этого сервиса). На наш рынок они только вышли и даже на первый взгляд видно, что Wix здорово отличается от популярных в рунете конструкторов сайтов.

Яркий он какой-то, что ли. Шаблоны очень хорошо демонстрируют, какие именно дизайны сейчас популярны в буржунете. В общем, мне это стало интересно и если получится набрать достаточно вопросов, то возможно, в обозримом будущем выкачу интервью. Надеюсь на вас, уважаемые читатели. Да, забыл сказать, конструктор бесплатный, что, собственно, и подогревает интерес.

Построение автоматической системы модерации сообщений / Хабр

Автоматические системы модерации внедряются в веб-сервисы и приложения, где необходимо обрабатывать большое количество сообщений пользователей. Такие системы позволяют сократить издержки на ручную модерацию, ускорить её и обрабатывать все сообщения пользователей в real-time. В статье поговорим про построение автоматической системы модерации для обработки английского языка с использованием алгоритмов машинного обучения. Обсудим весь пайплайн работы от исследовательских задач и выбора ML алгоритмов до выкатки в продакшен. Посмотрим, где искать готовые датасеты и как собрать данные для задачи самостоятельно.

Подготовлено совместно с Ирой Степанюк (id_step), Data Scientist в Poteha Labs

Описание задачи

Мы работаем с многопользовательскими активными чатами, где каждую минуту в один чат могут приходить короткие сообщения от десятков пользователей. Задача состоит в выделении токсичных сообщений и сообщений с любыми нецензурными высказываниями в диалогах из таких чатов. С точки зрения машинного обучения — это задача бинарной классификации, где каждое сообщение нужно отнести к одному из классов.

Для решения такой задачи в первую очередь нужно было понять, что такое токсичные сообщения и что именно делает их токсичными. Для этого мы просмотрели большое количество типичных сообщений пользователей в интернете. Приведем несколько примеров, которые мы уже разделили на токсичные сообщения и нормальные.

Видно, что токсичные сообщения часто содержат нецензурные слова, но всё же это не обязательное условие. Сообщение может не содержать недопустимых слов, но быть оскорбительным для кого-либо (пример (1)). Кроме того, иногда токсичные и нормальные сообщения содержат одни и те же слова, которые употребляются в разном контексте — оскорбительном или нет (пример (2)). Такие сообщения тоже нужно уметь различать.

Изучив разные сообщения, для нашей системы модерации мы назвали

токсичными

такие сообщения, которые содержат высказывания с нецензурными, оскорбительными выражениями или проявлением ненависти к кому-либо.

Данные

Открытые данные

Одним из самых известных датасетов по задаче модерации является датасет с соревнования на Kaggle

Toxic Comment Classification Challenge

. Часть разметки в датасете некорректна: например, сообщения с нецензурными словами могут быть отмечены как нормальные. Из-за этого нельзя просто взять Kernel соревнования и получить хорошо работающий алгоритм классификации. Нужно больше работать с данными, смотреть, каких примеров недостаточно, и добавлять дополнительные данные с такими примерами.

Помимо соревнований есть несколько научных публикаций с ссылками на подходящие датасеты (пример), однако не все можно использовать в коммерческих проектах. В основном в таких датасетах собраны сообщения из социальной сети Twitter, где можно встретить много токсичных твитов. Кроме того, данные собирают из Twitter, так как можно использовать определенные хэштеги для поиска и разметки токсичных сообщений пользователей.

Данные, собранные вручную

После того, как мы собрали датасет из открытых источников и обучили на нем базовую модель, стало понятно, что открытых данных недостаточно: не устраивает качество модели. Помимо открытых данных для решения задачи нам была доступна неразмеченная выборка сообщений из игрового мессенджера с большим количеством токсичных сообщений.

Чтобы использовать эти данные для своей задачи, их нужно было как-то разметить. На тот момент уже был обученный бейзлайн классификатор, который мы решили использовать для полуавтоматической разметки. Прогнав все сообщения через модель, мы получили вероятности токсичности каждого сообщения и отсортировали по убыванию. В начале этого списка были собраны сообщения с нецензурными и оскорбительными словами. В конце наоборот находятся нормальные сообщения пользователей. Таким образом, большую часть данных (с очень большими и очень маленькими значениями вероятности) можно было не размечать, а сразу отнести к определенному классу. Осталось разметить сообщения, которые попали в середину списка, что было сделано вручную.

Аугментация данных

Часто в датасетах можно увидеть измененные сообщения, на которых классификатор ошибается, а человек правильно понимает их смысл.

Все потому, что пользователи подстраиваются и учатся обманывать системы модерации, чтобы алгоритмы ошибались на токсичных сообщениях, а человеку смысл оставался понятен. Что пользователи делают уже сейчас:

• генерируют опечатки: you are stupid asswhole, fack you,
• заменяют буквенные символы на цифры, похожие по описанию: n1gga, b0ll0cks,
• вставляют дополнительные пробелы: i d i o t,
• удаляют пробелы между словами: dieyoustupid.

Для того, чтобы обучить классификатор устойчивый к таким подменам, нужно поступить так, как поступают пользователи: сгенерировать такие же изменения в сообщениях и добавить их в обучающую выборку к основным данным.
В целом, эта борьба неизбежна: пользователи всегда будут пытаться находить уязвимости и хаки, а модераторы реализовывать новые алгоритмы.

Описание подзадач

Перед нами стояли подзадачи по анализу сообщения в двух разных режимах:

• онлайн режим — real-time анализ сообщений, с максимальной скоростью ответа;
• офлайн режим — анализ логов сообщений и выделение токсичных диалогов.

В онлайн режиме мы обрабатываем каждое сообщение пользователей и прогоняем его через модель. Если сообщения токсичное, то скрываем его в интерфейсе чата, а если нормальное, то выводим. В таком режиме все сообщения должны обрабатываться очень быстро: модель должна выдавать ответ настолько быстро, чтобы не нарушать структуру диалога между пользователями.

В офлайн режиме ограничений по времени работы нет, и поэтому хотелось реализовать модель с максимальным качеством.

Онлайн режим. Поиск слов по словарю

Вне зависимости от того, какая модель будет выбрана дальше, мы должны находить и фильтровать сообщения с нецензурными словами. Для решения этой подзадачи проще всего составить словарь недопустимых слов и выражений, которые точно нельзя пропускать, и делать поиск таких слов в каждом сообщении. Поиск должен происходить быстро, поэтому наивный алгоритм поиска подстрок за такое то время не подходит. Подходящим алгоритмом для поиска набора слов в строке является

алгоритм Ахо-Корасик

. За счет такого подхода удается быстро определять некоторые токсичные примеры и блокировать сообщения еще до их передачи в основной алгоритм. Использование ML алгоритма позволит «понимать смысл» сообщений и улучшить качество классификации.

Онлайн режим. Базовая модель машинного обучения

Для базовой модели решили использовать стандартный подход для классификации текстов: TF-IDF + классический алгоритм классификации. Опять же из соображений скорости и производительности.

TF-IDF — это статистическая мера, которая позволяет определить наиболее важные слова для текста в корпусе с помощью двух параметров: частот слов в каждом документе и количества документов, содержащих определенное слово (более подробно здесь). Рассчитав для каждого слова в сообщении TF-IDF, получаем векторное представление этого сообщения.
TF-IDF можно рассчитывать для слов в тексте, а также для n-грам слов и символов. Такое расширение будет работать лучше, так как сможет обрабатывать часто встречающиеся словосочетания и слова, которых не было в обучающей выборке (out-of-vocabulary).

from sklearn.feature_extraction.text import TfidfVectorizer
from scipy import sparse
vect_word = TfidfVectorizer(max_features=10000, lowercase=True, 
  analyzer='word', min_df=8, stop_words=stop_words, ngram_range=(1,3))
vect_char = TfidfVectorizer(max_features=30000, lowercase=True,
   analyzer='char', min_df=8, ngram_range=(3,6))

x_vec_word = vect_word.fit_transform(x_train)
x_vec_char = vect_char.fit_transform(x_train)
x_vec = sparse.hstack([x_vec_word, x_vec_char])

Пример использования TF-IDF на n-грамах слов и символов

После преобразования сообщений в векторы можно использовать любой классический метод для классификации: логистическую регрессию, SVM, случайный лес, бустинг.

В нашей задаче решили использовать логистическую регрессию, так как эта модель дает прирост по скорости работы в сравнении с другими классическими ML классификаторами и предсказывает вероятности классов, что позволяет гибко подбирать порог классификации в продакшне.

Полученный с использованием TF-IDF и логистической регрессии алгоритм быстро работает и хорошо определяет сообщения с нецензурными словами и выражениями, но не всегда понимает смысл. Например, часто сообщения со словами ‘black’ и ‘feminizm’ попадали в токсичный класс. Хотелось исправить эту проблему и научиться лучше понимать смысл сообщений с помощью следующей версии классификатора.

Офлайн режим

Для того, чтобы лучше понимать смысл сообщений, можно использовать нейросетевые алгоритмы:

• Эмбеддинги (Word2Vec, FastText)
• Нейросети (CNN, RNN, LSTM)
• Новые предобученные модели (ELMo, ULMFiT, BERT)

Обсудим некоторые из таких алгоритмов и как их можно использовать подробнее.

Word2Vec и FastText

Модели эмбеддингов позволяют получать векторные представления слов из текстов. Существует

два типа Word2Vec

: Skip-gram и CBOW (Continuous Bag of Words). В Skip-gram по слову предсказывается контекст, а в CBOW наоборот: по контексту предсказывается слово.

Такие модели обучаются на больших корпусах текстов и позволяют получить векторные представления слов из скрытого слоя обученной нейросети. Минус такой архитектуры в том, что модель обучается на ограниченном наборе слов, которые содержатся в корпусе. Это означает, что для всех слов, которых не было в корпусе текстов на этапе обучения, не будет эмбеддингов. А такая ситуация происходит часто, когда предобученные модели используются для своих задач: для части слов не будет эмбеддингов, соответственно большое количество полезной информации будет теряться.

Для решения проблемы со словами, которых нет в словаре, (OOV, out-of-vocabulary) есть улучшенная модель эмбеддингов — FastText. Вместо использования отдельных слов для обучения нейросети, FastText разбивает слова на n-грамы (подслова) и обучается на них. Для получения векторного представления слова нужно получить векторные представления n-грам этого слова и сложить их.

Таким образом, для получения векторов признаков из сообщений можно использовать предобученные модели Word2Vec и FastText. Полученные признаки можно классифицировать с помощью классических ML классификаторов или полносвязной нейросети.

Пример вывода “ближайших” по смыслу слов с использованием предобученного FastText

Классификатор на CNN

Для обработки и классификации текстов из нейросетевых алгоритмов чаще используют рекуррентные сети (LSTM, GRU), так как они хорошо работают с последовательностями. Сверточные сети (CNN) чаще всего используют для обработки изображений, однако их также

можно использовать

в задаче классификации текстов. Рассмотрим, как это можно сделать.

Каждое сообщение представляет собой матрицу, в которой на каждой строке для токена (слова) записано его векторное представление. Свертка применяется к такой матрице определенным образом: фильтр свертки “скользит” по целым строкам матрицы (векторам слов), но при этом захватывает несколько слов за раз (обычно 2-5 слов), таким образом обрабатывая слова в контексте соседних слов. Подробно, как это происходит, можно посмотреть на

картинке

.

Зачем же применять сверточные сети для обработки текстов, когда можно использовать рекуррентные? Дело в том, что свертки работают сильно быстрее. Используя их для задачи классификации сообщений, можно сильно сэкономить время на обучении.

ELMo

ELMo (Embeddings from Language Models) — модель эмбеддингов на основе языковой модели, которая была

недавно представлена

. Новая модель эмбеддингов отличается от Word2Vec и FastText моделей. Вектора слов ELMo обладают определенными преимуществами:

• Представление каждого слова зависит от всего контекста, в котором оно используется.
• Представление основано на символах, что позволяет формировать надежные представления для OOV (out-of-vocabulary) слов.

ELMo можно использовать для разных задач в NLP. Например, для нашей задачи полученные с помощью ELMo вектора сообщений можно отправлять в классический ML классификатор или использовать сверточную или полносвязную сеть.
Предобученные эмбеддинги ELMo достаточно просто использовать для своей задачи, пример использования можно найти здесь.

Особенности реализации

API на Flask

Прототип API был написан на Flask, так как он прост в использовании.

Два Docker образа

Для деплоя использовали два докер образа: базовый, где устанавливались все зависимости, и основной для запуска приложения. Это сильно экономит время сборки, так как первый образ редко пересобирается и за счет этого экономится время при деплое. Довольно много времени тратится на сборку и скачивание библиотек машинного обучения, что не нужно при каждом коммите.

Тестирование

Особенность реализации довольно большого числа алгоритмов машинного обучения состоит в том, что даже при высоких значениях метрик на валидационном датасете реальное качество алгоритма в продакшне может быть низкое. Поэтому для тестирования работы алгоритма всей командой использовали бота в Slack. Это очень удобно, потому что любой член команды может проверить, какой ответ выдают алгоритмы на определенное сообщение. Такой способ тестирования позволяет сразу увидеть, как будут работать алгоритмы на живых данных.

Хорошей альтернативой является запуск решения на публичных площадках вроде Яндекс Толоки и AWS Mechanical Turk.

Заключение

Мы рассмотрели несколько подходов к решению задачи автоматической модерации сообщений и описали особенности нашей реализации.

Основные наблюдения, полученные в ходе работы:

• Поиск слов по словарю и алгоритм машинного обучения, основанный на TF-IDF и логистической регрессии, позволили классифицировать сообщения быстро, но не всегда корректно.
• Нейросетевые алгоритмы и предобученные модели эмбеддингов лучше справляются с такой задачей и могут определять токсичность по смыслу сообщения.

Конечно, мы выложили открытое демо Poteha Toxic Comment Detection в фейсбук боте. Помогите нам сделать бота лучше!

Буду рад ответить на вопросы в комментариях.

модерация сообщений и участников, подсчет кармы и статистика подписчиков

Лучшие боты, которые стоит использовать каждому админу и модератору для управления группой или чатом 24/7. Статистика канала, взаимодействие с подписчиками, модерарация участников и сообщений.

Боты для работы

• Controller Bot (Telegram Messenger)
  Мультиязычная поддержка, Поддержка команд
• TelepostBot (Telegram Messenger)
  Коммуникации, Инструменты, Социальные сети
• Combot (Telegram Messenger)
  Поддержка команд
• ChatKeeperBot (Telegram Messenger)
  Новости, Фото и видео, Инструменты
• Модератор (Telegram Messenger)
  Поддержка команд

Controller Bot

@ControllerBot is an awesome bot for channel owners that helps you to create rich posts, view stats and more.

Features:
• scheduled posts
• reactions and inline-keyboards
• subscribers stats
• multiple admins
• full version for free

This bot is used in more than 100,000 channels.

Updates: @ControllerUpdates

controller.bot

Информация

Имя: @ControllerBot

✔ Мультиязычная поддержка

✔ Поддержка команд

TelepostBot

Telepost — лучший телеграм постинг для каналов и чатов.
Отложка, совместная работа, дружелюбный UI, черновики, реакции, умная разметка, визуальный редактор и многие другие фишки.

Добавь бот в свой канал или чат, и я помогу тебе делать публикации быстрее и удобнее.

Combot

Чат-бот Combot поможет админам групп в Telegram и лучше всего подходит для статистики групп, модерации, подсчета репутации участников сообщества. Добавьте бота в свою группу или супергруппу, и он сразу же начнет выполнять функции админа.

Информация

Имя: @combot

✔ Поддержка команд

🔗 Website

ChatKeeperBot

Меня зовут @ChatKeeperBot. Я бот модератор чата.

Я наведу порядок в твоем чате и автоматизирую большинство твоих действий!

Мне потребуется лишь должность администратора в твоем чате и немного твоего времени, что бы ты указал, что я должен делать.

Если остались вопросы, их можно задать в моем чате @ChatKeeperBotSupport а так же следить за моими новостями на канале @ChatKeeperBotNews

Модератор

Я бот-модератор для чатов, помогу тебе следить за ними пока тебя нет
Что я могу?
• Приветствовать новых участников чата
• Предупреждать и банить пользователей за мат в чате
• Вести статистику по сообщениям, по забаненным участникам чата
• Устраивать голосование за бан
🔥 Удалять спам используя нейросети🔥
Следи за новостями
@MagicBots

Информация

Имя: @AngryModerBot

✔ Поддержка команд

WhatsApp напугал модерацией – Коммерсантъ FM – Коммерсантъ

WhatsApp может столкнуться с оттоком пользователей из-за очередного скандала. Как выяснили американские СМИ, специальные модераторы получают доступ к личной переписке любого человека. Они могут просматривать сообщения, фото и видеозаписи. Но происходит это только после жалобы от пользователя. Например, на детскую порнографию или организацию теракта. В самой компании настаивают, что это нужно для предотвращения преступлений. Подробности — у Александра Мезенцева.

Через модератора переписок в WhatsApp за одну смену проходит около 600 подозрительных сообщений, обработка каждого занимает меньше минуты.

За час работы сотрудник получает $16. О таких условиях пишет американское издание ProPublica, которое поговорило с некоторыми бывшими модераторами. Схема выглядит так: пользователь отправляет жалобу на контент, его рассматривает искусственный интеллект. Причем берется сразу несколько сообщений, чтобы был понятен контекст. Потом информацию анализирует человек. Он может не реагировать, поставить учетную запись под наблюдение или заблокировать пользователя.

Ошибок и злоупотреблений в такой ситуации избежать трудно, говорит гендиректор компании «Киберполигон» Лука Сафонов: «WhatsApp принадлежит компании Facebook, которая имеет штат модераторов. Мы часто видим в новостях, что это модерирование работает неправильно. Совершаются ошибки, в том числе и автоматизированными системами распознавания, где есть ручная модерация. На нее тоже достаточно много жалоб из-за предвзятости и человеческого фактора.

Если поводом является жалоба, то ничего не мешает модераторам инициировать процесс, чтобы читать практически любую переписку».

Бывшие сотрудники неоднократно отбраковывали ошибки нейросети. Например, когда объявление «дети на продажу и убой» оказывалось рекламой о покупке молодых коз. Также, по словам модераторов, жалобы часто отправляли с целью запугивания или розыгрыша. Представители WhatsApp, кстати, признались, что некоторые сотрудники действительно имеют доступ к личным перепискам. Однако модераторами их считать нельзя — они не удаляют контент.

Подобные механизмы отслеживания есть во многих мессенджерах и соцсетях, рассказал консультант по интернет-безопасности компании Cisco Алексей Лукацкий. По его мнению, крупные утечки личных данных таким способом вряд ли возможны: «Слишком большое количество данных обычно не сосредотачивается в руках одного администратора, он имеет доступ к небольшой порции информации. Поэтому говорить о явных злоупотреблениях здесь не приходится. Однако все эти данные продаются различным внешним организациям — этого никто никогда не отрицал.

Если компания отдает свои приложения бесплатно, то она должна их монетизировать каким-то иным образом».

Сложно найти соцсеть, которую бы не подозревали в доступе к личным сообщениям и данным. В августе компания Apple заявила, что будет проверять диалоги и содержимое хранилища iCloud, но только на предмет детской порнографии. А Google обвиняли в том, что на основании переписки в почте сервисы предлагают контекстную рекламу. С WhatsApp же ситуация немного другая. Компания неоднократно настаивала, что использует сквозное шифрование, и сообщение могут прочитать только отправитель и получатель.

После такого обмана пользователи могут уйти из мессенджера, не исключил начальник отдела информационной безопасности SearchInform Алексей Дрозд: «Они могли намеренно искажать правду. Грубо говоря, шифрование есть, но оно доступно «на троих». Если это подтвердиться, то главная ошибка WhatsApp заключается в том, что они старались держать пользователей за дураков как можно дольше, обещая одно, а по факту делая совсем другое. С учетом того, что WhatsApp принадлежит Facebook, это может быть удар и в сторону соцсети».

WhatsApp неоднократно попадал в скандалы, так что те пользователи, которые сомневались в его приватности, наверняка давно перешли на другие площадки. Тем не менее, сервис остается одним из самых скачиваемых в мире сразу после TikTok, Instagram и Facebook.

Русская документация по phpBB 3.0 » Панель модератора (MCP) » www.teosofia.ru

Другая новая особенность в phpBB3 — панель модератора, в которой любой модератор почувствует себя как дома. Подобно панели администрирования, панель модератора выделяет текущие режимы работы модератора, на которые нужно воздействовать. При входе в панель модератора модератор приветствуется сообщениями, ожидающими его одобрения на окончательную публикацию, обжалованными сообщениями, а также последними пятью запротоколированными действиями, выполненными администраторами, модераторами и пользователями.

С левой стороны находится меню, содержащее все важные области панели модератора. Данное руководство описывает все имеющиеся разделы панели модератора, а также то, какой тип информации они содержат:

• Главная страница
  Эта страница содержит сообщения, ожидающие одобрения модератора, обжалованные сообщения и пять последних запротоколированных действий.
• Отложенная модерация
  Этот раздел содержит темы и сообщения, ожидающие одобрения модератора.
• Жалобы
  В этом разделе содержится список открытых и закрытых жалоб на сообщения.
• Заметки
  Это раздел, в котором администраторы и модераторы могут оставлять заметки о пользователях.
• Предупреждения
  В этом разделе вы можете выдавать пользователям предупреждения, просматривать текущие предупреждения, а также видеть пять последних предупреждений.
• Журналы
  В этом разделе содержится подробный список последних действий, выполненных администраторами, модераторами или пользователями, как это показано на главной странице панели модератора.
• Блокировка
  С помощью этого раздела вы можете блокировать пользователям доступ к конференции по именам, по IP-адресам или по адресам электронной почты.

4.5.1. Отложенная модерация

Раздел «Отложенная модерация» перечисляет темы или сообщения, которые ожидают некоторого действия модератора. Отложенная модерация доступна в панели модератора. Для получения более подробной информации относительно отложенной модерации смотрите раздел 4.3, «Что такое «Отложенная модерация?».

4.5.2. Жалобы на сообщения

Обжалованные сообщения — это сообщения, на которые пользователи отправляют жалобы. Все текущие жалобы на сообщения доступны в панели модератора. Для получения более подробной информации относительно жалоб на сообщения смотрите раздел 4.4, «Что такое «Жалобы на сообщения?».

4.5.3. Модерация форумов

При просмотре любого форума щелчок по ссылке «Панель модератора» перенесёт вас в раздел модерации форума. Здесь вы можете массово модерировать темы в пределах текущего форума с помощью выпадающего списка с действиями. Доступны следующие действия:

• Удалить: удаляет выбранные темы.
• Переместить: перемещает выбранные темы в другой форум по вашему желанию.
• Копировать: создаёт копии выбранных тем в другом форуме по вашему желанию.
• Закрыть: закрывает выбранные темы.
• Открыть: вновь открывает закрытые ранее темы.
• Синхронизировать: синхронизирует выбранные темы.
• Изменить тип темы: изменяет тип темы на важное объявление, объявление, прикреплённую, или на обычную тему.

Также вы можете массово модерировать сообщения в темах. Это может быть сделано с помощью панели модератора путём перехода в неё при просмотре форума с последующим щелчком по теме, которую вы хотите модерировать. Другой способ модерации темы состоит в том, чтобы щёлкнуть ссылку «Панель модератора» при просмотре темы, которую вы хотите модерировать.

При модерации темы вы можете: изменить заголовок темы, перенести тему в другой форум, изменить значок темы, объединить тему с другой темой, или указать количество сообщений для отображения на одной странице (это действие отменит установку по умолчанию).

С помощью выпадающего списка вы также можете выполнить следующие действия: заблокировать или разблокировать отдельные сообщения темы, удалить выбранные сообщения, перенести выбранные сообщения, а также отделить и отделить сообщения после выбранного.

Ссылка «Информация о сообщении», находящаяся рядом с сообщениями, позволяет изменить другие параметры, а также просматривать IP-адрес отправителя сообщения, профиль и заметки, возможность вынести предупреждение отправителю, также имеется опцию для изменения автора сообщения. Здесь же вы можете заблокировать или удалить сообщение с темы.

Примечание
В зависимости от прав, установленных для вашей учётной записи, некоторые из вышеупомянутых параметров и возможностей могут быть вам недоступны.

Как включить модерацию сообщений в группах Google: шаги, которые нужно знать здесь

Вот пошаговое руководство, которое может помочь вам включить модерацию сообщений в группах Google.

Выполните следующие действия, чтобы включить модерацию сообщений в группах Google | Изображение для представления

Группы Google — это место, где люди могут проводить онлайн-дискуссии на любую тему по своему выбору. Пользователи групп Google могут отправлять друг другу сообщения, чтобы обсуждать то, чем они хотят поделиться.В Группах Google можно также включить модерацию сообщений, чтобы сообщения одобрялись или блокировались перед отправкой остальной части группы. Теперь, если вы используете группы Google и хотите включить модерацию сообщений в группах Google, вам необходимо выполнить несколько простых шагов.

Вот пошаговое руководство, которое поможет вам включить модерацию сообщений в группах Google.

Как включить модерацию сообщений в группах Google

Вот несколько шагов, которые вы можете выполнить, чтобы включить модерацию сообщений в группах Google.

Действия по включению модерации сообщений в Группах Google

Выполните следующие действия, чтобы включить модерацию сообщений в Группах Google.

Шаг 1: Прежде всего, вам необходимо войти в группы Google.

Шаг 2: Вы должны нажать Мои группы .

Шаг 3: Вам нужно выбрать группу.

Шаг 4: В правом верхнем углу нажмите Управление группой .

Шаг 5: Вы должны нажать Настройки , а затем Модерация слева.

Шаг 6: Здесь вы должны выбрать желаемые настройки. Вы можете просматривать каждое сообщение или сообщения от новых участников или других участников, а также выбирать настройки для отклоненных сообщений.

Шаг 7: Наконец, вы должны нажать Сохранить .

Следуя этим шагам, вы можете включить модерацию сообщений в группах Google. Обратите внимание, что запросы на модерацию всегда отправляются менеджерам и владельцам групп.

Также помните, что сообщения, отправленные суперадминистраторами, всегда обходят модерацию и публикуются без утверждения.Это верно, даже если суперадминистратор отправляет сообщение с делегированной учетной записи электронной почты без прав администратора.

(Источник: Справка по группам Google)

Щелкните здесь, чтобы получить полный охват IndiaToday.in о пандемии коронавируса.

Умеренные сообщения | University Technology, [U] Tech

Вы можете использовать модерацию сообщений, чтобы одобрять сообщения перед их отправкой остальной части группы. Это дает вам возможность убедиться, что сообщения подходят для всей группы, прежде чем они будут опубликованы.

Только участники с разрешением модерировать сообщения могут одобрять сообщения.

Как включить модерацию сообщений

1. Перейдите на groups.case.edu.
2. Щелкните Мои группы > имя группы, которую вы хотите изменить .
3. Щелкните Управление в правом верхнем углу.
4. Щелкните Настройки в левом меню.
5. Щелкните Moderation и выберите желаемые настройки.

Настройки модерации

Включив модерацию, вы можете выбрать способ модерирования сообщений.Ваши варианты на экране настроек включают:

• Модерировать все сообщения для группы — вы будете одобрять каждое сообщение, прежде чем оно будет отправлено в вашу группу.
• Модерировать сообщения от новых участников (Ограничения для новых участников) — Сообщения новых участников будут модерироваться, пока вы не измените их индивидуальные разрешения на отправку сообщений, нажав «Управление»> «Действия»> «Установить разрешение на отправку сообщений» .
• Модерировать сообщения от лиц, не являющихся участниками группы — вам нужно использовать эту настройку, только если лицам, не являющимся членами группы, разрешено публиковать сообщения).
• Сообщать авторам, когда модераторы отклоняют их сообщение (уведомление об отклоненном авторе) — Вы можете написать собственный текст для сообщения об отклонении.
• Изменить настройки модерации для сообщений, которые Google определяет как спам (спам-сообщения). — Вы можете отправлять сообщения в очередь на модерацию с уведомлением модераторов или без такового, немедленно отклонять спам-сообщения или разрешать публикацию сообщений без модерации.

Примечание. Незавершенные сообщения будут удалены через семь дней, если они не будут одобрены менеджером.

Менеджер группы должен будет утверждать сообщения, если была включена модерация. Ожидающие сообщения будут удалены через семь дней, если они не будут одобрены. По умолчанию все менеджеры имеют разрешение «Утверждать сообщения». Другим членам группы может быть назначено разрешение «Утверждать сообщения», но уведомления об ожидающих сообщениях будут отправляться только менеджерам группы.

Как одобрить пост / сообщение

1. На экране тем щелкните меню настроек
2. Выберите Управление сообщениями .
3. Щелкните сообщение, чтобы прочитать его содержимое.
4. Установите флажок рядом с сообщением. Вверху экрана появятся четыре кнопки.
5. Нажмите одну из четырех кнопок:
   • Сообщение
   • Публиковать и всегда разрешать будущие сообщения от автора (эта функция будет работать только для сообщений, которые не определены как спам группами Google. Сообщение, определенное как спам, будет иметь символ рядом с темой).
   • Сообщить о спаме и забанить автора (ов) в этом форуме
   • Удалить

Совет. Вы можете установить флажок рядом с несколькими сообщениями, а затем нажать кнопку, чтобы выполнить то же действие с этими сообщениями.

Примечания:

• Сообщение, требующее утверждения, инициирует отправку электронной почты менеджеру, чтобы утвердить или отклонить публикацию, если сообщение не обнаружено как спам.

Управление утверждением сообщений в Exchange Online

• 30.08.2021
• 3 минуты на чтение

В этой статье

Иногда имеет смысл еще раз взглянуть на сообщение, прежде чем оно будет доставлено.Как администратор Exchange Online, вы можете это настроить. Требование утверждения перед доставкой сообщения называется модерацией , а лицо, утверждающее сообщение, называется модератором .

Существует два основных способа модерирования потока почты в Exchange Online:

• Требовать одобрения модератора для сообщений, отправленных определенному получателю. : вы можете настроить группы для модерации в центре администрирования Exchange (EAC). Для других типов получателей необходимо использовать Exchange Online PowerShell.Инструкции см. В разделе Настройка модерируемых получателей в Exchange Online

  .

• Требовать утверждения для сообщений, соответствующих определенным критериям : правила потока почты (также известные как правило транспорта) используются для определения критериев сообщения (например, содержимого сообщения, отправителя сообщения или получателей сообщения) и того, кто должен утверждать сообщение для доставки (которое может включать несколько уровней утверждения). Инструкции см. В разделе Использование правил потока обработки почты для сценариев утверждения сообщений в Exchange Online.

В оставшейся части статьи описывается, как модерация работает в Exchange Online.

Как работает процесс утверждения сообщения

Когда вы отправляете сообщение модерируемому получателю в Outlook в Интернете (ранее известном как Outlook Web App), вы получаете уведомление о том, что ваше сообщение может быть задержано, как показано на следующем снимке экрана:

Модератор получает уведомление по электронной почте, чтобы утвердить или отклонить доставку сообщения. Текст уведомления включает кнопки для утверждения или отклонения сообщения, а вложение включает исходное сообщение для проверки.

Сообщение, ожидающее утверждения, временно сохраняется в системном почтовом ящике, который называется арбитражным почтовым ящиком . Исходное сообщение хранится в почтовом ящике арбитража до тех пор, пока модератор не примет меры к сообщению. Модератор может выполнить одно из следующих действий:

• Утвердить : сообщение отправляется предполагаемым получателям. Первоначальный отправитель не уведомляется.

• Отклонить : отправителю отправлено сообщение об отклонении.Модератор может добавить объяснение, как показано на следующем снимке экрана:

• Игнорировать или удалить сообщение об утверждении Отправителю отправлено сообщение об истечении срока действия. В Exchange Online срок действия запроса на утверждение истекает через два дня.

  Примечание

  Обработка модерируемых сообщений с истекшим сроком действия выполняется каждые семь дней. Это означает, что модерируемое сообщение может истечь в любое время от двух до девяти дней.

Поток сообщений и результат действий модератора описаны на следующей диаграмме:

Часто задаваемые вопросы о модерируемом получателе

Q: В чем разница между модератором группы и владельцем группы?

A: Владелец группы рассылки отвечает за управление членством в группе.Например, ИТ-администратор может быть владельцем группы рассылки «Все сотрудники», но менеджер отдела кадров может быть настроен как модератор, отвечающий за утверждение сообщений, отправляемых группе.

Кроме того, сообщения, отправляемые владельцем в группу рассылки, не требуют утверждения модератором.

Q: Что происходит, когда модератор отправляет сообщение группе рассылки?

A: Сообщение отправляется непосредственно группе, минуя процесс утверждения.

В. Что происходит, когда утверждение требуется только для части получателей?

A: Рассмотрим сообщение, отправленное 12 получателям, один из которых является модерируемой группой рассылки. Сообщение автоматически разделяется на две копии. Одно сообщение немедленно доставляется 11 получателям, которые не требуют утверждения, а второе сообщение отправляется в процесс утверждения для модерируемой группы рассылки.

Если сообщение предназначено более чем для одного модерируемого получателя, для каждого модерируемого получателя автоматически создается отдельная копия сообщения, и каждая копия проходит соответствующий процесс утверждения.

В. Что, если группа рассылки содержит модерируемых получателей, которым требуется утверждение?

A: Группа рассылки может включать модерируемых получателей, которым также требуется утверждение. В этом случае после утверждения сообщения для группы рассылки для каждого модерируемого получателя, который является членом группы рассылки, выполняется отдельный процесс утверждения. Однако вы также можете включить автоматическое утверждение членов группы рассылки после утверждения сообщения для модерируемой группы рассылки.Для этого используйте параметр BypassNestedModerationEnabled в командлете Set-DistributionGroup.

В. Отличается ли этот процесс, если у нас есть собственные серверы Exchange?

A: По умолчанию для каждой локальной организации Exchange используется один почтовый ящик арбитража. Если у вас есть собственные серверы Exchange и вам нужно больше арбитражных почтовых ящиков для балансировки нагрузки, следуйте инструкциям по добавлению арбитражных почтовых ящиков в разделе Переназначение и удалите арбитражные почтовые ящики, которые используются для модерируемых получателей.Почтовые ящики арбитража являются системными почтовыми ящиками и не требуют лицензии Exchange.

Google Group Moderation · Техническая помощь · Lafayette College

Владельцы групп Google могут модерировать сообщения, отправляемые их участникам, чтобы защитить их от нежелательной почты. Модерация не активна по умолчанию и должна быть настроена соответствующим владельцем группы.

Владельцам и менеджерам обычно предоставляется разрешение определять, какие сообщения должны быть разрешены для отправки членам группы.Сообщения, предназначенные для модерации, будут появляться в очереди «Ожидающие сообщения» до тех пор, пока не будет принято решение об их рассылке.

Параметры модерации по умолчанию:

• Модерировать без сообщений (все сообщения отправляются участникам)
• Модерировать все сообщения (все сообщения помещаются в ожидание утверждения)
• Умеренные сообщения от нечленов (сообщения от участников пересылаются, а сообщения от нечленов хранятся в ожидании)

Примечание: Любое сообщение, которое Google подозревает в спаме, также будет помещено в «Ожидающие сообщения».

Настройки отклоненного сообщения:

Параметр Уведомление об отклоненном авторе определяет, получит ли отправитель отклоненного сообщения сообщение, уведомляющее его о том, что его сообщение не прошло. Варианты включают:

• Не уведомлять
• Сообщение об отклонении по умолчанию
• Пользовательское сообщение об отклонении

Включить модерацию сообщений

1. Войти в группы Google
2. Щелкните Мои группы и выберите нужную группу
3. В меню слева выберите Настройки группы
4. Прокрутите до раздела «Message Moderation» и выберите соответствующий уровень модерации.
5. Нажмите [Сохранить изменения]

Утвердить или отклонить ожидающие сообщения

Для утверждения или отклонения ожидающих сообщений у вас должна быть роль с разрешениями «Модерировать содержимое».Модераторы контента также получают электронное письмо с «отчетом модератора о спаме», в котором указаны все сообщения, считающиеся спамом.

Чтобы одобрить или отклонить ожидающие сообщения:

1. Войти в группы Google
2. Щелкните Мои группы и выберите нужную группу.
3. В левом боковом меню см. Беседы> Ожидающие
4. Чтобы прочитать сообщение, щелкните заголовок
5. В верхней части экрана выберите один из следующих вариантов: Установите флажок рядом с публикацией (ями).

• Подтвердить (галочка): утверждает сообщение
• Отклонить (⊗): блокирует сообщение
• Отклонить автора: запрещает автору отправлять сообщения группе и отмечает сообщение как спам

Примечание:

• Сообщения, которые не одобрены, автоматически удаляются через 14 дней.
• Сообщения, помеченные как спам (Google), автоматически удаляются через 7 дней.

Разрешения группы на публикацию и модерацию

Владельцы и менеджеры (при наличии) могут контролировать возможность участников публиковать сообщения в группе.Чтобы установить их разрешение на публикацию:

1. Войти в группы Google
2. Щелкните Мои группы и выберите нужную группу
3. В меню слева выберите Настройки группы
4. Прокрутите вниз до Политики разноски
5. Установите права модерации и публикации для каждого уровня членства в группе.
6. Нажмите [Сохранить изменения]

WITS: Справочные ресурсы — модерация групп Google

Модерация не активна по умолчанию, но является важной функцией, которая помогает владельцам и менеджерам групп защищать своих участников от нежелательной почты и неправомерного использования группой.

Модерация позволяет членам группы с достаточными привилегиями, обычно владельцам и менеджерам, определять, какие сообщения должны быть разрешены для членов группы. Сообщения, выбранные для модерации, хранятся в очереди «Ожидающие сообщения» до тех пор, пока не будет принято решение об их удалении.

Группы имеют несколько стандартных вариантов модерации:

• Умеренное сообщений нет
• Модерировать все сообщения
• Модерировать сообщения от нечленов

В дополнение к этим параметрам модерацию можно настроить для отдельных участников.Модерация зависит от разрешения на публикацию.

Модерирующие члены

По умолчанию владельцы и менеджеры контролируют индивидуальные настройки участников. Для участников может быть установлено любое из следующих разрешений на публикацию:

• По умолчанию
• Переопределение — Разрешить публикацию
• Переопределение — запретить проводку
• Переопределение — модерируемая проводка

Модерация зависит от разрешения на публикацию, поэтому, если вы не можете отправлять сообщения в список, вы не можете быть модерированными.Доступны следующие варианты публикации:

• Владельцы могут размещать
• Менеджеры могут размещать
• Все участники группы могут публиковать сообщения
• Члены организации могут публиковать сообщения (любой, у кого есть адрес электронной почты willamette.edu)
• Public (публиковать может любой желающий в мире).

Модерация и спам

Сообщения о подозрении на спам, в которых Google не уверен на 100%, также попадут в очередь «Ожидающие сообщения», даже в случае групп, настроенных без другой модерации.

Обработка отклоненных сообщений

Параметр Отклоненное уведомление автора. Параметр позволяет владельцам группы выбрать, будет ли отклонение сообщения инициировать отправку уведомления отправителю. Варианты:

• Не уведомлять
• Сообщение об отклонении по умолчанию
• Пользовательское сообщение об отклонении

XEP-0425: модерация сообщений

XEP-0425: модерация сообщений

Содержание

1. Введение
2. Обнаружение поддержки
3. Вариант использования
   1. Случай успеха
   2. Случай ошибки
4. Надгробия
5. Бизнес-правила
6. Соображения безопасности
7. Соображения IANA
8. Замечания к регистратору XMPP
   1. Пространства имен протокола
   2. Управление версиями протокола
9. Схема XML

Приложения

1. Информация о документе
2. Информация об авторе
3. Юридические уведомления
4. Связь с XMPPus84
5. Место проведения
6. Соответствие требованиям
7. Примечания
8. История изменений
9. Bib (La) Tex Entry

1.Введение

¶

Иногда модератор многопользовательского чата (XEP-0045) [1] может пожелать модерировать определенные сообщения группового чата, например, удаляя их из истории группового чата в рамках усилий по решению и устранению таких проблем, как спам в сообщениях, неприличные выражения в адрес места проведения мероприятия или раскрытие частной информации третьих лиц. В качестве альтернативы модератор может захотеть исправить сообщение от имени другого пользователя или пометить сообщение как неприемлемое, не требуя его отзыва.

Из-за федеративного характера XMPP и, как и в случае с любым другим инструментом модерации контента, запрос на модерацию может рассматриваться только как подсказка , и клиенты, которые не поддерживают модерацию сообщений, не обязаны выполнять любой такой запрос.

2. Обнаружение поддержки

¶

Если клиент или служба реализуют модерацию сообщений, они ДОЛЖНЫ указать функцию urn: xmpp: message-average: 0 в своих информационных функциях обнаружения службы, как указано в разделе «Обнаружение службы» (XEP-0030) [2] и профиле возможностей объекта. указано в Возможностях объекта (XEP-0115) [3].

Пример 1. Клиент запрашивает информацию у службы группового чата ¶

  <запрос xmlns = 'http: //jabber.org/protocol/disco#info'/>
 

Пример 2. Сервис группового чата объявляет о поддержке модерации ¶

  
...
    
...
  
 

3. Пример использования

¶

Рассмотрим ситуацию, когда пользователь отправляет сообщение, которое модератор группового чата может счесть несоответствующим. Служба группового чата добавит к сообщению уникальный и стабильный идентификатор строфы (XEP-0359) [4], прежде чем ретранслировать его всем участникам.

Пример 3. Клиент пользователя отправляет сообщение, и служба группового чата добавляет идентификатор строфы. ¶

  
   DM, чтобы получить бесплатные волшебные зелья! 
  
 

Модератор видит сообщение и указывает своему клиенту, что сообщение следует отозвать. Затем клиент отправляет раздел IQ в службу MUC, запрашивая отозвать сообщение.

Пример 4. Клиент модератора отправляет IQ-строфу в службу MUC ¶

  
    <умеренный xmlns = 'urn: xmpp: message-average: 0'>
      
       Это сообщение содержит недопустимый контент для этого форума 
    
  
 

3.1 Случай успеха

¶

Если модератору разрешено модерировать сообщение, служба группового чата отправит всем участникам (включая модератора) раздел сообщения, в котором будет указано, что сообщение было отозвано и кем.

Это сообщение будет использовать закрепление сообщения (XEP-0422) [5], чтобы указать, что оно применяется к модерируемому сообщению, путем ссылки на его идентификатор строфы XEP-0359.

Пример 5. Сервис группового чата отправляет сообщение модерации всем участникам ¶

  
    <модерируется='[email protected]/macbeth 'xmlns =' urn: xmpp: message-Modell: 0 '>
      
       Это сообщение содержит недопустимый контент для этого форума 
    
  
 

Служба группового чата также отвечает строфой «результат» IQ.

Пример 6. Служба группового чата отвечает на раздел IQ ¶

3.2 Случай ошибки

¶

В случае, если по какой-либо причине сообщение не может быть отозвано, служба grouchat отвечает строкой IQ типа error.

Пример 7. Служба группового чата отвечает строкой ошибки ¶

<тип ошибки = 'изменить'>
  <запрещенный xmlns = 'urn: ietf: params: xml: ns: xmpp-stanzas' />
  
    Только модераторы могут модерировать сообщения других участников.
  

 

4. Надгробия

¶

Служба управления архивом сообщений (XEP-0313) [6] МОЖЕТ заменить содержимое сообщения, которое было отозвано из-за модерации, «надгробным камнем», аналогичным описанному в разделе «Отзыв сообщения» (XEP-0424) [7] .

Служба архивирования заменяет содержимое сообщения (т.е. и любые связанные элементы, которые могут привести к утечке информации об исходном сообщении) элементом , который, в свою очередь, содержит элемент . Элемент ДОЛЖЕН иметь атрибут «by», определяющий JID модерирующего объекта.

Если сообщение было отправлено в полуанонимном MUC, идентификатор агента из анонимных уникальных идентификаторов агента для MUC (XEP-0421) [8] ДОЛЖЕН быть включен для модератора и автора сообщения в и элементы соответственно.

Пример 8. Убрана отметка захоронения сообщения группового чата в результате MAM ¶

<сообщение to='[email protected]/macbeth '>
  
    
      
      
        <идентификатора-агента xmlns = "urn: xmpp: id-агента: 0" />
        <модератором = "ведьма @ Shakespeare.пример ">
          <идентификатора-агента xmlns = "urn: xmpp: id-агента: 0" />
          
           Это сообщение содержит недопустимый контент для этого форума 
        
      
    
  
 

5. Бизнес-правила

¶

Модератор НЕ ДОЛЖЕН отправлять запрос на модерацию для сообщения с полезными данными, не связанными с обменом сообщениями.Например, модератор НЕ ДОЛЖЕН модерировать запрос на обмен элементом списка или часть передачи файла.

В MUC только сообщения модерации (не надгробные камни, а сообщения, содержащие элемент <умеренный />), полученные от самой службы MUC, являются допустимыми, все другие такие сообщения ДОЛЖНЫ быть отброшены.

Если модерация сообщения включает в себя запрос на отзыв, MUC или другой сервис, поддерживающий отзыв сообщения, ДОЛЖЕН предотвратить дальнейшее распространение отозванного сообщения службой, а служба архивации МОЖЕТ заменить отозванное сообщение надгробным камнем, как подробно описано в разделе «Отзыв сообщения» (XEP-0424). ) [7].

6. Соображения безопасности

¶

Никогда не может быть гарантии, что модерируемое сообщение будет отображаться как таковое во всех клиентах. Поэтому клиенты должны, по возможности, информировать пользователей о том, что такой гарантии не существует.

Чтобы предотвратить подделку сообщений, очень важно убедиться, что сообщение модерации исходит от службы MUC (как описано в разделе «Бизнес-правила»).

7. Соображения IANA

¶

Нет.

8. Рекомендации для регистраторов XMPP

¶

8.2 Версии протокола

¶

Если протокол, определенный в этой спецификации, подвергается пересмотру, который не является полностью обратно совместимым с более старой версией, регистратор XMPP должен увеличить номер версии протокола, находящийся в конце пространств имен XML, определенных здесь, как описано в Разделе 4 XEP. -0053.

9. Схема XML

¶

---

Приложения

Приложение A: Информация о документе

¶

Серия

XEP

Номер

0425

Publisher

XMPP Standards Foundation

Статус

Статус

Defer Версия

0.2.1. Нет

Краткое имя

модерация сообщений

Source Control

HTML

Этот документ в других форматах: XML PDF

Приложение B: Информация об авторе

¶

Марка JC

Эл. Почта

jc @ opkode.com

JabberID

[email protected]

Приложение C: Юридические уведомления

¶

Авторские права

Авторские права на этот протокол расширения XMPP принадлежат © 1999-2020 Фондом стандартов XMPP (XSF).

Права программного обеспечения, развертывать Спецификацию в сетевой службе, а также копировать, изменять, объединять, публиковать, переводить, распространять, сублицензировать или продавать копии Спецификации, а также разрешать лицам, которым предоставляется Спецификация, делать это в соответствии с условие, что вышеуказанное уведомление об авторских правах и это уведомление о разрешении должны быть включены во все копии или существенные части Спецификации.Если не предоставлено отдельное разрешение, измененные работы, которые распространяются повторно, не должны содержать вводящую в заблуждение информацию об авторах, названии, номере или издателе Спецификации и не должны требовать одобрения измененных работ авторами, любой организацией или проектом, которому принадлежат авторы или Фонд стандартов XMPP.

Отказ от гарантии

## ПРИМЕЧАНИЕ ХОРОШО: Данная спецификация предоставляется на УСЛОВИЯХ «КАК ЕСТЬ», БЕЗ ГАРАНТИЙ ИЛИ УСЛОВИЙ ЛЮБОГО РОДА, явных или подразумеваемых, включая, помимо прочего, любые гарантии или условия TITLE, NON. НАРУШЕНИЕ, КОММЕРЧЕСКАЯ ЦЕННОСТЬ ИЛИ ПРИГОДНОСТЬ ДЛЯ КОНКРЕТНОЙ ЦЕЛИ.##

Ограничение ответственности

Ни при каких обстоятельствах и без правовой теории, будь то правонарушение (включая халатность), договор или иное, если это не требуется применимым законодательством (например, умышленные действия или действия грубой небрежности) или не согласовано в письменной форме , должны ли XMPP Standards Foundation или любой автор данной Спецификации нести ответственность за убытки, включая любые прямые, косвенные, особые, случайные или косвенные убытки любого характера, возникшие в результате или в связи со Спецификацией или реализацией, развертыванием , или другое использование Спецификации (включая, помимо прочего, убытки из-за потери репутации, остановки работы, сбоя или неисправности компьютера, или любых других коммерческих убытков или убытков), даже если XMPP Standards Foundation или такой автор были уведомлены о возможности таких повреждений.

Соответствие IPR

Этот протокол расширения XMPP был предоставлен в полном соответствии с Политикой прав интеллектуальной собственности XSF (копию которой можно найти по адресу или получено путем письменного обращения в Фонд стандартов XMPP, PO Box 787, Parker, CO 80134 USA).

Визуальная презентация

Представление HTML (на которое вы смотрите) поддерживается XSF. Он основан на YAML CSS Framework, который лицензируется в соответствии с условиями CC-BY-SA 2.0 лицензия.

Приложение D: Связь с XMPP

¶

Расширяемый протокол обмена сообщениями и присутствия (XMPP) определен в спецификациях XMPP Core (RFC 6120) и XMPP IM (RFC 6121), внесенных Фондом стандартов XMPP в стандарты Интернета. Процесс, который управляется Инженерной группой Интернета в соответствии с RFC 2026. Любой протокол, определенный в этом документе, был разработан вне Процесса стандартов Интернета и должен пониматься как расширение XMPP, а не как эволюция, развитие или модификация самого XMPP.

Приложение E: Место для обсуждения

¶

Основным местом обсуждения протоколов расширения XMPP является список обсуждения .

Обсуждение в других списках обсуждения xmpp.org также может быть уместным; см. полный список на .

Исправления можно отправлять по адресу .

Приложение F: Соответствие требованиям

¶

Следующие ключевые слова требований, используемые в этом документе, должны интерпретироваться, как описано в RFC 2119: «ДОЛЖЕН», «ДОЛЖЕН», «ТРЕБУЕТСЯ»; «НЕ ДОЛЖЕН», «НЕ ДОЛЖЕН»; «ДОЛЖЕН», «РЕКОМЕНДУЕТСЯ»; «НЕ ДОЛЖЕН», «НЕ РЕКОМЕНДУЕТСЯ»; «МАЙ», «ДОПОЛНИТЕЛЬНО».

Приложение G: Примечания

¶

Приложение H: История изменений

¶

Примечание. Более старые версии этой спецификации могут быть доступны по адресу https://xmpp.org/extensions/attic/

1. Версия 0.2. 1 (2020-01-28) ¶ Типографское исправление

   vanitasvitae

2. Версия 0.2.0 (11.11.2019) ¶ Замените содержимое сообщения надгробным камнем (вместо замены самого сообщения)

   jcb

3. Версия 0.1.0 (2019-11-01) ¶ Принято голосованием Совета 16.10.2019.

   XEP Editor (jcb)

4. Версия 0.0.1 (2019-09-25) ¶

   Первый вариант

   jcb

Приложение I: Bib (La) TeX Entry

@report {brand2019message-moderation,
  title = {Модерация сообщения},
  author = {Brand, JC},
  type = {XEP},
  число = {0425},
  версия = {0.2.1},
  учреждение = {Фонд стандартов XMPP},
  url = {https://xmpp.org/extensions/xep-0425.html},
  date = {2019-09-25 / 2020-01-28},
} 

END

Модерация сообщений

Процесс модерации сообщений применяется, когда у автора нет разрешения на отправку сообщений. Автор не начинает рассылку сообщения напрямую. Вместо этого автор отправляет запрос на проверку в список утверждающих. Каждый пользователь в списке утверждающих имеет право просмотреть запрос. Утверждающий, который отреагирует первым, может утвердить или отклонить сообщение. В зависимости от решения утверждающего, Mapp Engage начинает рассылку или изменяет статус сообщения на отклоненное.

Вы настраиваете модерацию сообщений индивидуально для каждой группы.

Вкладка: Процесс модерации

Автор		Список утверждающих			Mapp Engage	9088 9088 9088 9088 9088 9088 9088
				9888
1. Создает сообщение.	2. Запрашивает одобрение.	3. Читает сообщение.	4. Предоставляет обратную связь.		5 б) Начинается отправка.

Подробности

1. Автор создает сообщение и настраивает рассылку.Отправка состоит из конфигурации раздельной отправки и планирования сообщений.

2. На последнем этапе процесса создания сообщения автору предлагается запросить одобрение, а не начать рассылку.

3. Mapp Engage отправляет уведомление в список утверждающих. Уведомление отправляется по электронной почте или SMS.
   Уведомление по электронной почте содержит вложение сообщения, которое необходимо утвердить.
   Если отправлен запрос на модерацию по SMS, утверждающий должен войти в систему, чтобы просмотреть сообщение.
   Модерируемое сообщение доступно в разделе Сообщение | Исходящие, пока он не будет одобрен или отклонен.

   Если для группы, получающей сообщение, активен флажок «Требуется принцип очного зрения», сообщение должно быть одобрено кем-то другим, кроме автора. Эту функцию нельзя использовать, если в списке утверждающих находится только автор.

4. Утверждающий дает отзыв автору. Первый утверждающий в списке, который реагирует на уведомление, решает, одобрить или отклонить сообщение.

5. По решению модератора Mapp Engage может обработать сообщение двумя способами:

   • Если модератор отклоняет сообщение, он устанавливает статус сообщения как отклонено и отправляет автору уведомление об отклонении.

   • Если модератор утверждает сообщение, он автоматически отправляет сообщение группе. Расписание рассылки определяет, когда будет отправлено сообщение.

Включить модерацию сообщений

Процесс модерации электронных писем требует различных конфигураций:

• Роли: вы назначаете роли, которые различают авторов и модераторов:

  • Авторам не предоставляется разрешение на сообщение: Отправить сообщения электронной почты 601.Отсутствие этого разрешения лишает автора возможности отправить электронное письмо.

  • Утверждающим предоставляются все необходимые разрешения для доступа и отправки электронных писем.

• Список утверждающих: вы создаете список пользователей, которым разрешено просматривать сообщение и которые имеют право отправлять электронные письма.

• Конфигурация группы: вы создаете параметры группы, которые назначают список утверждающих для группы. Mapp Engage связывается со списком утверждающих всякий раз, когда автор не может отправлять электронные письма.

Подсказка:

Управляйте своими авторами и утверждающими вне группы. Если ваши авторы и утверждающие являются членами группы, настройка процесса модерации сложна и ее трудно отследить.

Системные сообщения для модерации

Mapp Engage использует следующие системные сообщения в процессе модерации:

Процедуры

.