Модерация контента для детской аудитории Youtube, TikTok и Likee
Модерация контента для детской аудитории Youtube, TikTok и Likee
Елена Жабинская · 04.08.2020

В одном из наших недавних блогов, посвященном модерации контента, мы затронули проблему защиты детей — проблему, которую чаще всего решают путём полного запрета на создание и самостоятельное ведение аккаунтов. Разумеется, эта формальность позволяет администраторам ресурсов реагировать на критические ситуации, но почти никак не влияет на реальную картину. Дети не только являются активными пользователями большинства социальных сетей, но и становятся для некоторых из них ядром аудитории. Таких платформ на сегодняшний день довольно много, но наиболее популярные — YouTube, TikTok и Likee. Сегодня предлагаю обсудить на примере некоторых из них основные механики Trust&Safety в приложении к самым юным блогерам и их поклонникам.

Добро пожаловать, или вход воспрещён

Как уже было сказано, присутствие детей в социальных сетях — серая зона. Высокие риски безопасности, как информационной, так и личной, приводят к довольно строгим ограничениям со стороны регуляторов. В Российской федерации тоже не так давно был принят в новой редакции закон, возлагающий суровую ответственность на ресурсы за выявление и блокировку опасного для детей контента. Активнее всего обсуждался запрет на мат, но пунктов, классифицирующих запрещённую информацию, гораздо больше, и часть из них прямо ориентирована на детей (вовлечение их в незаконную или опасную деятельность).

Чтобы соответствовать требованиям регуляторов и ожиданиям пользователей, соцсети устанавливают возрастной ценз. Для Facebook, YouTube, TikTok, Instagram минимальный порог — 13 лет, для VK — 14 лет. Для регистрации на ресурсе необходимо указать соответствующий год рождения, а в качестве более серьёзной меры контроля применяются, например, технологии распознавания лиц. При этом запрет действует именно на ведение аккаунтов — родители могут выкладывать фото и видео своих детей.

Понятно, что обойти такие ограничения совсем не сложно, и, например, Likee и «Одноклассники» официально разрешают регистрацию несовершеннолетних при условии, что использовать ресурс они будут под присмотром родителей. На видеосервисах особенно заметна активность детей, и если малышей, аудиторию мультфильмов и обучающих роликов, ещё можно «загнать в манеж» (такой как «Youtube детям»), то пользователи предподросткового возраста стремятся выступать не только потребителями, но и создателями развлекательного контента. Поэтому платформы ищут способы обезопасить своих пользователей.

Знай своих врагов

Основа онлайн‑рисков для детей — неосведомлённость. Школьники могут не осознавать опасность в силу возраста, а их родители — в силу низкой компьютерной грамотности, невозможности постоянно контролировать активность детей в сети, разницы в интересах, из‑за которой старшие поколения часто не следят за всеми виртуальными трендами. С одной стороны, это создаёт почву для фейковых новостей и радикальным призывам всё запретить и ограничить. С другой, к сожалению, повышает вероятность реализации рисков. Какие из них чаще всего ресурсы включают в свои политики безопасности?

Неприемлемый контент. Информация, которую не хотят видеть на своих экранах даже взрослые пользователи, тем более неблаготворна для детской психики. Социальные сети поддерживают политику нулевой терпимости к насилию, порнографии, опасной информации, а зачастую и нецензурной лексике, враждебным высказываниям, фейкам, и приводят её в жизнь с помощью модерации пользовательского контента. TikTok и Likee используют премодерацию — роботы и специалисты проверяют все видеоролики до того, как они становятся доступны широкой аудитории.

Интересна практика YouTube: помимо обычного требования маркировать информацию только для взрослых, платформа обязывает отдельно отмечать ролики, адресованные детям. Так модераторы могут целенаправленно оценивать такой контент, и уклонение от правильной маркировки чревато санкциями.

Нежелательные контакты. Этот виртуальный риск грозит перерасти в реальный, если ребёнок не соблюдает правила безопасности в сети и слишком открыто делится информацией с незнакомцами. По этой причине соцсети блокируют или ограничивают опцию переписки для детей. Например, Instagram запрещает взрослым переписываться с детьми, которые на них не подписаны, а также отслеживает подозрительную активность — если аккаунт постоянно взаимодействует с несовершеннолетними, его собеседники получат предупреждение. «Одноклассники» вовсе отключили личные сообщения и вывод в поиске аккаунтов пользователей до 14 лет, в Likee дети не могут переписываться при включенном режиме родительского контроля.

Траты и заработки. Наверняка истории о крупных суммах, потраченных детьми в онлайн-играх, в том числе случайно, слышали все. В соцсетях траты тоже возможны: можно купить апгрейд аккаунта, стикеры и подарки, отключить рекламу. VK и «Одноклассники» ввели внутреннюю валюту, а TikTok и Likee — целую финансовую систему с возможностью монетизировать свою активность и лайки, а затем выводить средства.

И неслучайно подзаголовок сформулирован именно так: если контролировать траты реальных денег родителям не так проблематично, то с виртуальной экономикой всё сложнее. Механика накопления цифровой валюты может очень легко захватить ребёнка, а погоня за лайками — стать манией. Если посмотреть на вершину рейтинга блогеров Likee, её занимают в основном девочки из России, а во вторую очередь — лайкеры постарше, но ориентированные на школьную аудиторию. Чтобы монетизировать свои страницы, они проводят трансляции, во время которых мотивируют подписчиков на активность в обмен на виртуальные призы. И хотя проводить стримы могут только пользователи старше 16 лет, на деле этот принцип соблюдается не всегда.

Неуместный формат. Иногда проблема не во взрослом контенте, а в том, что публикуют сами дети — или взрослые от их имени. Родители юных моделей, актёров и блогеров часто подвергаются критике за то, что выбирают для них образы не по годам, формально оставаясь в рамках закона и приличий. Один из недавних скандалов в кириллическом сегменте привёл к блокировке двух популярных аккаунтов и юридической проверке их родителей: дети восьми и тринадцати лет позиционировали себя как пара и делились с поклонниками фотографиями в романтическом стиле. Подобные ситуации всегда вызывают широкий резонанс и крайне негативно складываются на репутации ресурса.

Другая опасность таится в том, что ребёнок-блогер в публикациях может скомпрометировать свою персональную информацию. Особенно опасно раскрывать сведения о месте жительства и учёбы и даже планах на ближайшее будущее.

Стратегия безопасности

Становится ясно, что самое главное в модерации ресурса, где значительную часть аудитории составляют дети, — верно определить такие аккаунты, несмотря на возможные уловки, такие как указание неправильной даты рождения. Второй шаг — подготовить такие инструменты безопасности, которые позволяли бы гибко регулировать их активность, не скатываясь в сплошные запреты. Например, опция родительского контроля в Likee позволяет полностью оградить ребёнка от механики виральности и монетизации, что идеально для самых младших зрителей. Но для юных блогеров платформа развивает более сложные и тонкие настройки защиты.

У Teleperformance есть опыт модерации контента для международных диджитал‑гигантов в рамках направления Trust&Safety. Один из новейших проектов как раз связан с премодерацией пользовательского видеоконтента для русскоязычной аудитории. База нашей стратегии — команда специалистов, для которых это родной язык и культура. Модераторы, хорошо знакомые с менталитетом, восприятием своей аудитории, понимающие юмор, сарказм, иносказания, могут работать на опережение. Дополняя технологии автоматизации человеческим подходом, мы создаём надежную систему, которая служит созданию комфортной атмосферы для пользователей и поддержанию достойной репутации бренда.

Наша экспертиза базируется на нашем собственном многолетнем опыте и лучших практиках международной группы Teleperformance, поэтому говорить о наших решениях и подходе можно долго. Напишите, и я с удовольствием расскажу о наших проектах по управлению клиентским опытом, в том числе в сфере Trust&Safety.