В пятницу Bluesky опубликовала отчет о модерации за прошлый год, отметив значительный рост социальной сети в 2024 году и то, как это повлияло на рабочую нагрузку ее команды по доверию и безопасности. Он также отметил, что наибольшее количество жалоб поступило от пользователей, сообщающих об аккаунтах или сообщениях о преследовании, троллинге или нетерпимости — проблема, которая преследовала Bluesky по мере ее роста и иногда даже приводила к широкомасштабным протестам по поводу отдельных решений модерации.
В отчете компании не говорилось и не объяснялось, почему она предприняла или не предприняла какие-либо действия в отношении отдельных пользователей, включая тех, кто входит в список наиболее блокируемых.
В 2024 году компания добавила более 23 миллионов пользователей, поскольку Bluesky по разным причинам стал новым местом назначения для бывших пользователей Twitter/X. В течение года социальная сеть выиграла от нескольких изменений в X, включая решение изменить принцип работы блокировки и обучить ИИ работе с пользовательскими данными. Другие пользователи покинули X после результатов президентских выборов в США, основываясь на том, как политика владельца X Илона Маска начала доминировать на платформе. Число пользователей приложения также резко возросло, хотя X был временно запрещен в Бразилии еще в сентябре.
Чтобы удовлетворить потребности, вызванные этим ростом, Bluesky увеличила свою команду модераторов примерно до 100 человек, сообщила компания, и продолжает нанимать их. Компания также начала предлагать членам команды психологическое консультирование, чтобы помочь им справиться с трудной работой, связанной с постоянным воздействием графического контента. (Мы надеемся, что однажды ИИ займётся этой областью, поскольку люди не созданы для выполнения такого рода работы.)
В общей сложности в службу модерации Bluesky поступило 6,48 миллиона жалоб, что в 17 раз больше, чем в 2023 году, когда было всего 358 000 жалоб.
Начиная с этого года Bluesky начнет принимать отчеты о модерации прямо из своего приложения. Подобно X, это позволит пользователям легче отслеживать действия и обновления. Позже он также будет поддерживать апелляции в приложении.
Когда в августе бразильские пользователи наводнили Bluesky, на пике компания получала до 50 000 отчетов в день. Это привело к задержке в рассмотрении отчетов о модерации и потребовало от Bluesky нанять больше сотрудников, говорящих на португальском языке, в том числе через подрядчика.
Кроме того, Bluesky начала автоматизировать больше категорий отчетов, помимо спама, чтобы справиться с наплывом сообщений, хотя иногда это приводило к ложным срабатываниям. Тем не менее, автоматизация помогла сократить время обработки до «секунд» для учетных записей «высокой достоверности». До автоматизации большинство отчетов обрабатывалось в течение 40 минут. Теперь модераторы-люди постоянно находятся в курсе ложных срабатываний и апелляций, а иногда и не всегда принимают первоначальное решение.
Bluesky сообщает, что 4,57% ее активных пользователей (1,19 миллиона) сделали хотя бы один отчет о модерации в 2024 году по сравнению с 5,6% в 2023 году. Большая часть из них — 3,5 миллиона отчетов — касалась отдельных сообщений. Профили учетных записей были зарегистрированы 47 000 раз, часто из-за изображения профиля или фотографии баннера. О списках сообщалось 45 000 раз; О DM сообщалось 17 700 раз, а каналы и стартовые пакеты получили 5 300 и 1 900 отчетов соответственно.
Большинство сообщений касалось антисоциального поведения, такого как троллинг и преследование — сигнал пользователей Bluesky о том, что они хотят видеть менее токсичную социальную сеть по сравнению с X.
По словам Блюски, другие отчеты относились к следующим категориям:
- Вводящий в заблуждение контент (выдача себя за другое лицо, дезинформация или ложные заявления о личности или принадлежности): 1,20 миллиона.
- Спам (чрезмерные упоминания, ответы или повторяющийся контент): 1,40 миллиона.
- Нежелательный контент сексуального характера (нагота или контент для взрослых, не помеченный должным образом): 630 000.
- Незаконные или срочные вопросы (явные нарушения закона или условий обслуживания Bluesky): 933 000.
- Прочее (вопросы, не вошедшие в вышеуказанные категории): 726 000
Компания также представила обновленную информацию о своей службе маркировки, которая включает в себя добавление меток к сообщениям и аккаунтам. Маркировщики людей добавили 55 422 ярлыка «сексуальные фигуры», за ним следовали 22 412 ярлыков «грубый», 13 201 ярлык «спам», 11 341 ярлык «нетерпимость» и 3 046 ярлыков «угроза».
В 2024 году 93 076 пользователей подали в общей сложности 205 000 апелляций на решение Bluesky о модерации.
Также было зарегистрировано 66 308 удалений аккаунтов модераторами и 35 842 автоматических удаления аккаунтов. Bluesky дополнительно ответила 238 запросов от правоохранительных органов, правительств и юридических фирм. Компания ответила на 182 из них и выполнила 146. Большинство запросов были запросами правоохранительных органов Германии, США, Бразилии и Японии, говорится в сообщении.
В полном отчете Bluesky также рассматриваются другие типы вопросов, включая претензии в отношении товарных знаков и авторских прав, а также отчеты о безопасности детей и CSAM. Компания отметила, что предоставила 1154 подтвержденных отчета CSAM в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC).
