Meta освободила некоторых из своих ведущих рекламодателей от обычного процесса модерации контента, защитив свой многомиллиардный бизнес на фоне внутренних опасений, что системы компании ошибочно наказывают ведущие бренды.
Согласно внутренним документам от 2023 года, с которыми ознакомилась Financial Times, владелец Facebook и Instagram ввел ряд «ограждений», которые «защищают тех, кто тратит большие деньги».
В ранее не публиковавшихся записках говорилось, что Meta будет «подавлять обнаружение» в зависимости от того, сколько рекламодатель потратил на платформе, и что вместо этого некоторые ведущие рекламодатели будут проверяться людьми.
В одном документе говорилось, что группа под названием «потратители P95» — те, кто тратит более 1500 долларов в день — были «освобождены от ограничений на рекламу», но все равно «в конечном итоге будут отправлены на ручную проверку людьми».
Эти записки предшествовали объявлению на этой неделе генерального директора Марка Цукерберга о том, что Meta прекращает свою стороннюю программу проверки фактов и сокращает автоматическую модерацию контента, поскольку она готовится к возвращению Дональда Трампа на пост президента.
Документы 2023 года показывают, что Meta обнаружила, что ее автоматизированные системы ошибочно пометили некоторые счета с наибольшими расходами как нарушения правил компании.
Компания сообщила FT, что счета с более высокими расходами непропорционально часто подвергаются ошибочным уведомлениям о возможных нарушениях. Он не ответил на вопросы о том, являются ли какие-либо меры, предусмотренные в документах, временными или постоянными.
Райан Дэниелс, представитель Meta, заявил, что отчеты FT «просто неточны» и «основаны на тщательно отобранных документах, в которых ясно говорится, что эти усилия были направлены на решение того, о чем мы очень публично говорили: предотвращения ошибок в правоприменении». .
Реклама составляет большую часть годового дохода Meta, который в 2023 году составил почти 135 миллиардов долларов.
Технический гигант обычно проверяет рекламу, используя комбинацию искусственного интеллекта и модераторов-людей, чтобы предотвратить нарушения своих стандартов и удалить такие материалы, как мошенничество или вредоносный контент.
В документе под названием «Предотвращение ошибок с высокими расходами» Meta заявила, что у нее есть семь защитных ограждений, защищающих бизнес-аккаунты, которые приносят доход более 1200 долларов за 56-дневный период, а также отдельных пользователей, которые тратят более 960 долларов на рекламу за тот же период. период.
В нем написано, что ограждения помогают компании «решить, следует ли приводить к правоприменению в случае обнаружения» и предназначены для «подавления обнаружения». . . на основе таких характеристик, как уровень расходов на рекламу».
В качестве примера он привел бизнес, который «входит в верхние 5 процентов доходов».
Meta сообщила FT, что использует «более высокие расходы» в качестве ограждения, потому что это часто означает, что реклама компании будет иметь больший охват, и поэтому последствия могут быть более серьезными, если компания или ее реклама будут ошибочно удалены.
Компания также признала, что она предотвратила отключение некоторых счетов с высокими расходами своими автоматизированными системами, вместо этого отправив их на проверку человеком, когда компания была обеспокоена точностью своих систем.
Однако в нем говорится, что все предприятия по-прежнему подчиняются одним и тем же стандартам рекламы, и ни один рекламодатель не освобождается от их правил.
В меморандуме «Предотвращение ошибок с высокими расходами» компания оценила различные категории ограждений как «низкие», «средние» или «высокие» с точки зрения того, являются ли они «защитными».
Сотрудники Мета назвали практику использования ограждений, связанных с расходами, «низкой» защищенностью.
Другие меры защиты, такие как использование знаний о надежности бизнеса, чтобы помочь ему решить, следует ли автоматически реагировать на обнаружение нарушения политики, были отмечены как «высокая» защищенность.
Мета сказал, что термин «защитоспособный» относится к сложности объяснения заинтересованным сторонам понятия «защитных ограждений», если они будут неправильно истолкованы.
В документах 2023 года не упоминаются лица с высокими расходами, попадающие под ограничения компании, но пороговые значения расходов позволяют предположить, что тысячи рекламодателей могли считаться освобожденными от типичного процесса модерации.
По оценкам аналитической компании Sensor Tower, в число 10 крупнейших пользователей Facebook и Instagram в США входят Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal и Google.
Meta достигла рекордных доходов за последние кварталы, и ее акции торгуются на рекордно высоком уровне после восстановления компании после постпандемического спада на мировом рекламном рынке.
Но Цукерберг предупредил об угрозах для своего бизнеса, начиная с появления искусственного интеллекта и заканчивая конкурентом TikTok, принадлежащим ByteDance, популярность которого среди молодых пользователей выросла.
Человек, знакомый с документами, утверждал, что компания «ставит доходы и прибыль выше добросовестности и здоровья пользователей», добавив, что внутри компании были высказаны опасения по поводу обхода стандартного процесса модерации.
Цукерберг заявил во вторник, что сложность системы модерации контента Meta привела к «слишком много ошибок и слишком большой цензуре».
Его комментарии прозвучали после того, как в прошлом году Трамп обвинил Мету в цензуре высказываний консерваторов и предположил, что, если компания вмешается в выборы 2024 года, Цукерберг «проведет остаток своей жизни в тюрьме».
Внутренние документы также показывают, что Meta рассматривала возможность введения других исключений для некоторых рекламодателей с наибольшими расходами.
В одной из записок сотрудники Meta предложили «более агрессивно предлагать защиту» от чрезмерной модерации и так называемых «платиновых и золотых трат», которые вместе приносят более половины доходов от рекламы.
«Ложно-положительное принуждение к честности в отношении крупных рекламодателей приводит к потере мета-доходов (и) подрывает наш авторитет», — говорится в записке.
Он предложил вариант полного освобождения этих рекламодателей от определенных мер воздействия, за исключением «очень редких случаев».
В меморандуме показано, что сотрудники пришли к выводу, что платиновые и золотые рекламодатели «не являются подходящим сегментом» для широкого исключения, поскольку, согласно тестам компании, примерно 73 процента его мер были оправданы.
Внутренние документы также показывают, что Meta обнаружила несколько аккаунтов, созданных ИИ, в категориях крупных тратителей.
Ранее Meta попадала под пристальное внимание из-за предоставления исключений для важных пользователей. В 2021 году осведомитель Facebook Фрэнсис Хауген обнародовала документы, свидетельствующие о том, что у компании есть внутренняя система под названием «перекрестная проверка», предназначенная для проверки контента политиков, знаменитостей и журналистов, чтобы гарантировать, что сообщения не будут удалены по ошибке.
Согласно документам Хаугена, это иногда использовалось, чтобы оградить некоторых пользователей от принуждения, даже если они нарушали правила Facebook. Эта практика известна как «белый список».
Наблюдательный совет Meta — независимый орган по типу «Верховного суда», финансируемый компанией для надзора за наиболее трудными решениями по модерации, — обнаружил, что система перекрестной проверки оставила в сети опасный контент. Это потребовало капитального ремонта системы, который с тех пор и предприняла Meta.
