«На видео парень снимал себя, пока насиловал девочку»: как чистят Facebook за 500 млн долларов в год

К началу 2010-х Facebook уже не один год находился под пристальным вниманием из-за потока насилия и ненависти, который появлялся на его платформе. Гендиректор Марк Цукерберг неоднократно обещал очистить соцсеть. Он продвигал использование искусственного интеллекта для отсеивания токсичных сообщений и агитировал за наем нескольких тысяч сотрудников для удаления вредоносных сообщений, которые не распознает ИИ. На деле же Facebook негласно заплатил другим за то, что они взяли на себя большую часть работы. По данным NYT, с 2012 года для анализа постов компания наняла не менее 10 консалтинговых и кадровых компаний по всему миру и привлекла еще более широкую сеть субподрядчиков.

Наиболее важную роль в этом, по данным газеты, сыграла Accenture. Фирма из списка Fortune 500, более известная тем, что предоставляет высокотехнологичные, бухгалтерские и консалтинговые услуги многонациональным компаниям и правительствам, стала крупнейшим партнером Facebook в области модерирования контента.

Согласно исследованию NYT, Facebook подписал с Accenture контракты на модерацию контента и оказание других услуг стоимостью не менее 500 миллионов долларов в год. В консалтинговой компании работает более трети из 15 000 человек, которых Facebook нанял для проверки своих сообщений. И хотя эти договоры дают лишь небольшую часть годовой выручки Accenture, именно они прокладывают ей путь в Кремниевую долину, поэтому в компании называют Facebook «бриллиантовым клиентом».

Контракты между Facebook и Accenture поменяли границы традиционных аутсорсинговых отношений. Accenture взяла на себя худшие аспекты модерирования контента в Facebook. Издержками этой работы стали проблемы сотрудников (не у всех психика оказалась готова в такой работе) и активизация профсоюзов (они начали требовать увеличения заработной платы и льгот). «Без Accenture не было бы Facebook в том виде, в котором мы его знаем сегодня, — сказала Кори Крайдер, соучредитель Foxglove, юридической фирмы, представляющей модераторов контента. — Такие организации, как Accenture, за скромные для такой работы деньги позволили Facebook дистанцироваться от основных человеческих проблем своего бизнеса».

При подготовке материала NYT взяла интервью у более 40 нынешних и бывших сотрудников Accenture и Facebook, расспросив их про отношения между компаниями. Большинство из них говорили анонимно из-за соглашений о неразглашении и из-за опасений быть наказанными. Руководство Facebook и Accenture отказалось от комментариев. Дрю Пусатери, представитель Facebook, сказал: «Компания осознает, что работа по модерации контента может быть сложной, поэтому мы тесно сотрудничаем с нашими партнерами, чтобы постоянно оценивать, какую поддержку лучше всего оказать сотрудникам». Стейси Джонс, пресс-секретарь Accenture, заявила, что это работа во благо обществу и она «имеет важное значение для защиты нашего общества». При этом ни одна из компаний не упомянула название другой.

Что чистят в Facebook

Большая часть удаляемого контента в Facebook — это изображения обнаженного тела. В соответствии с соглашением, которое Facebook достиг в 2007 году с тогдашним генеральным прокурором Нью-Йорка Эндрю Куомо, компания должна удалять отмеченные пользователями порнографические публикации в течение 24 часов.

По словам членов команды Facebook, сотрудники соцсети, которые занимались модерацией контента, были ошеломлены объемом работы. По словам трех из них, Шерил Сэндберг, главный операционный директор компании, и другие руководители занялись поиском автоматизированных решений для просмотра публикуемого контента.

Тогда же, по их словам, Facebook начал рассматривать возможность передать это на аутсорсинг. Он обходился дешевле, чем наем людей, и давал налоговые льготы, а также гибкость, позволяющую быстро расти в регионах, где у компании не было офисов или знаний языка. По словам собеседников издания, Сэндберг помогла отстоять идею аутсорсинга, а менеджеры среднего звена проработали детали.

К 2011 году Facebook работал с oDesk, службой, которая нанимала фрилансеров для проверки контента. Но в 2012 году, после того как новостной сайт Gawker сообщил, что работникам oDesk в Марокко и других странах платили за работу всего 1 доллар в час, Facebook начал искать другого партнера. Тогда Facebook нанял Accenture. Ранее известная как Andersen Consulting, фирма была переименована в Accenture в 2001 году после разрыва с бухгалтерской фирмой Arthur Andersen и хотела набрать обороты в Кремниевой долине.

Facebook отправил своих специалистов в Манилу и Варшаву, чтобы обучить сотрудников Accenture сортировке постов, рассказали два бывших сотрудника Facebook, участвовавших в поездке. Сотрудников Accenture учили использовать программное обеспечение, позволяющее скрывать вредоносный контент — удалять его или передавать на дальнейшее изучение.

Модераторы по всему миру

Начав с найма нескольких десятков модераторов, Accenture быстро расширил штат. По словам бывших сотрудников, к 2015 году в офисе Accenture в районе залива Сан-Франциско создали команду под кодовым названием «Барсучок» только для нужд Facebook. В 2015 году в Accenture было около 300 сотрудников, к 2016 году их число выросло до трех тысяч. Facebook также заключил контракты с Accenture в таких областях, как проверка фейковых или дублирующихся учетных записей пользователей и мониторинг учетных записей знаменитостей и брендов, чтобы обезопасить их от потока негатива.

После того, как в 2016 году власти США обнаружили, что российские структуры использовали Facebook для того, чтобы сеять рознь среди американцев, компания увеличила количество модераторов. Она заявила, что наймет более 3000 человек к 4500 уже имеющихся сотрудников. «Если мы собираемся построить безопасное сообщество, нам нужно реагировать быстро», — написал Цукерберг в своем посте в 2017 году.

Согласно кадровым документам, доступ к которым получила NYT, в мае 2021 года Accenture выставила Facebook счет примерно за 1900 штатных модераторов в Маниле (Филиппины), 1300 человек в Мумбаи (Индия), 850 в Лиссабоне (Португалия), 780 человек в Куала-Лумпуре (Малайзия), 300 в Варшаве (Польша), 300 в Маунтин-Вью (США), 225 в Дублине (Ирландия) и 135 в Остине (США).

Каждый модератор из США зарабатывал для Accenture 50 и более долларов в час. При этом в некоторых городах США модераторы получали стартовую зарплату в размере 18 долларов в час.

Токсичная работа

Работа модераторов была сложной. Более 90 процентов нежелательных материалов, которые попадают в Facebook и Instagram, удаляются ИИ, а сотрудники компаний-партнеров должны анализировать публикации, которые ИИ не распознает. Эти сотрудники получают оценку эффективности, основанную на проверке публикаций на соответствие политике Facebook. Специалисты Accenture рассказали NYT, что если они совершают ошибки более чем в 5% случаев, их могут уволить.

Но правила Facebook о том, что приемлемо, постоянно менялись, вызывая путаницу. Когда люди использовали эмодзи с АЗС при продаже марихуаны, работники удаляли сообщения с такими эмодзи за нарушение политики компании в отношении наркотиков. Затем Facebook сказал модераторам не удалять такие сообщения, а через какое-то время снова изменил правила. Facebook периодически менял технологию модерации, добавляя новые сочетания клавиш, чтобы ускорить процесс проверки. Но обновления иногда выпускались почти без предупреждения, что увеличивало количество ошибок.

Модераторы также жаловались на последствия просмотра большого количества постов с ненавистью. Accenture наняла консультантов по психическому здоровью. Один из таких консультантов Изабела Дзюгель, работавшая в варшавском офисе компании, сказала, что в 2018 году она сказала менеджерам, что они нанимают людей, плохо подготовленных к просмотру контента. Ее офис обрабатывал сообщения с Ближнего Востока, в том числе ужасные изображения и видео сирийской войны. «Они нанимали абы кого», — сказала Дзюгель, которая ранее лечила солдат с посттравматическим стрессовым расстройством. Еще один консультант по психическому здоровью рассказал, что в Дублине в 2018 году один модератор Accenture, который просматривал контент Facebook, оставил на своем рабочем месте предсмертную записку. К счастью, он остался жив.

Модератор из Остина Джошуа Склар, уволившийся в апреле, рассказал NYT, что он просматривал от 500 до 700 сообщений за смену, включая изображения трупов после автокатастроф и видео пыток животных. «На одном видео был парень, который снимал себя, пока насиловал маленькую девочку», — говорит Склар, который описал свой опыт в посте, который позже стал достоянием общественности. «Это было просто ужасно», — добавил Склар. По его словам, если сотрудники общаются напрямую с Facebook о проблемах с контентом и не уведомляют об этом руководство в Accenture, они рискуют получить выговор. Склар считает, что из-за этого Facebook медленнее узнает о проблемах и реагирует на них.

Другой бывший модератор в Остине Спенсер Дарр заявил на судебных слушаниях в июне, что на работе ему приходилось решать, удалять ли видео с собакой, с которой заживо снимают шкуру, или просто пометить его как тревожное. «Работа модераторов контента невозможна», — сказал он.

В 2018 году Accenture представила WeCare — политику, которая, по словам консультантов по психическому здоровью, ограничивает их возможности по лечению работников. Их статус был изменен на «тренер по здоровью», и им было предписано не давать психологических оценок и не ставить диагнозов, а оказывать «краткосрочную поддержку», например, рекомендовать гулять или слушать успокаивающую музыку. Согласно документам Accenture, цель состояла в том, чтобы «научить модераторов реагировать на сложные ситуации и вредоносный контент». Стейси Джонс из Accenture заявила, что компания «стремится помочь людям, выполняющим эту важную работу, добиться успеха как в профессиональном, так и в личном плане».

Руководители Accenture неоднократно задавались вопросом о возможности продолжения бизнеса с Facebook. В 2017 году Пьер Нантерм, в то время глава Accenture, поставил под сомнение этичность этой работы и соответствие долгосрочной стратегии компании. Однако никаких практических шагов тогда предпринято не было. В 2019 году он умер.

Пять месяцев спустя новый гендиректор Джули Свит заказала аудит модерации. Для проверки был выбран офис в Остине, который открылся в 2017 году. Один из его сотрудников присоединился к коллективному иску, который подали модераторы Facebook против соцсети. В мае 2020 года она достигла соглашения с сотрудниками о выплате в размере 52 миллионов долларов.

По словам бывших топ-менеджеров, с которыми поговорила NYT, для Свит дебаты по поводу контрактов с Facebook растянулись на несколько встреч. В декабре 2019 года Accenture выпустила двухстраничный документ, информирующий модераторов о рисках, связанных с работой. В документе говорится, что эта работа «может негативно повлиять на эмоциональное или психическое здоровье».

В октябре 2020 года Accenture пошла еще дальше: в своем годовом отчете она впервые указала модерацию контента как фактор риска, заявив, что она может сделать фирму уязвимой для внимания СМИ и юридических проблем. Люди, знакомые с изменением политики, сказали, что компания также ограничила число новых клиентов по модерации. Любые новые контракты теперь требуют одобрения высшего руководства. Но, по словам собеседников газеты, Свит оставила некоторые вопросы без внимания. Среди них — контракты с Facebook. В конце концов, клиент слишком ценный, чтобы от него уходить.