' style='fill:%23c4c4c4;fill-opacity:1'%3E%3Cpath d='M93.28-57.4h2.52l-6.33 11.74h-2.6l6.41-11.75zM98.5-57.4h2.52L94.7-45.67h-2.6l6.4-11.75zM103.78-57.4h2.52l-6.33 11.74h-2.6l6.4-11.75z'/%3E%3C/a%3E%3C/svg%3E)
Масштабный глобальный сбой в работе сервисов Facebook не единственный удар, который может быть нанесен по компании Марка Цукерберга на этой неделе. Не менее серьезными могут оказаться последствия слушаний в Конгрессе. Во вторник в Сенате США, как ожидается, выступит бывший менеджер по продукту Facebook Фрэнсис Хауген. Она оказалась в центре последнего скандала вокруг компании, чьими продуктами пользуется около 2,7 млрд человек во всем мире. Скандал разгорелся после того, как The Wall Street Journal выпустила серию публикаций о компании Марка Цукерберга, основанную на ее внутренних документах и беседах с сотрудниками медиагиганта, в который помимо самого Facebook входят также Instagram и WhatsApp. Из этих публикаций выяснилось, что Facebook, несмотря на декларацию равных прав среди всех пользователей, гораздо более лояльно относится к публикациям звезд и лидеров мнений. Такие посты, даже когда они очевидно нарушают правила платформы, либо не блокируются, либо удаляются только по личному решению главы компании Марка Цукерберга. Другая проблема заключается в том, что компания Facebook в сети Instagram намерено эксплуатирует образ идеальной жизни знаменитостей, хотя собственные исследования компании показывают, что из-за алгоритмов платформ у каждой третьей девочки-подростка развивается комплекс неполноценности. Дождь пересказывает основные выводы расследований WSJ, которые стали поводом для слушаний в Конгрессе.
Особые права для знаменитостей
Несмотря на публичные заявления Марка Цукерберга о том, что Facebook позволяет своим более чем трем миллиардам пользователей высказываться наравне с представителями политических, культурных и журналистских лидеров мнений это оказалось неправдой. Кроме того, правила платформы не одинаковы для всех, а зависят от статуса или известности человека. К такому выводу пришли журналисты The Wall Street Journal, проанализировав внутренние документы компании. Как пишет издание, Facebook втайне создала систему, которая освободила отдельных известных пользователей от соблюдения некоторых или сразу всех правил платформы. Программа, известная как «перекрестная проверка» или XCheck, изначально задуманная как мера контроля действий, совершаемых в отношении аккаунтов известных пользователей, включая знаменитостей, политиков и журналистов, сегодня защищает миллионы VIP-пользователей от правоприменительного процесса компании.
Сообщения обычных пользователей, нарушающие правила платформы, незамедлительно удаляются. Однако к пользователям, предназначенным для проверки XCheck, относятся более уважительно. Facebook разработал систему таким образом, чтобы свести к минимуму негативное внимание средств массовой информации, возникающее из-за неудачных принудительных действий, предпринятых против VIP-персон. Как сообщается в документах, если системы Facebook приходят к выводу, что одна из этих учетных записей нарушила ее правила, они не удаляют контент — по крайней мере, не сразу. Они направляют жалобу в отдельную систему, в которой специально подготовленные сотрудники проводят дополнительную проверку.
Программа охватывает практически всех, кто регулярно появляется в средствах массовой информации или имеет большое количество подписчиков в интернете, включая кинозвезд, ведущих ток-шоу, ученых и инфлюенсеров. В список XCheck в Instagram входят даже аккаунты популярных животных-инфлюенсеров.
В документах сказано, что XCheck защищает общественных деятелей, чьи сообщения содержат оскорбления или подстрекательства к насилию — нарушения, которые приводят к санкциям в отношении обычных пользователей. Пользователям обычно не сообщают, что они были помечены для особого обращения. Во внутреннем руководстве по использованию XCheck перечислены критерии, которым должен соответствовать человек, чтобы попасть в белый список. Так, он должен быть «заслуживающим внимания», «влиятельным или популярным» или «рискованным для PR».
Например, аккаунт фуболиста Неймара в Instagram, принадлежащем Facebook, имеет более 150 миллионов подписчиков и является одним из самых популярных в мире. После того, как в 2019 году одна женщина обвинила Неймара в изнасиловании, в целях своей защиты он опубликовал в Facebook и Instagram видео и переписку в WhatsApp, в которой было ее имя и обнаженные фотографии. Он также обвинил женщину в вымогательстве.
Стандартная процедура Facebook для обработки публикации «несогласованных интимных изображений» проста: удаление. Но Неймара защищал XCheck. Более чем на сутки система блокировала удаление видео модераторами Facebook. Внутренний анализ инцидента показал, что 56 миллионов пользователей Facebook и Instagram видели то, что в одном из документов описывалось как «порно из мести». «Видео репостнули более 6000 раз, по отношению к женщине было множество издевательств и проявлений харассмента», — говорится в обзоре.
Согласно документам, некоторые внесенные в белый список учетные записи публиковали подстрекательские заявления, которые средства проверки фактов Facebook сочли ложными. Среди них были в том числе заявления о том, что вакцинация приводит к смерти, что Хиллари Клинтон прикрывала «группу педофилов» и что тогдашний президент Дональд Трамп называл всех беженцев, ищущих убежища, «животными».
И когда Facebook публично рассказывает о многих из этих проблем законодателям, регулирующим органам и в случае XCheck своему – собственному надзорному органу, соцсеть часто дает вводящие в заблуждение ответы, скрывая то, что ей известно на самом деле. «На самом деле, мы не делаем то, о чем заявляем публично», — говорится в конфиденциальном обзоре, с которым ознакомился WSJ, а затем добавляется: «В отличие от остальной части нашего сообщества, эти люди могут нарушать наши правила без каких-либо последствий».
По некоторым сведениям иногда для удаления контента из учетной записи VIP-пользователей требуется одобрение высшего руководства по связям с общественностью и общественной политики, а иногда даже от самого Цукерберга или главного операционного директора Шерил Сандберг.
В июне 2020 года Трамп опубликовал пост, в котором говорилось: «Когда начинается грабеж, начинается стрельба». (When the looting starts, the shooting starts). Менеджер Facebook отметил, что автоматизированная система, разработанная компанией для оценки на соответствие публикацией ее правил, проинформировала о высокой вероятности нарушения правил платформы (90 баллов из 100 возможных). Если бы это было сообщение обычного пользователя, такая оценка привела бы к удалению публикации после того, как хотя бы один человек сообщит об этом модераторам Facebook. Однако по личной просьбе Цукерберга пост оставили.
Документы показывают, что большая часть контента, помеченного системой XCheck, не подвергалась необходимой проверке. Кроме того, Facebook просил партнеров по проверке фактов задним числом изменять свои выводы о сообщениях популярных аккаунтов, отменял стандартные наказания за распространение того, что классифицируется как дезинформация, и отменял запланированные изменения в своих алгоритмах, чтобы избежать политических последствий.
Даже когда компания действительно просматривает материалы из белого списка, сообщения, нарушающие правила платформы, удаляются не сразу: их авторам даются 24 часа для самостоятельного удаления поста. Отсрочки, подобные этой, означают, что контент, который должен был быть заблокирован, может распространиться среди широкой аудитории. В прошлом году из-за XCheck посты, нарушающие правила платформы, просмотрели не менее 16 миллиардов раз, прежде чем они были удалены.
Один из примеров злоупотреблений, пишет WSJ, – это публикации пользователями из белого списка статей с веб-сайтов альтернативной медицины, в которых утверждалось, что врач из Беркли обнаружил, что химиотерапия не помогает в 97% случаев. Организации по проверке фактов опровергли эти утверждения, отметив, что научные данные искажены, и что врач, упомянутый в статье, умер в 1978 году.
Документы свидетельствуют о том, что несколько лет назад Facebook признал неприемлемыми преимущества, которые дает отдельным пользователям XCheck, поскольку система зачастую защищала от удаления учетные записи, являющиеся постоянными нарушителями правил. Тем не менее, со временем программа расширилась. Только в прошлом году она пополнилась десятками тысяч учетных записей.
«У Facebook в настоящее время нет способа защиты решений, связанных с контентом, от внешнего давления», — говорится в письме старшего научного сотрудника Facebook от сентября 2020 года, в котором описывается ежедневное вмешательство в процесс формирования правил и обеспечения их соблюдения как со стороны команды социальной политики Facebook, так и со стороны высшего руководства.
После опроса 41 сотрудника Facebook заявил в отчете, что XCheck зачастую «ориентируется на спрос». В отчете сделан вывод о том, что во избежание PR-проблем XCheck следует расширить, чтобы включить в систему известных независимых журналистов. При этом компания не рассматривает вариант, при котором известные пользователи придерживались бы тех же правил, что и все остальные, заключает WSJ.
«Идеальная» жизнь и комплексы в Instagram
В другом своем расследовании, основанном на утечке, The Wall Street Journal проанализировала большой массив внутренних документов и сообщений сотрудников Facebook в таким проблемам, как психическое здоровье подростков, политический дискурс и торговля людьми. Из документов следует, что Facebook прекрасно осознает, что продукты, лежащие в основе его коммерческого успеха, как правило, вредны для пользователей, но прикладывает минимальные усилия для решения этих проблем и продолжает публично преуменьшать их вред. Компания провела собственное исследование, которое включает в себя фокус-группы, онлайн-опросы, исследования публикаций, а также масштабные опросы десятков тысяч людей о том, сколько времени пользователи проводят в Instagram и что они там смотрят.
Исследователи пришли к выводу, что некоторые проблемы характерны исключительно для Instagram, а не для социальных сетей в целом. Это особенно верно в отношении так называемого социального сравнения, когда люди определяют собственную ценность в сравнении с привлекательностью, богатством и успехом других. Когда Facebook в 2012 году купил Instagram за 1 миллиард долларов, компания стала рассматривать соцсеть как более подходящий вариант для охвата молодой аудитории.
По словам бывших руководителей Instagram, Facebook отслеживал появление модных функций в приложениях конкурентов, включая Snapchat, и в 2016 году дал сотрудникам задание победить в гонке за вниманием подростковой аудитории. Instagram сделал фотографии ядром приложения, поскольку фильтры значительно упростили пользователям редактирование изображений. Позже он добавил видео, каналы с алгоритмически подобранным контентом и инструменты, которые позволяли «улучшать» лица людей.
В одном исследовании подростков в США и Великобритании Facebook обнаружил, что более 40% пользователей Instagram, которые сообщили, что чувствовали себя «непривлекательными», сказали, что это чувство появилось, когда они начали пользоваться приложением. Многие также сообщили, что приложение подорвало их уверенность в прочность их дружеских связей. Исследователи Instagram отметили, что те, кто ощутил негативные психологические эффекты платформы, не всегда переставали ею пользоваться. В презентациях отмечается, что подростки регулярно сообщают, что хотят проводить в Instagram меньше времени, но для этого им не хватает самоконтроля.
«Я чувствовала, что должна бороться за то, чтобы меня считали красивой или хотя бы заметной», — рассказала одна девушка о своем опыте в Instagram. После просмотра фотографий в Instagram «я чувствую себя слишком полным и недостаточно красивым», — сказал исследователям другой подросток. «Из-за этого я чувствую себя неуверенным в своем теле, хотя знаю, что я худой», — пишет третий пользователь.
Изученный The Wall Street Journal документы свидетельствуют о том, что последние три года Facebook изучал то, как приложение для обмена фотографиями влияет на миллионы молодых пользователей. Исследователи компании неоднократно обнаруживали, что Instagram вреден для значительной части из них, особенно для девочек-подростков. «Мы усугубляем проблемы с комплексами по поводу фигуры у каждой третьей девочки-подростка», — говорится на одном из слайдов за 2019 год.
Эта проблема касается также и мальчиков-подростков. В ходе глубокого исследования психического здоровья, проведенного Facebook в 2019 году, было обнаружено, что Instagram вызывает негативные чувства у 14% мальчиков в США. В другом своем исследовании в 2020 году Facebook обнаружила, что 40% мальчиков-подростков испытывают негативное социальное сравнение. «Я постоянно чувствую себя на грани. Словно тебя могут отчитать за любое неверное движение», — сказал исследователям один подросток из США.
В марте исследователи заявили, что Instagram должен уменьшить доступ к контенту знаменитостей о моде, красоте и отношениях, одновременно увеличив доступ к контенту от близких друзей. Один из сотрудников подверг эту идею сомнению, заявив, что знаменитости с идеальной жизнью являются ключевой частью приложения. «Разве это не то, чем занимается Instagram? Разве возможность подглядывать за (очень фотогеничной) жизнью узкого круга избранных - не причина, по которой подростки регистрируются на платформе?» — написал он.
Бывший менеджер также раскритиковал идею пересмотра концепции приложения, чтобы устранить социальное сравнение. «Люди используют Instagram, потому что это соревнование. Это же самое интересное», — сказал он.
Согласно документам, исследование было проанализировано высшим руководством Facebook и процитировано в презентации 2020 года, представленной самому Цукербергу. Публично Facebook постоянно преуменьшает негативное влияние приложения на подростков и не делает свои исследования общедоступными или хотя бы доступными для ученых и законодателей, которые неоднократно об этом просили. Отвечая на вопрос о детях и психическом здоровье на слушаниях в Конгрессе в марте 2021 года, генеральный директор Марк Цукерберг сказал: «Проведенное нами исследование показывает, что использование социальных сетей для связи с другими людьми может иметь положительные последствия для психического здоровья».
Вместо того, чтобы ссылаться на свои собственные данные, демонстрирующие негативное влияние Instagram, руководители Facebook часто публично указывали на исследования Оксфордского института интернета, которые выявили слабую корреляцию между использованием социальных сетей и депрессией.
В августе сенаторы Ричард Блюменталь и Марша Блэкберн в письме Цукербергу призвали его опубликовать внутреннее исследование Facebook о влиянии его платформ на психическое здоровье молодежи. В ответ Facebook отправил сенаторам письмо на шести страницах, в котором заявил, что с проведением исследований в этой сфере существует много проблем, поскольку «среди исследователей и экспертов нет единого мнения относительно того, какое количество времени, проведенного в соцсети, можно назвать недопустимо большим». Цукерберг заявил, что считает исследовательскую литературу по вопросам психического здоровья подростков противоречивой и не разъясняющей деструктивные причинно-следственные связи. Facebook также сообщил сенаторам, что ее внутренние исследования являются собственностью компании и «держатся в секрете, чтобы способствовать откровенному и открытому диалогу и мозговому штурму внутри компании».
«Ответы компании были настолько уклончивыми, что действительно возникает вопрос о том, что скрывает Facebook», — сказал сенатор Блюменталь в электронном письме, — «Facebook, похоже, обращается к подросткам с потенциально опасными продуктами, при этом скрывая от общественности научные данные».
«Стало необходимым вовлечь общественность»
Запланированное на вторник слушания в комитете Сената США по защите прав потребителей станут вторым заседанием, которое проводится в верхней палате американского Конгресса после серии расследования WSJ. На первом – состоявшемся на прошлой неделе – руководитель отдела безопасности Facebook Антигона Дэвис заявила, что расследование WSJ ошибочно и внутренние документы компании были неверно истолкованы. То же самое говорил вице-президент Facebook по международным делам и связям с общественностью Ник Клегг.
В понедельник, 4 октября, стало известно, что внутренние документы журналистам передала бывший менеджер по продукту Facebook Фрэнсис Хауген. «Facebook в его нынешнем виде опасен. Стало необходимым вовлечь общественность», — объяснила она свой поступок в интервью The Washington Post. Ожидается, что во вторник Хауген призовет Конгресс регулировать деятельность гиганта социальных сетей так же, как регулируется деятельность табачных компаний, сообщило Reuters, в распоряжении которого оказался текст показаний информатора WSJ.
