В своих предыдущих интервью с украинскими экспертами в области SEO, я неоднократно сталкивалась с мнением, что даже сами сотрудники Google не совсем понимают как работает алгоритм Google. Такие суждения, откровенно говоря, вызывали у меня улыбку ведь по их мнению, искусственный интеллект уже давно победил человеческий. Действительно компания Google, и их продукты обросли невероятным количеством мифов и предубеждений. И мне как журналисту, безусловно, стало интересно разобраться с этим мистическим явлением, и постараться докопаться до истины. Понимая, что для того, чтобы получить ответы, мне нужен эксперт, который не понаслышке знает, что такое работа в Google и как создаются их продукты. Просмотрев публикации в украинском и русском сегменте интернета, я обратила внимание что информации крайне мало, большая часть публикаций носит рекламный или обучающий характер. Эти публикации в большинстве случаев и формирует наше ошибочное представление о том, что такое Google. 

Поэтому я решила создать новый цикл интервью разрушения мифов, но уже с сотрудниками Google. Украинский офис Google меня категорически не устраивал, их основная задача — увеличение объема рекламных услуг в Украине. Поэтому я начала искать возможности провести интервью с англоязычными сотрудниками. И первая проблема, с которой я столкнулась заключалась в том, что текущие сотрудники Google, которые могли бы пролить свет на работу компании, не могут отвечать на мои вопросы, по причине договора о неразглашении. Это побудило меня на поиск тех, кто знает, и одновременно сможет честно ответить на мои вопросы. Под такой критерий подходят только бывшие сотрудники Google, которых уже не сковывают никакие узы договоров. Первой на мое предложение раскрыть специфику работы в Google откликнулась Дейзи Содерберг-Ривкин. За что ей очень благодарна.

Но разговор у нас состоялся не про алгоритмы SEO, а на не менее интересную тему — модерация контента. Тематика очень актуальна, и уверена всем будет полезно узнать, как с такой работой справляется сам Google и его сотрудники. Забегая вперед, скажу что специфика работы в этом подразделении Google не из легких и уж точно не для слабонервных.

Источник фото www.theverge.com

Опыт работы Дейзи в Google составляет 2,5 года в период с 2015 по 2017. Во время работы в Google, Дейзи была руководителем специального отдела для французского сегмента. В обязанности отдела входила обработка всех входящих запросов на удаление, которые включали в себя: судебные разбирательства, правительственные запросы, диффамацию, защиту авторского права, защиту данных и прочие вопросы конфиденциальности. Отдел Дейзи непосредственно взаимодействовал с французским агентством по защите данных, французской региональной юридической группой, французскими правоохранительными органами и правительственными чиновниками. Она также руководила программой по борьбе с терроризмом, которая включала разработку политики реагирования, отслеживание источников появления информации, обработку всех поступающие запросов, связанных с терроризмом на территории Франции.

В данный момент Дейзи Содерберг-Ривкин работает специалистом по вопросам политики, технологии и инновации в НПО R Street Institute. Разговор с Дейзи происходил на английском языке, поэтому предлагаю к вашему вниманию перевод основных моментов из нашего интервью:

Дейзи, Вы работали в структуре компании Google 2 года. Можно ли назвать этот период особенным в Вашей жизни? Если да, что в нем было особенного по-Вашему мнению?

Можно с уверенностью сказать, что период моей работы в компании Google был особенным. Я бы даже назвала его, очень важным периодом в моей жизни. Работа в Google меня многому научила, я получила неоценимый опыт работы модератором контента в крупной техно-компании, и поняла что нужно изменить в модерации, чтобы она стала эффективнее и лучше. В целом, работа в Google вдохновила меня на углубленное изучение политики модерации контента в крупных техно-компаниях.

В Google Вы занимались крайне важной и потому сложной задачей — Вы принимали решение о том какой контент удалять из Google, а какой нет. Какая профессия ближе всего к тому чем Вы занимались в Google: судья, адвокат или прокурор?

Я думаю, что у этой деятельности, нет аналогов с какой-либо существующей профессией. Но у большинства людей, которые этим занимаются есть опыт в юриспруденции – это юристы (из США или других стран). Я например, не юрист, у меня образование политолога. Эта работа не похожа на что-либо, это новая профессия созданная технологическими компаниями. Многие называют нас first responders Интернета (первый эшелон реагирования; служба быстрого реагирования). Когда что-то происходит в интернете, мы первые кто реагирует на это, и принимаем решения удалять материал или оставлять.

Есть мнение что такие люди как Вы — это супер-люди. Режим 24/7, полная самоотдача и многое другое. Так ли это? Расскажите как выглядела примерно Ваша рабочая неделя?

Совершенно верно. Работа по модерации контента действительно очень сложная. Преподносится работа, как совершенно обычная с 9:00 до 17:00, но в реальности так не происходит. В распорядке нет смен и четкого графика. Сотрудники работают по всему миру, и из-за разницы часовых поясов получается так, что работа по решению проблем происходит 24 часа в сутки. Например, я просыпалась в 6:00 утра в силу разницы часовых поясов с Францией. Я контролировала французский рынок и фокусировалась на модерации контента в категории эксплуатации детей и категории терроризма. Нужно сказать, что после работы я приходила домой и на этом работа не останавливалась. Если происходит какое-то ЧП, то нужно выходить в онлайн и решать вопросы. Граница между работой и домашней жизнью стирается. И самое сложное, в этой работе, практически невыносимое, касается психического здоровья, когда видишь весь этот ужасный угнетающий контент — он не выходит из головы. Не получается его просто взять и выбросить, забыть о нем, переключиться, Даже если я была в отпуске или с семьей, то постоянно об этом думала. Некоторых сотрудников мучают кошмары по ночам, или вспышки памяти, у некоторых развивается посттравматический синдром (ПТСР). Работа очень требовательная и тяжелая, и с психологической точки зрения — нужно постоянно держать себя в руках и в психическом равновесии.

 Дейзи, я уверена, что Вы занимались этими задачами в Google не только ради денег. У Вас была какая-то сверхидея? То ради чего Вы на протяжении 2 лет приходили на работу?

Когда я увидела объявление о вакансии модератора, была одна фраза, которая меня крайне зацепила, там было написано: ”Ваша работа — защита свободы слова онлайн”. Эта философия мне близка, потому как суть сводится к тому, чтобы дать каждому человеку — право и возможность высказаться в интернет-пространстве сделать так, чтобы у каждого человека было право голоса, без различия кто они. Лично для меня это крайне важно и заветно. Я решила для себя, что за это стоит сражаться. Я видела очень тяжелый, угнетающий контент, сексуальное насилие над детьми, последствия террористической атаки, вещи на которые любому человеку будет сложно смотреть. Но при этом я продолжала приходить на работу, потому что я старалась чтобы к людям справедливо относились в онлайн пространстве. Во время работы я увидела, что в системе есть недостатки, и она работает не так как положено. 

Не могли бы Вы рассказать об этих недостатках?

Конечно. Модерация контента — сложный и неоднозначный способ управлять интернет пространством. Управление интернетом в руках крупных частных компаний, а не в руках людей — и люди наверное предпочли бы второй вариант. Важно отметить, что как минимум на территории США, крупные компании выдвигают свои собственные критерии и стандарты относительно контента. У них свои критерии оценки, какой контент нарушает правила, а какой нет. И сложности возникают, например, когда речь заходит о терроризме. Это яркий пример, потому что в разных странах терроризм, означает разные вещи. Следующее что мы видим — отсутствует согласованности в компаниях: у Facebook отличаются правила, относительно того, что вы можете публиковать на этом ресурсе, в Google или в Twitter они иные. 

Я бы также хотела добавить еще два пункта:
1) Проблема прозрачности. Многие люди не понимают, почему принимаются те или иные решения. Им чаще всего, даже не объясняют по какой причине контент удален. Создается ощущение, что их не слушают (их исключают из беседы). В модерации контента очень сложно оспорить принятое решение. Нарушена коммуникация — пользователи жалуются, что им очень сложно вести переговоры с модераторами или с компаниями и попросить рассмотреть их запрос еще раз. 

2) То, как относятся к контент модераторам. 

Есть 2 категории сотрудников:

а) full-timer (штатный сотрудник); 

б) внештатный сотрудник (те, кто выполняют работают по контракту). 

Многие СМИ пишут о внештатных сотрудниках (контрактниках), к ним у компании другое отношение, не такое как к фултаймерам: у них нет привилегий, и их помещают в довольно угнетающую обстановку. Зачастую их отправляют в маленькие страны, например в Манилу (Филиппины). 

Я работала штатным сотрудником, на полную ставку, и несмотря на то, что мы получали большие деньги и все привилегии, работа была крайне сложной. Психологически — это работа с невероятно большим потоком “тяжелого” контента, с точки зрения восприятия. 

Что по-Вашему мнению в правилах Google несовершенно с точки зрения удаления контента? Что требует срочных изменений и улучшений для принятия справедливых решений?

Если говорить просто, то требуется слишком много усилий чтобы “внедрить” изменения для принятия более справедливых решений. 

Важно принимать во внимание, страну о которой идет речь. К примеру, в США существует много юридических барьеров, которые надо пройти, прежде чем внести какие-либо изменения в правила. Следующий момент, который важно учитывать это то, что техно компании работают под большим политическим давлением. Например Facebook — многие их действия, являются результатом политического давления со стороны правительства США. Когда речь идет о Google – ситуация аналогична. Это бизнес, и в конце концов их основной приоритет – сколько денег они зарабатывают. В результате, это давление неизбежно влияет на их правила модерации и на политику компании. На данный момент, в США мы видим множество запросов от правительства, и от пользователей, которые сводятся к тому, чтобы эти компании привнесли очень значимые изменения в свои правила. При этом подсвечиваются проблемы происходящие в сети: насилие над детьми, работорговля, терроризм и так далее. Много вещей происходящих в онлайн сейчас вышли из под контроля. Все это заставляет компании двигаться в сторону небольших, но правильных изменений. Следовательно, это ведет к разработке законопроектов относящихся к тому, как регулируется интернет — и это очень важно. Вышесказанное, относится только к США. Если говорить о других странах , то там все по другому. К примеру, страны такие как Северная Корея, Китай страны с крайне отличающейся политической системой, правилами и отношением к правам человека. Я могу говорить о ситуации в США, но в других странах, для того чтобы компании внесли изменения в свою политику требуется совершенно иной набор мер.

Что нужно знать человеку и каким объемом знаний обладать чтобы претендовать в Google на ту должность которую Вы занимали?

Я бы сказала что Google, чаще всего, ищет людей способных хорошо работать в стрессовых условиях, а также людей способных быстро принимать эффективные решения. Стресс обусловлен, тем что иногда при принятии решения, чувствуется давление. Например, от государственных чиновников, в некоторых странах может быть от правоохранительных органов, здесь в США может быть от федеральной власти, или же сам контент может быть крайне стрессовым. К примеру, если только что произошла террористическая атака, то вам нужно удалить как можно быстрее и как можно больше изображений мертвых тел. Всё это очень похоже на то, что видят сотрудники правоохранительных органов или медики скорой помощи или реанимации. Им всем, по роду деятельности, приходится видеть неприятные, угнетающие вещи и продолжать делать свою работу. 

Что касается интеллектуальной части, то подразумевается, что вы уже знаете правила интернета, и от вас ждут понимания, какие законы относятся к модерации контента в конкретном регионе. Вы должны также учитывать политическую ситуацию, чтобы заранее понимать с какими вещами вам придется сталкиваться в работе. К примеру, в команде в которой я работала, большая часть были юристами из США или из других стран, или как минимум имели юридическое образование. Я не изучала право, но у меня был большой опыт работы в политологии, которое обычно подразумевает, что вы так же в курсе юридической стороны вопроса. 

Как проходила Ваша подготовка к работе? Сколько времени она занимала? Возможно были яркие истории, связанные с этим периодом? 

Я готовилась модерировать тревожный контент. Я абсолютно не была готова к тому, сколько часов и недель мне придется смотреть на все это, и как это будет влиять на мою психику. Google осуществляла подготовку, но она касалось того, как справляться с конкретными кейсами и как правильно реагировать на вопросы, которые могут задавать пользователи — как можно отвечать, и как нельзя. По сути, мы изучали как выглядит система подачи жалобы пользователей, и какую роль в ней играем мы. Наша задача, в том числе, состояла в том, чтобы пользователи чувствовали себя безопасно и соблюдали закон той или иной страны, и делать это нужно было так, чтобы имидж Google не пострадал и формировал хорошее общественное мнение о компании. Лично я, в тот момент, переезжала из Нью Йорка в Калифорнию, поэтому если честно, перед тем как начать работу, я больше думала о переезде. Вся моя личная подготовка, по сути, заключалась в чтении множества материалов, не только юридических а еще кейсы реакций на деятельность компании, и как в Google справлялись с этой работой. В тот момент, я наблюдала некоторую критику, но она не идет ни в какое сравнение с тем, как критикуют Google сегодня. Критика была достаточно мягкой, и я была просто в восторге от того, что буду работать в Google. Мне было 23 года и это казалось самым лучшим решением моей жизни. 

А сейчас что думаете по этому поводу, Вы сделали правильный выбор? 

Да, я ни о чем не жалею. Думаю, многие вещи происходят по определенным причинам. Я использовала свой опыт контент модератора чтобы поступить в высшую школу, мы называем ее “think tank” (НИИ прим. ред.) и начала работать в организации под названием R Street Institute, в которой работаю сейчас. Мы предлагаем издателям законов и обществу идеи, как мы можем улучшить эту систему и мне очень повезло, что у меня был такой опыт и я прошла через работу в Google, потому что я точно знаю, что именно нужно менять в системе. 

С какими сложностями Вы сталкивались во время принятия решений по удалению контента?

Существует много сложностей, с которыми я встречалась при модерации контента. Безусловно, легко, когда принимаешь решения с точки зрения права — законно удалить контент или нет. В моём случае, сложности были когда я была не согласна с политикой компании. Например, были случаи когда я понимала, что конкретный контент должен быть удален, но в силу политики компании, у меня не было полномочий чтобы это сделать. А лично я, в некоторых ситуациях, приняла бы другое решение. Но я не могла удалить контент, потому что вынуждена подчиняться строгим правилам компании. Я бы даже сказала, что это больше эмоциональный фактор, потому что всё-таки, ты имеешь дело с человеческими проблемами. Например, когда мать пишет что ее ребенок был убит в террористической атаке и просит убрать изображения тела, и я понимаю что это правильно, но не могу это сделать. Или когда получаешь сообщения от женщин, которые стали жертвами порномести. Эти женщины унижены, их социальная жизнь перевернута вверх дном и они практически ничего не могут с этим сделать. Думаю, это наиболее сложная часть работы. В конечном итоге, ты работаешь с проблемами людей, и они ожидают человеческого отношения.

Дейзи, у вас были ситуации когда руководство было не согласно с принятыми Вами решениями? Возможно были случаи когда от Вас требовали пересмотра ваших решений?

В целом, такие случаи были, но я лично с такими случаями никогда не сталкивалась. Когда работаешь на такой должности, перед тобой всегда есть схема, которая объясняет тебе алгоритм действий: да — нет, и почему так. Например, если приходит запрос от правоохранительных органов — нужно убрать контент, то он должен быть удален в течении 24 часов. Но есть и так называемые “серые зоны”, когда можно подать апелляцию. Была ситуация, когда мы собрались и решили подать апелляцию, на поступивший запрос удаления контента с пометкой якобы “терроризм”. По нашему мнению, никакого отношения к терроризму фотография не имела и было бы несправедливо удалить ее из сети. И такие случаи, мы безусловно пытаемся регулировать. Хорошо в Google то, что у нас есть возможность диалога — мы регулярно собираемся и обсуждаем подобные случаи. Во многих ситуациях, если мы могли хорошо обосновать нашу точку зрения, то нашему решению доверяли, потому что в конце концов мы эксперты.

Ваши коллеги и подчинённые разделяли Ваши идеи и философию? Или в Google каждый сотрудник сам себе придумывает идею?

Думаю, что у всех коллег, примерно, похожая цель — защита свободы слова и защита прав пользователей. Эти две вещи поддерживаются сотрудниками во всех группах. Но я могу практически гарантировать, что когда речь идет о контрактниках (внештатных сотрудниках), то вначале они придерживаются общей цели, но спустя время, когда они видят, как к ним относится Google — я уверена, что их цель меняется. В нашем случае, у нас всегда была возможность обсуждать, пытаться что то изменить, и думаю это нас мотивировало. У контрактника иначе — чем дольше он работает в Google, тем меньше у него остается мотивации придерживаться философии компании. Это происходит по ряду причин: первая — это очень изнурительная работа, и вторая — чувство полного бессилия, из-за того, что он ничего не контролирует и не может ни на что повлиять. Есть конкретные правила, алгоритмы, которым он должен следовать. В отличии от контрактников, в нашей команде мы всегда совещались, пытались что-то сделать лучше, правильнее — у нас было больше полномочий.

Послесловие 

После разговора с Дэйзи, я поняла, что “Беспристрастный Google”  – это еще один стереотип в копилке мифов о Googlе, который старательно транслируется в общество. Для крупных техно-гигантов, вроде Google, фразы “свобода слова” и “защита прав человека” утратили свой изначальный смысл, сегодня это больше приманка для молодых специалистов. На этапе становления и расцвета  Google, возможно еще велась некая борьба за свободу слова, но когда компания превратилась в многомиллиардную с колоссальным влиянием на умы человечества, то свобода слова стала достаточно абстрактной категорией, которая беспрекословно подчиняется корпоративной политике. Что мы и наблюдаем: чем более политической и влиятельной становится структура, тем больше ограничений она вынуждена соблюдать в современном обществе, лишь номинально декларируя свободу слова, как один из принципов компании.

Борьба за справедливость и свободу слова в Google, превращается в борьбу сотрудников внутри самой компании и после демонстрируется на рынке, что по прежнему соблюдаются все принципы, которые были заложены в основании Google. И мы с вами будем часто сталкиваться с явлением, что те принципы и основания, которые закладываются в таких корпорациях, остаются в уставах этих компаний не более, чем в воспоминаниями, что были когда-то. Несмотря на  всю американскую демократию, свобода слова лишь номинально декларируется. 

Если вы действительно хотите бороться за свободу слова и искать справедливость в  интернет, то по опыту Дейзи, можно сказать, что эта вещь достижима, но необходимы совершенно другие способы, нежели работа  модератором контента в крупном техно-гиганте. Только небольшие группы компаний и независимые бизнес конфигурации, способны бороться за справедливость.
 

Я благодарю Дейзи за откровенное интервью и за готовность продолжить диалог.  Наше знакомство получилось крайне увлекательным. До новых встреч.