Беззащитные данные: как Facebook оказалась в центре самого большого скандала в истории

Акции Face­book падают — со вчерашнего дня капитализация компании «провалилась» на $40 млрд. Причина — масштабный и нехорошо пахнущий скандал: бывший сотрудник компании Cam­bridge Ana­lyt­i­ca (далее CA) Крис Уайли (Chris Wylie) дал интервью The Guardian, в котором признался, что компания использовала данные пользователей Face­book без их ведома, для профилирования и «промывания мозгов».

А конкретно — для активной доставки контента, влияющего на решения людей, в том числе во время выборов президента США. Крис признался, что покровителем затеи был не кто иной, как Стив Бенон, доверенный советник Трампа, и именно он придумал проекту название «psy­cho­log­i­cal-war­fare mindfu@k tool» ( если смягчить перевод — «инструмент для запудривания мозгов»). Об этой истории на данный момент написала практически вся западная пресса: The Guardian, NY Times, Observ­er, и маятник только начинает раскачиваться, ибо все вопросы, которые витали в воздухе относительно понятия «приватность» внезапно стали как никогда актуальными и наглядными. Оказалось, что как минимум одна коммерческая компания может влиять на то, кто будет президентом любой развитой страны.

Ситуация очень сложная с технической точки зрения, поэтому большинство спикеров не комментируют, что, собственно, произошло и почему это настолько важно, что инвесторы сбрасывают акции Face­book. Мне кажется, важно объяснить суть, а для этого вспомним порядок событий. Изложение сознательно упрощено, чтобы не уходить в технические дебри:

1) Компания Cam­bridge Ana­lyt­i­ca во главе с СЕО Александром Никсом (Alexan­der Nix) понимает, что данные о человеке можно использовать для манипуляции общественным мнением.

2) Компания поднимает инвестиции, нанимает инженеров, чтобы сделать программное обеспечение, способное анализировать поведенческие данные человека: что пользователь пишет в интернете, с кем общается, его лексикон, маршруты движения, предпочтения в литературе, фильмах и музыке и т. д. На основании этих данных делаются конкретные заключения: что надо сказать человеку и в каких выражениях/форме, чтобы он поверил и отреагировал предсказуемо — так, как надо заказчику.

3) Компания проводит тесты своего софта и понимает, что она не ошиблась: условно, если холерикам и сангвиникам, собирателям и революционерам давать разный контент и упаковывать одни идеи в разные сообщения — кому-то видео чиновника со скрытой камеры, кому-то скриншот почтового ящика Хилари Клинтон, кому-то подкаст никому не известного блогера, — люди реагируют с потрясающим уровнем конверсии (соотношение кликов к количеству показанной рекламы).

В CA понимают — это золотая жила, но для того, чтобы развернуться, им нужно еще больше данных о людях.

4) Cam­bridge Ana­lyt­i­ca придумывает ход конем, чтобы высасывать из пользователей Face­book максимальное количество информации: о них, их друзьях и знакомых, а главное — дополнительную личную информацию для составления психологического портрета пользователей. Они своими руками и руками внешних подрядчиков начинают делать всевозможные веселые приложения и онлайн-тесты, пройдя которые, можно узнать, условно, «кто ты во «Властелине колец» и «кто ты на самом деле по гороскопу», и поделиться смешным рейтингом с друзьями.

Затея срабатывает — люди не чуют подвоха, соглашаются на любые условия работы приложения и начинают отдавать кучу личной информации о себе и своих друзьях. Эти приложения по сути представляют собой психологическое анкетирование (до 2015 года это было возможно в космических масштабах и почти без ограничений, в 2015‑м Face­book изменил свой API и запретил приложениям собирать большую часть информации о «друзьях друзей», но это драматично не повлияло на бизнес CA, ибо их главный конек был и остается в социальном инжиниринге).

5) Помимо FB компания Cam­bridge Ana­lit­i­ca покупает данные у дата-брокеров (на рынке более 2000 компаний, в том или ином виде специализирующихся на перепродаже наших данных — истории покупок, истории поиска и веб-серфинга и т. д.). Сопоставляя данные профилей FB, покупную информацию и данные из «веселых» приложений и «даркнета», где публикуют, например, украденные хакерами базы данных, они получают возможность делать предсказания о конкретных людях с колоссальной точностью.

По исследованиям компании Biolink.Tech, всего можно выделить 14 типов данных. Например, чтобы вы понимали возможности: с высокой достоверностью даже по анонимным данным можно определить пол человека, расу, профессию, социальный статус и примерный уровень доходов. А также личные качества: гей или натурал, изменят жене/мужу или нет, за кого будет голосовать из списка кандидатов, шовинист или нет, расист или нет, правые или левые взгляды — список классификаций почти бесконечный.

Как писал Джордж Оруэлл, «кто контролирует прошлое, контролирует будущее». И тут это как нельзя точно описывает суть — если ты знаешь, что делал человек последние 10 лет, ты почти гарантированно сможешь сказать, что он будет делать завтра.

6) CA убедилась, что машинка по поиску целей работает. С каналами доставки мозговых бомб тоже все было понятно — социальные сети. Осталось решить простую проблему — контент. Они начали в прямом смысле планировать кампании по изменению общественного мнения через компромат, настоящий и выдуманный контент, компрометирующий или, наоборот, выставляющий в хорошем свете конкретного человека или фракцию. Гендиректор компании открыто признался в одном из своих интервью — «не важно, правдива новость или нет, если в нее поверят». Это в сути своей отражает бизнес-модель CA: собрать базу из 50 млн человек, разбить их по типам, понять цель заказчика и начать одним людям скармливать одно, другим — другое, третьим — третье, чтобы все начали ругаться друг с другом, но в сухом остатке была достигнута цель — победа кандидата Х на выборах или принятие решения на референдуме по выходу Англии из Евросоюза. Автор не утверждает, что в CA это сделали, лишь указывает, что у них могла быть такая возможность, компания открыто продавала свои услуги на рынке.

The Guardian упоминает о том, что они делали питч даже компании «Лукойл», которая не совсем поняла, как их возможности связаны с нефтяным бизнесом, и якобы на этом разговор и закончился. Зная косность и консервативность нефтянки и то, как «быстро» они принимают стратегические решения вне своей прямой экспертизы, полагаю, что «Лукойл» — ложный след. Это лишь пример разнообразия клиентской базы CA.

7) Face­book напряглись, что у них в пуле есть партнер, который высасывает из их абонентской базы столько данных. По заявлению вице-президента Face­book Пола Греваля (Paul Gre­w­al), FB отрезал CA доступ к данным после изменения правил в 2015‑м. Он четко обозначил позицию: мол, они нарушили наше лицензионное соглашение, и мы потребовали письменных доказательств, что данные, полученные о наших пользователях, уничтожены. Были ли они уничтожены на самом деле — неизвестно, но в этом сейчас будет разбираться экспертная группа, автор уверен, что власти UK и EU выдадут соответствующий ордер.

8) Отписавшись в Face­book, мол, все окей, не переживайте, Cam­bridge Ana­lyt­i­ca не просто не прекратила своей деятельности, она, наоборот, ее стала наращивать и применять новые инструменты сбора данных, часто противоречащие политике самой Face­book. Крис Уайли признался:

«Мы использовали несовершенство программного обеспечения Face­book для сбора миллионов пользовательских профилей и построения моделей, которые позволяли нам узнавать о людях и применять эти знания для активации их внутренних демонов».

Бесплатные соцсети. Дорого

В сухом остатке совершенно неважно, докажет расследование, что CA нарушили правила работы Face­book, или окажется, что Face­book, например, не просто не мешала, но и помогала их деятельности. Существует одна компания, которая сосредоточила в своих руках знания о поведении 2 млрд человек.

Эти знания компания, ее легальные партнеры и не ограниченные законом хакеры и преступные группировки могут использовать для изменения исхода любого голосования, отношения к совершенно любому тезису, человеку или компании.

Мы видим, что социальные сети совсем не бесплатные. Наши данные стоят денег, и немалых: Face­book зарабатывала на рекламе около $40 млрд в год, а сколько заработала CA на выборных кампаниях — страшно подумать (только на предвыборную компанию в интернете штаб Трампа затратил $58,6 млн).

Монополия Face­book на наши «цифровые ДНК» (следы, которые пользователь оставляет в интернете) стоит поперек горла всем. Бизнесы подсаживаются на рекламные ковровые бомбардировки, как на героин, люди устают смотреть рекламу вещей, которые им не нужны, государства в силу своей природы ищут баланса сил на уровне ООН, а FB очевидным образом придает больше силы США. И не все в США этому рады: в Америке живет и работает огромное количество блестящих специалистов и потрясающих, добрых, открытых людей, реально ставящих нужды планеты выше своих собственных. Не надо судить о США по поведению политиков, так же, как многие американцы не судят о России по передачам российского телевидения.

На данный момент Марк Цукерберг не дал ни одного комментария о ситуации, что выглядит крайне странно, особенно на фоне пикирующего курса акций. Как сообщил Mar­ket­watch, оказывается, Марк в последние дни активно распродавал собственные акции, полагаю, он это делает осознанно, понимая будущую силу только начинающегося скандала.

Осенью 2016 года автор этого текста выступал на TEDx с темой важности «цифрового ДНК» и опасности управления с его помощью общественным мнением. По итогам в числе прочего пришлось выслушать массу критики в духе «не надо выдумывать проблему там, где ее нет. Не существует такой проблемы, как приватность, потому что данные — это собственность бизнесов».

Надеюсь, теперь многие увидят, как жестоко ошибались. Рад, что эта ситуация стала публичной и вопрос прав человека на владение своими данными неизбежно будет обсуждаться на уровне глав государств.

И о важном. Заявление, что данные применялись «без ведома пользователей», технически не соответствует действительности.

Пользовательское соглашение Face­book устроено таким образом, что единожды кликнув «я согласен», вы навсегда прощаетесь со всеми (!) правами на свои посты, фото, поведенческие данные, историю маршрутов и все косвенные заключения, которые можно сделать на основе этих данных.

Например, не удивляйтесь, если Face­book соберет из ваших данных бота с вашим лицом и начнет вашим друзьям продавать что-то. Это не будет нелегальным. Уверен, сложившаяся ситуация наконец всех отрезвит и подходы к данным в мире начнут меняться.