Люди не идеальны. Некоторые не способны справляться с эмоциями, то и дело срываются на буйные, хулиганские поступки. Если вы сталкивались с хулиганами на улице, в транспорте, в питейных заведениях, то наверняка только злорадно потерли бы руки, если такого смутьяна приструнили бы и призвали к ответу. Сегодня в больших городах России растет число видеокамер на улицах, да и геолокация в телефоне не даст далеко уйти преступнику или дебоширу. Так что цифровая слежка не такая уж плохая вещь, подумаете вы.

Примерно так же думают 80% граждан Китая, где с 2014 года внедряется так называемая система социального кредита. Правда, основная цель этой системы не безопасность граждан, а выявление благонадежных и не очень. За правильные и общественно полезные поступки гражданам начисляются баллы, за аморальные и политически неблагонадежные — баллы отнимаются. Таким образом, граждане делятся на «хороших» и «плохих» и попадают, соответственно, в «красный» и «черный» списки. Система первоначально вводилась в отдельных неблагополучных регионах, где высока опасность протестов и массовых беспорядков (Синьцзян и Кашгария, Тибет), теперь постепенно распространяется на остальные регионы.

Информация о поведении граждан собирается из всех возможных источников: с камер видеонаблюдения, из постов в соцсетях, из кредитных организаций, из доносов информаторов. Помимо государственной системы аналогичную систему ранжирования Sesame Credit ведет крупнейшая в мире платформа Alibaba, в которой зарегистрированы почти 600 млн пользователей. Представители Sesame Credit уверяют, что не делятся данными с правительством без согласия клиентов. Однако по заказу государства компания создала черный список из 6 млн граждан, не уплативших судебные штрафы. Есть и другие компании вроде Ant Financial и Tencent, которые ведут собственные системы социального рейтинга.

Общий принцип в том, что если вы ударно трудитесь, имеете положительные отзывы от коллег, выполняете общественную работу, переводите старушек через дорогу, любите детей и кошек-собачек, а главное — не пишете глупости в интернете и не участвуете в протестных акциях, то вам начисляются баллы, которые здорово облегчают жизнь: у вас хорошие карьерные возможности, вам положен льготный кредит и т. п. Но если вы кому-то нагрубили, попали в некрасивую историю, не выплатили кредит вовремя или просто слишком много времени потратили на игры в интернете, то ваш рейтинг резко падает. 

И вот что бывает со злостными нарушителями — они фактически поражаются в правах. Вот неполный перечень санкций: запрет на работу в госучреждениях, отказ в соцобеспечении, особо тщательный досмотр на таможне, запрет на занятие руководящих должностей в ряде отраслей промышленности, отказ в авиабилетах и спальном месте в ночных поездах, отказ в размещении в люксовых гостиницах и ресторанах, запрет на обучение детей в элитных частных школах, запрет на выезд за рубеж и даже отключение интернета.

Согласно отчету Государственного центра информации о социальном кредите Китая, к 2018 году в черные списки внесены почти 4 млн юридических лиц (им будет запрещено участвовать в госзакупках, аукционах на землю и так далее), 17,5 млн человек не могут купить авиабилеты, 5,5 млн человек — билеты на поезд. Кроме того, людям из черных списков сложнее приобрести страховку, недвижимость, пользоваться финансовыми инструментами. 

Уже стало известно, что техсредства иногда ошибаются и поражают в правах невиновных. В китайской прессе уже обсуждались примеры — одна предпринимательница была оштрафована за переход дороги в неположенном месте, хотя на самом деле она ехала в автобусе, но видеокамера ее распознала как пешехода. А один журналист не смог купить билет на рейс из-за штрафа, который он уже оплатил, — но его апелляция осталась без ответа. А какого ответа можно ждать от робота? Именно так: мы начинаем жить в мире, которым управляют роботы. Но, как известно, любые механизмы, в том числе цифровые, могут ошибаться, давать сбои, «зависать» — даже в самой микроскопической вероятности жертвами ошибок в одном только Китае могут стать сотни тысяч человек.

Элементы китайской рейтинговой системы уже можно найти по всему миру. В 2018 году Венесуэла ввела электронные паспорта под названием carnet de la patria («отечественная карта»), которые содержат данные о дате рождения, семейном статусе, детях, месте работы и доходе, о собственности, медицинской истории, государственных льготах, присутствии в соцсетях, членстве в политической партии, участии в голосовании. В Германии находят сходство с китайским опытом в универсальной кредитной системе Schufa, чьи данные наряду с геолокацией и медицинскими показателями влияют на доступ к кредитам и медицинскому страхованию. Британская рейтинговая система также включает кредитную историю, а еще историю пользования телефоном и арендных платежей, которые влияют на доступ к ряду социальных услуг.

Но сильнее всего произвело впечатление исследование журнала Fast Company, пришедшего к выводу, что даже в таком оплоте свободы и демократии, как США, вовсе не требуется вмешательства государства, чтобы опутать население по рукам и ногам, — это уже делают технологические гиганты Силиконовой долины. Так, департамент финансовых услуг штата Нью-Йорк объявил в этом году, что страховая премия человека будет рассчитываться с учетом постов в его социальных сетях: «Если на фото в «Инстаграме» вы дразните медведя гризли с мартини в одной руке, ведром жареной картошки с сыром в другой и сигаретой в зубах, страховка обойдется вам дороже, зато посты о ваших занятиях йогой могут снизить ее стоимость». Компания PatronScan продает владельцам баров и ресторанов технологии, выявляющие поддельные удостоверения личности, а также базу данных нежелательных клиентов, засветившихся в драках, сексуальных домогательствах, историях с наркотиками и т. п. Клиенты PatronScan работают в США, Канаде, Великобритании и Австралии, а значит, если вы попали в черный список в одном заведении, то вас могут не пустить и во все остальные. Сервис Airbnb, имеющий со своими 6 млн пользователями огромную долю на мировом рынке размещения, может «забанить» любого пользователя без объяснения причин. Сервис такси Uber также ввел систему рейтингования пассажиров и может запретить доступ любому человеку с низкими баллами. WhatsApp также может заблокировать вас за любую провинность, например если ряд ваших контактов пожаловался на вас — а ведь в некоторых районах мира, напоминает журнал, лишение этого мессенджера равносильно лишению телефонной связи.

Как отмечается в статье, самый тревожный аспект американской системы социального кредитования — это даже не ее агрессивность, а то, что эти наказания лежат за пределами правовой системы, с присущими ей презумпцией невиновности, юридическим представительством, судьями, присяжных и зачастую даже апелляцией. И опять-таки все эти наказания выносятся машинами, которые слезам не верят.

А что в России? Мы идем примерно тем же путем. Банки, страховые компании, телефонные операторы, розничные сети собирают и покупают персональную информацию о своих клиентах, их кредитные истории и истории покупок, штрафов и т. п., чтобы дифференцировать условия кредитов, бонусов, цены на страховые полисы. Два года назад появилась информация, что в России разрабатывается система социального рейтингования наподобие китайской. Еще ранее появилась идея электронного паспорта гражданина РФ, в котором в единый профиль, или аккаунт, будут собраны все жизненно необходимые возможности, в том числе банковские счета, доступ к связи и интернету и т. п. Власти уже успели неоднократно заверить граждан, что ничего подобного китайской системе у нас не будет. 

Но вот характерный пример знакомой журналистки, который она пару месяцев назад поведала на Facebook. При расчете налога ее ИП налоговая инспекция насчитала 18 копеек долга. Несмотря на возражения плательщицы, налоговая решила до выяснения обстоятельств принять обеспечительные меры — и заблокировала ей не только счет ИП, но и вообще все счета во всех банках. 

Что это означает: технически уже сегодня возможно «забанить» и попросту вывести за пределы общества любого гражданина за любую провинность — причем даже не тратя времени на старомодные глупости вроде следствия, предъявления обвинения, предоставления адвоката и презумпции невиновности. Не говоря уже об апелляции к Конституции и Уголовному кодексу. Дальше — больше: сегодня это делается в наказание за (незаслуженно) начисленный долг, завтра — за плохое поведение на работе, а потом — за неправильный пост в соцсетях или за участие в неправильном митинге. 

Можно ли что-то противопоставить такой перспективе? Только здравый смысл. Теплится еще надежда, что во всех спорных вопросах между людьми конечное решение всегда будет оставаться за людьми. Но все мы помним афоризм английского политика Джона Актона: «Власть развращает, абсолютная власть развращает абсолютно». Цифровая власть — это и есть абсолютная власть. Если она победит, то мы можем дождаться войны между людьми и машинами, подобной той, что описана в «Терминаторе».