Разлом

Остальные бумаги кладу на место. Закрываю шкаф.

Чувствую себя вором в собственном доме.

Запрос в Архив оформляется не через Бюро, а через отдельный портал: Центр обслуживания персональных данных граждан. В народе его называют проще – «окно в прошлое».

Интерфейс у «окна» без изысков: белый фон, лаконичные формы, минимальные цветные акценты. Всё сделано так, чтобы не отвлекать от главного: от ответственности, которую ты на себя берёшь, нажимая «отправить».

Я сажусь за стол. Ноутбук мерцает в полутьме комнаты.

«Тип обращения:

– просмотр собственных логов;

– корректировка контекстных записей;

– наследственный доступ к логам умершего лица;

– иное».

Я выбираю третий пункт. Система разворачивает длинный список полей.

«ФИО умершего лица…

Родственная связь…

Идентификатор (если известен)…

Подтверждающие документы…

Цель обращения (выберите из списка):

– восстановление обстоятельств смерти;

– посмертная реабилитация;

– наследственные споры;

– личное понимание».

Я на секунду замираю над последним пунктом.

«Личное понимание».

Это новое. Ещё несколько лет назад целей было три, все юридические. Теперь добавили эту, как признание того, что людям иногда нужно не решение суда, а ответ на вопрос «что произошло».

Я ставлю галочку на «личное понимание». Внутри всё сжимается: признавать это перед системой – значит, официально зафиксировать свою неопределённость.

В поле «родственная связь» выбираю «дочь». Прикрепляю фото свидетельства о смерти. Система автоматически распознаёт текст, подтверждает.

На экране появляется предупреждение:

«Вы подтверждаете, что осознаёте:

– содержание логов может причинить вам эмоциональную травму;

– полученная информация не может быть использована без соответствующей юридической оценки;

– в случае выявления признаков правонарушений данные могут быть переданы компетентным органам».

Я ставлю три галочки. Нажимаю кнопку «Отправить».

И тут интерфейс меняется.

На экране всплывает окно видеосвязи: «Специалист Центра управления доступом хочет уточнить детали вашего обращения. Принять?»

Я не ожидала живого человека. Обычные запросы обрабатывают автоматические системы: приходят стандартные ответы, статус «в работе», всё по шаблону. Живой специалист означает, что мой запрос уже помечен как нестандартный.

Я секунду колеблюсь. Потом нажимаю «принять».

Экран делится на две части. В правой, той, что поменьше, я. В левой появляется женщина лет сорока с гладкими волосами, в строгой рубашке. За её спиной нейтральный фон с логотипом Центра.

– Добрый вечер, Мира Орлова, – говорит она. – Меня зовут Ольга, я специалист отдела контроля запросов. Ваше обращение попало в категорию, требующую устного подтверждения. Удобно сейчас говорить?

– Да, – отвечаю я, стараясь звучать спокойно.

– Вы подали запрос на наследственный доступ к логам Ильи Сергеевича Орлова, – продолжает она. – Указали цель «личное понимание».

Она не уточняет, кем он мне приходится. Уже видит в системе.

– Да, – повторяю.

– Скажите, пожалуйста, – голос у неё мягкий, тренированный, – вы знакомы с тем, что статус логов Ильи Сергеевича отличается от стандартного?

– В том-то и дело, – отвечаю. – Собственно, поэтому я и обращаюсь. В доступном мне интерфейсе я вижу только ошибку 410. Я хочу понять, что это значит.

Небольшая пауза. Я слышу, как где-то в глубине канала щёлкают невидимые фильтры.

– Ошибка 410, – говорит Ольга, – действительно отображается в вашем пользовательском интерфейсе. Однако для нас это не совсем «ошибка». Это код статуса.

Она делает короткую отрепетированную улыбку.

– Логи вашего отца отнесены к категории объектов с ограниченным режимом доступа. В таких случаях даже близкие родственники не могут получить полный просмотр.

Я чувствую, как внутри всё сжимается.

– Но в регламенте, – говорю я, – ясно указано, что близкие родственники умершего имеют право на расширенный просмотр. Там не сказано про исключения.

– В полном тексте регламента, – мягко поправляет Ольга, – в разделе четыре, пункт восемь, есть оговорка: «За исключением объектов, отнесённых к категории особого режима управления, список которых не подлежит разглашению».

Она произносит эту фразу так, будто читает по невидимой шпаргалке.

– Я работаю в Бюро Контекста, – говорю я. – Я читала регламент.

– Тем более, – кивает она. – Тогда вы понимаете, что у меня очень ограниченные полномочия. Я могу подтвердить статус, но не могу раскрыть критерии, по которым он присвоен.

– А кто может? – тут же задаю вопрос я .

Ольга слегка отводит взгляд. Это движение незначительное, но заметное.

– Решения по объектам особого режима принимаются на уровне Координационного центра Архива и связанных структур, – говорит она. – Мы в Центре обслуживания запросов работаем только с последствиями.

Она делает паузу.

– Я действительно сочувствую вашей ситуации, – добавляет она. – Но не могу выдать вам доступ туда, куда мне его не дали.

– То есть я никогда не узнаю, что произошло? – спрашиваю я.

Вопрос звучит громче, чем я ожидала. Даже микрофон чуть искажает голос.

Ольга вздыхает. Чуть, почти незаметно.

– Я не могу предсказать решения вышестоящих органов, – говорит она. – В теории режим может быть пересмотрен. В практике… – она на секунду замолкает, – такие случаи единичны.

– Я могу подать апелляцию? – спрашиваю. – Официальное обжалование отказа?

– Вы можете обратиться в суд, – отвечает она. – Но, как показывает практика, без новых юридически значимых обстоятельств суды не отменяют статус особого режима.

Она смотрит на меня не как на очередной лог-запрос. Скорее как на человека, который пришёл в отдел утерянных вещей и просит вернуть то, что никогда не числилось в списке выдачи.

– Я хотя бы имею право знать, жив он или умер, – неожиданно для самой себя произношу я.

Ведь формально свидетельство о смерти – просто бумага. Архив подтверждает факт только кодом. Если объект «удалён навсегда», это технически не то же самое, что «умер».

Ольга на секунду растерянно смолкает.

– Официальные органы зарегистрировали смерть Ильи Сергеевича Орлова, – наконец говорит она. – Данные о жизненном статусе синхронизированы с Архивом.

Слово «синхронизированы» звучит как заклинание, которое должно успокоить.

– Но вы не можете показать мне, как он умер, – уточняю я.

– Не могу, – признаёт она.

Мы молчим несколько секунд. В окне видеосвязи видно, как у неё за спиной кто-то проходит – чья-то тень мелькает по стене. У меня за спиной только полка с книгами и верхняя часть двери.

– Я могу зафиксировать ваше обращение, – говорит Ольга. – В системе останется запись, что вы как ближайший родственник запрашивали доступ и получили отказ по причине особого режима. Если режим когда-нибудь будет пересмотрен, это может сыграть роль.

Она делает ударение на слове «когда-нибудь» так, что оно звучит почти как «возможность математически не равна нулю, но в человеческом масштабе времени можете на неё не рассчитывать».

– Фиксируйте, – говорю я.

Она что-то отмечает у себя на панели.

«Обращение №…

Заявитель: Мира Ильинична Орлова.

Статус: отказ по причине особого режима управления объектом.

Дополнительно: цель обращения – “личное понимание“».

– Если вы решите обратиться в суд, – говорит она, – мы предоставим им эту запись.

Она смотрит на меня мягко.

– Простите, что не могу сделать больше.

Я отключаю видеосвязь. Экран гаснет, оставляя только сухую строку статуса:

«Ваш запрос отклонён. Причина: объект находится в особом режиме управления. Дополнительные пояснения не предусмотрены».

Я сижу в темноте комнаты, смотрю на эту строку и думаю, что в ней недостаточно букв, чтобы вместить всё, что за ней стоит.

На следующий день, едва я успеваю взять в Бюро кружку кофе, Лис машет мне из своего кабинета.

– Мира, зайди на минуту.

Голос у него обычный, но что-то в интонации настораживает.

Я захожу. Он закрывает дверь, хотя обычно держит её приоткрытой.

– У нас весёлые аналитики, – говорит он без вступлений. – Так рады, когда стажёр делает что-то отличное от стандартного набора действий.

Я понимаю, куда он клонит.

– Центр управления доступом прислал нам уведомление, – продолжает Лис, поворачивая ко мне экран. – «Сотрудница Бюро Контекста Орлова М.И. инициировала наследственный запрос к объекту с особым режимом. Просим обратить внимание на возможный конфликт интересов и необходимость психологической поддержки».

Он процитировал почти дословно, но с такой интонацией, что психологическая поддержка звучит как надзор.

– Ты решила пойти в обход стандартных интерфейсов, – резюмирует он. – Как тебе опыт?

– Я действовала по регламенту, – говорю я. – Использовала законную процедуру.

– Не спорю, – кивает он. – Вопрос в том, насколько ты готова к последствиям.

– Каким? – спрашиваю.

– Во-первых, – он загибает палец, – теперь о твоём интересе к объекту с 410-м статусом знают не только наши аналитики, но и те, кто сидит повыше. Не только у нас в Бюро.

– Во-вторых, – второй палец, – часть клиентов будет для тебя напоминать о собственных вопросах. Горе, потеря, смерть. Это может быть ресурсом, а может стать точкой разлома. Разницу ты сама почувствуешь.

– В-третьих, – третий палец, – тебе придётся решить, кто ты здесь: консультант или ищущий. Совмещать можно, но только до какого-то предела.

Я стою, чувствуя, как всё это ложится на меня дополнительным слоем.

– Ты… считаешь, что я не справлюсь? – спрашиваю.

– Я считаю, – вздыхает Лис, – что на второй неделе работы уже лезть в 410 – это амбициозно.

Он присаживается на край стола.

– Послушай, – говорит мягче. – Я не спрашиваю, кто для тебя этот человек. Это твоё дело. Но придётся понимать: у нас в системе по умолчанию люди с таким статусом, как камни на дне. Их не трогают без необходимости. Если ты начинаешь вокруг них плавать, тебя автоматически заносят в список тех, за кем наблюдают.

– Меня это не устраивает, – говорю я.

– Меня тоже много чего в этом мире не устраивает, – пожимает плечами Лис. – Но я решил остаться в Бюро, а не уйти в лес с отключённым браслетом. Это означает, что я играю по некоторым правилам. Ты тоже их приняла, когда сюда пришла.

Он делает паузу.

– Я не говорю «не копай», – добавляет он тихо. – Я говорю: копай осторожно. И лучше не одна.

– У меня есть мама, – отвечаю я. – И университет.

И Кирилл, всплывает где-то на краю сознания, но вслух я этого не произношу.

– Мама – это отдельная статья, – хмыкает Лис. – Родители хуже всех переносят то, что их дети копаются в прошлом. Особенно если это прошлое касается их самих.

Он смотрит на меня пристально.

– Если захочешь неофициально поговорить, – неожиданно говорит он, – я здесь. Не как куратор, а как человек, который тоже задавал похожие вопросы в своё время.

– Ты тоже делал наследственный запрос? – удивляюсь я.

– Я делал запрос на живых, – отвечает он. – Что, строго говоря, хуже.

Он усмехается, но в глазах у него не смех.

– Всё, иди работать, – отмахивается он. – А то аналитики решат, что я уже провожу с тобой внеплановую психотерапию.

Я выхожу из кабинета с ощущением, что невидимая линия, отделяющая мою личную историю от моей работы, стала ещё тоньше.

Внутри, поверх всех регламентов, отпечатывается простая фраза Ольги: «Ваш запрос отклонён. Дополнительные пояснения не предусмотрены».

Система не объясняет, почему именно одних людей оставляют в Архиве целиком, а других вырезают, как не политкорректную сцену из фильма.

С этим придётся разбираться уже не как стажёру. Как дочери.

* * *

Запись 2. Без адресата.

Меня часто спрашивали, чем я занимаюсь. Я отвечал: работаю с данными. Так проще. Люди кивают, улыбаются, представляют себе аккуратные графики, диаграммы, красивые презентации. Никто не хочет слышать, что ты целыми днями разбираешься не с числами, а с людьми, которых превратили в числа.

Звучит пафосно, но реальность куда скучнее. Передо мной была таблица. Строки – пользователи , столбцы – их действия. Дата регистрации, количество входов, среднее время сессии, число конфликтных сообщений, число жалоб на них, уровень вовлечённости, вероятность ухода, вероятность рецидива, вероятность чего угодно, если задаться целью.

На ранних этапах мы ещё стеснялись писать «вероятность предательства» или «склонность к обману». Называли это мягче: «индекс надёжности», «корреляция с нарушением правил». Потом стеснение прошло. Когда ты видишь набор из ста тысяч строк, легко забыть, что каждая – отдельный человек, а не всплеск на графике.

Главное искушение статистики заключается в том, что она быстро начинает казаться честнее любого отдельного лица . Лицо может солгать, статистика нет. Если из ста человек десять нарушили договор, а девяносто нет, график покажет это так, что даже школьник поймёт. На графике всегда всё красиво. Даже катастрофа выглядит эстетично, если её нарисовать гладкой линией.

В какой-то момент к нам пришли и сказали: «Сделайте, чтобы система заранее видела тех, кто с большей вероятностью нарушит правила. Нам нужна профилактика, а не вечное тушение пожаров». Мы сделали. Разложили данные, построили модели, обучили алгоритмы. Таблица пополнилась новыми столбцами: «вероятность токсичного поведения», «вероятность финансового мошенничества», «вероятность выхода из-под контроля».

Выглядело это внушительно. Рядом с каждой строкой – аккуратное число от нуля до единицы. 0,12. 0,47. 0,83. Мы привыкли к этим цифрам так же, как кассир привыкает к ценникам. Поднимаешь глаза и видишь не человека, а 0,83. И заранее напрягаешься.

Первые недели я ещё сопротивлялся этому рефлексу. Смотрел в таблицу и повторял себе: «Это лишь оценка. Модель. Ошибка возможна. Каждый имеет право выйти за пределы вероятности». Потом начались отчёты: «Видите, модель предсказала рост конфликтов на двадцать процентов точнее, чем в прошлом году»; «Видите, мы заранее выделили группу риска, и действительно, именно оттуда пришли жалобы».

Статистика, как любой хороший адвокат, приносила нам доказательства собственной полезности. И каждое доказательство чуть-чуть утяжеляло чашу весов: «Раз уж модель так хорошо работает, почему бы не доверять ей больше?»

Проблема в том, что статистика не знает, где остановиться. У неё нет чувства меры, потому что у неё нет страха. Люди, которые принимают решения на её основе, тоже быстро перестают бояться. На графиках не видно глаз. На графиках не стоит вопрос «а если это ошибочное совпадение?» – там просто линия идёт вверх или вниз.

Я видел, как мы постепенно меняли язык. Сначала говорили: «вероятность такого поведения у этой группы выше». Потом: «скорее всего, человек из этой группы поведёт себя так». Ещё через пару месяцев стали говорить: «такие люди ведут себя так». Вероятность аккуратно превратилась в приговор, даже не заметив этого превращения.

В отчётах для начальства особенно любили слово «профиль». «Профиль пользователя», «профиль риска», «поведенческий профиль». Профиль – это тонкий силуэт на бумаге. Ни лица, ни тела. В профиль легко влюбиться, его легко ненавидеть, ещё легче – принять его за истину. Гораздо труднее повернуться к человеку фронтально и увидеть, что у него, помимо вероятностей, есть ещё язык, руки, привычки, странные ночные мысли, которые не входят ни в один столбец.

Мы строили модели не из злого умысла. Хотели безопасности. Хотели эффективности. Хотели предсказуемости. Так всегда начинается. «Если мы заранее увидим потенциально опасных, то сможем защитить остальных». Это звучит благородно, пока не вспоминаешь, что слово «потенциально» означает в переводе: «ещё ничего не сделал».

Однажды ко мне подошёл коллега из аналитического отдела. Мы сидели в столовой, жевали одинаковую офисную пасту, а он вдруг сказал: «Ты знаешь, что по нашей модели твой профиль относится к группе с повышенной вероятностью нелояльности?»

Я чуть не подавился.

– С чего это? – спрашиваю. – Я здесь ночую что ли мало?

Он показал на своём планшете мои собственные строки: какие статьи я читаю, какие обсуждения предпочитаю не комментировать вслух, какие темы чаще поднимаю в рабочих чатах. Оказалось, что для модели «склонность задавать вопросы, не связанные напрямую с задачей», «читает материалы, критикующие собственную отрасль» и «общается с людьми с похожими паттернами» – признаки потенциальной нелояльности.

Для меня это был набор признаков нормального, хоть как-то думающего сотрудника. Для алгоритма – флажки.

– Не переживай, – сказал коллега. – Это всего лишь один из показателей. Пока что.

Слово «пока» прозвучало громче, чем гул кондиционера.

В какой-то момент я понял, что мы создали машину, в которой каждый и объект, и участник эксперимента. Мы сами учили алгоритмы искать корреляции, а потом обнаружили себя по другую сторону таблицы. Никакой особой трагедии в этом нет. Трагедия в другом: мало кто увидел в этом проблему. Большинство сочли честным, что их тоже посчитали. «Раз уж система общая, пусть и нас измеряет», – говорили они . Как будто справедливость заключается в равномерном распределении надзора.

Чем дольше я с этим работал, тем чаще ловил себя на простой мысли: статистика – это прекрасный инструмент для описания прошлого и очень опасный инструмент для решения будущего. Она честно говорит: «во вчерашнем наборе данных было так». Но как только её заставляют отвечать на вопрос «что делать завтра?», она начинает подменять этику вероятностью. Там, где раньше была совесть, появляется коэффициент.

Мы сделали из числа третьего участника любого разговора: «Он изменил, но вероятность повторения низкая»; «Она была агрессивна, но это в пределах статистической нормы для её возраста»; «У этого пользователя профиль, как у тех, кто раньше срывался, лучше не брать его на работу». Всё это удобно. Всё это экономит время. Всё это убивает в человеке веру, что он может однажды выйти за пределы собственной строки.

Самое страшное в таблицах – не холод. Самое страшное – молчание. В них никто не возражает. Нет тех, кто говорит: «Подождите, я не согласен с вашей интерпретацией». Даже если кто-то придёт и скажет, что в нём что-то изменилось, система ответит: «Подтвердите изменением паттерна поведения, тогда мы пересчитаем ваш профиль». Это, возможно, честно. Но не вполне по-человечески.

Я не против статистики. Без неё мы бы по-прежнему спорили на уровне «кажется», «а мне кажется», «а мне кажется больше». Я против того, чтобы таблицы становились последним словом о человеке. В моём времени граница между подсказкой и приговором уже почти стёрлась.

Иногда, глядя на выстроенные в ряд идентификаторы, я пытался представить себе людей по ту сторону. 0,83 – кто он? Девочка, которая в семнадцать лет написала три яростных комментария в защиту подруги? Мужчина, который после развода два месяца ругался с бывшей женой в мессенджере? Пенсионер, который верит в теории заговора и пересылает всем знакомым ссылки? Или действительно тот самый, кто завтра ударит кто-то на улице?

Модель не сообщает. Ей всё равно. Её интересует только совпадение шаблонов.

Я долго думал, где проходит та тонкая линия, за которой анализ становится насилием. Наверное, как раз там, где человек перестаёт быть тем, кто может сказать «нет» своему профилю. Где мы начинаем верить, что строка в таблице описывает нас точнее, чем собственные слова.

В тот день, когда мы нажали свой знаменитый флажок, все эти профили должны были выйти наружу вместе с логами. Не отдельные грехи, не отдельные глупости, а целые карты вероятностей. Не просто «что человек сделал», а «каким его считает система». Я тогда подумал: если человечество увидит не только чужие поступки, но и то, как его заранее классифицируют, возможно, оно наконец возмутится. Посмотрит в зеркало не из стекла, а из цифр и скажет: «Нет, так нельзя».

Оно, конечно, возмутилось. Но не тем.

Люди бросились проверять, кто что делал в прошлом. Почти никто не стал спрашивать, почему кто-то был посчитан более опасным, чем другие. Опасность конкретного старого действия оказалась понятнее и ближе, чем опасность самой идеи «вероятностного человека». Легче осудить один случай, чем усомниться в огромной машине, которая этот случай заранее ожидала.

Статистика – отличный помощник. Плохой хозяин. Мы слишком легко поменяли местами эти роли. И виноваты в этом не алгоритмы. Алгоритмы не пишут регламенты. Алгоритмы не решают, кому показать цифру, а кому только её последствия. Алгоритмы не выбирают, чью строку однажды полностью вычеркнут из таблицы.

Это делаем мы. Те, кто верит, что мир станет более управляемым, если к каждому имени добавить пару аккуратных чисел.

Глава 6. Без записи

Вечером город чуть меняет голос.

Днём он гудит деловым шумом, уведомлениями, сигналами светофоров. Ночью появляются другие звуки: редкие машины, шаги на тротуарах, глухие голоса у подъездов, смех откуда-то с высоты, из открытых окон.

Я сижу за столом, смотрю на погасший экран ноутбука. В отражении свой же чуть уставший взгляд и прямоугольник панели у входа за спиной.

На браслет приходит короткое уведомление:

«Напоминание: сегодня 19:00, ауд. В -07.

Тема: 410 – тоже люди.

Формат: встреча. Без записи».

Я совсем забыла, что отметила объявление у стенда в университете. Тогда это казалось просто жестом: сохранить, чтобы «посмотреть позже». Теперь то самое «позже» наступило.

Между строками уведомления чувствуется ирония. В мире, где всё пишется, обещание «без записи» звучит почти как вызов.

Из кухни слышен голос мамы, она разговаривает по видеосвязи с коллегами.

– …нет, мы не можем просто игнорировать эти движения, – говорит она. – Если родители протестуют против записи, значит, они хотя бы начали задумываться, что именно сдают…

Я встаю, заглядываю в кухню. На экране ноутбука несколько лиц в маленьких окошках: кафедральное совещание.

– Мам, – говорю. – У меня вечером семинар.

Она поднимает глаза.

– В университете? – уточняет.

– Да, – киваю. – Климов. Дополнительная встреча по курсу, обсуждение кейсов.

Я не уточняю, что семинар организует не кафедра, а те, кто печатает кривые листовки и пишет «без записи» большими буквами.

Мама смотрит на часы.

– Не поздно вернёшься? – спрашивает она.

– Постараюсь до десяти, – отвечаю.

Она кивком отпускает. В её взгляде одновременно доверие и лёгкое напряжение, которое всегда появляется, когда речь идёт о том, где и с кем я буду.

– Если будет что-то интересное, расскажешь, – говорит она. – Нам тоже нужны свежие кейсы.

Интересное будет. Вопрос, захочет ли она слышать именно это.

Аудитория В-07 находится в подвале старого корпуса. Коридор там низкий, потолок в трещинах, свет жёлтый, как в старых больницах. На стенах облупившаяся краска соседствует с новыми датчиками движения. Пахнет сыростью, пылью и чем-то ещё: смесью старых книг, мокрых зонтов и чужого дыхания.

У двери уже стоят люди. Некоторых я узнаю по лицам: несколько студентов с моего курса, пара ребят с других факультетов, женщина средних лет в пуховике, мужчина в строгом пиджаке, явно не из университетской среды.

Около двери стол. На нем большой металлический ящик, обклеенный фольгой и проводами. Рядом табличка:

«Просьба: браслеты и телефоны сложить сюда.

Внутри экранированный контейнер.

Снаружи только вы».

За столом сидит девушка с короткими волосами и серьгой в брови. Она проверяет, чтобы каждый действительно снял все устройства.

– Это обязательно? – спрашивает мужчина в пиджаке. – Мне… нужно быть на связи.

– Встреча идёт полтора часа, – спокойно отвечает девушка. – Если вам жизненно важно, чтобы кто-то мог вас в любой момент найти, возможно, это не ваше мероприятие.