АНИМА

— Это ранняя версия, — сказал Кейн, заметив его лицо.

— Версия чего?

Кейн помолчал, и впервые за два дня Александр видел, что тот подбирает слова, а не просто ждёт, пока собеседник дозреет.

— Попытка оценить способность человека к изменению.

— Вы хотите сказать, что она может определить, способен ли человек стать другим?

— Мы пытаемся понять, возможно ли это вообще.

Это было честнее любого уверенного заявления. Александр снова посмотрел на сетку. Минуту назад сама идея казалась ему естественной: если личность — процесс, его можно изучать, как любой другой. Но изучать механизмы изменения — одно дело. Выставлять оценку конкретному человеку — совсем другое. Вместе с оценкой появляется право на вывод, а вместе с выводом — кто-то, кто этот вывод использует.

— А что будет, если система решит, что человек почти не способен измениться? — спросил он.

Кейн не ответил. За стеклом прошла лаборантка с подносом пробирок, хлопнула где-то дверь. Ответила Анима:

«Тогда вероятность изменения будет указана как низкая».

Больше на экране ничего не появилось. Александр ждал продолжения, оговорки, хоть какой-то поправки. Её не было — система ответила ровно на тот вопрос, который ей задали.

Глава 3. Человек, который изменился

Через неделю дождь сменился мелкой холодной моросью, которая не падала, а висела в воздухе и оседала на стёклах тонкой сеткой. Александр к тому времени уже перестал быть гостем: Кейн предложил ему место в проекте на год, с возможностью продления, и он согласился быстрее, чем сам от себя ожидал. Университет отпустил его в творческий отпуск, кафедру принял заместитель, который давно на неё облизывался. Квартиру в Женеве ещё предстояло найти, а пока он жил всё в том же гостиничном номере, где горничная каждое утро аккуратно складывала его разбросанные распечатки в стопку и клала сверху ручку, словно пресс-папье.

Он стоял у окна и смотрел, как внизу люди бегут к трамвайной остановке с зонтами и бумажными стаканчиками. Каждый нёс в себе целую историю, которой никто не слышал. Физические системы бывают невероятно сложными, но ни одна из них не рассказывает себе о себе. Частица не помнит, кем была вчера. Звезда не жалеет о прежней орбите. Человек носит в себе всё, чем когда-либо был, и иногда это всё оказывается тяжелее, чем он может унести.

В центр он приехал раньше назначенного. Охранник на входе, пожилой португалец с аккуратными усами, уже знал его в лицо.

— Доктор Вейл. Вас ждут.

Внутри пахло кофе, бумагой и той особой сухостью, которую дают кондиционеры, работающие круглый год. В коридоре он едва не столкнулся с Эвелин. Она стояла у лестницы с двумя бумажными стаканчиками, в тёмном свитере, волосы небрежно сколоты карандашом — верный признак того, что она с утра сидит над данными.

— Ты рано, — сказала она и протянула ему стаканчик.

— Я думал, ты занята.

— Я занята.

— Тогда почему кофе мне?

— Потому что свой ты всё равно поставишь куда-нибудь и забудешь.

— Это клевета.

— Это наблюдение, подтверждённое двадцатью годами данных.

Он взял стаканчик. Её манера замечать мелочи раздражала его ровно настолько же, насколько нравилась.

Они шли по коридору, и Александр несколько раз собирался спросить о том, о чём не спросил в первый день: что она на самом деле делает в этом проекте и почему так тщательно обходит этот вопрос. Он так и не спросил. Эвелин рассказывала, когда была готова, и не раньше — это он выучил давно.

Кейн уже ждал в лаборатории.

— Сегодня у нас первый полноценный анализ, — сказал он вместо приветствия.

— Живого человека?

— Живого, согласившегося и, надеюсь, не передумавшего.

Леон Маркес приехал ровно в десять. Он остановился в дверях, оглядел прозрачные панели, серые стойки и людей с планшетами, и в уголках его глаз собрались морщины.

— Признаюсь, я ждал чего-то повнушительнее.

— Самые сложные вещи обычно выглядят скучно, — сказал Кейн, пожимая ему руку.

— Как люди, — кивнул Леон. — Самое важное в человеке тоже обычно никто не замечает.

Это было сказано мимоходом, без всякого желания произвести впечатление, и именно поэтому Александр запомнил.

Леону было сорок два. Он работал фельдшером на скорой помощи и выглядел так, как выглядят люди этой профессии к середине карьеры: крепкие руки, обветренное лицо, привычка садиться так, чтобы видеть дверь. На коротко остриженной голове пробивалась седина. Говорил он спокойно, слушал внимательно и давал собеседнику договорить — редкое качество, которое Александр ценил больше, чем умение красиво говорить. Коллеги, как потом рассказал Кейн, уважали Маркеса и отправляли к нему стажёров, которые после первого тяжёлого вызова сидели в машине и не могли разжать пальцы.

Семь лет назад никто из этих коллег не узнал бы его.

Тогда Леону было тридцать пять, и злым человеком он не был. Это, пожалуй, было хуже всего: злость хотя бы можно назвать по имени. Леон просто всегда находил объяснение. Если он срывался на жену, значит, устал после смены. Если хлопал дверью и уезжал на всю ночь, значит, ему нужно было остыть. Если очередная работа заканчивалась скандалом с начальством, значит, начальство было идиотом. Он видел свои ошибки и каждый раз находил причину, по которой ничего менять не нужно. Постепенно он привык к себе такому, а привычка к себе, как он сказал потом Александру, страшнее любого порока.

Перелом случился в обычный вечер. Дочери Кларе было четыре. Леон пришёл после двух смен подряд, она играла в коридоре и рассыпала по полу конструктор, он наступил на деталь босой ногой и заорал — не на неё даже, на всё сразу. Клара не заплакала и не обиделась. Она прижалась к стене и посмотрела на него так, как смотрят на большую собаку, которая неизвестно, укусит или нет.

Этот взгляд он потом носил с собой годами. Впервые он увидел себя не таким, каким себя объяснял, а таким, каким его видели.

Ничего не изменилось сразу. Люди любят истории, где одно мгновение переворачивает жизнь, но у Леона так не вышло. Он дважды начинал терапию и дважды бросал. Срывался, извинялся, срывался снова. Жена ушла через год, забрав Клару, и он не стал её удерживать, потому что понимал: она права. Медленно, почти незаметно для себя он перестал спрашивать «почему со мной это происходит» и начал спрашивать «что во мне заставляет меня так поступать». Разница кажется крошечной, но с неё у него и началось.

Через несколько лет он стал другим. Не святым: он по-прежнему раздражался, по-прежнему иногда говорил лишнее. Но между вспышкой и поступком у него появилась пауза, секунда, в которую можно было выбрать. Клара теперь проводила у него каждые вторые выходные, и в прошлом месяце сама попросила остаться ещё на одну ночь.

Перед началом анализа ему ещё раз объяснили процедуру. Никаких медицинских вмешательств, никаких скрытых тестов. Анима будет работать только с тем, что он разрешил: биография, медицинские и рабочие записи, отчёты психотерапевтов, переписка за последние десять лет. Леон слушал, кивал и в конце поднял руку, как школьник.

— Можно вопрос? Она будет оценивать меня прямо сейчас?

— В некотором смысле, — ответил Кейн.

— А если она решит, что я всё тот же?

Никто не ответил. Александр понял, что ради этого вопроса Леон сюда и пришёл. Не из любопытства и не ради науки.

— Вы боитесь результата? — спросил он.

— Да, — сказал Леон без паузы.

— Чего именно?

Леон посмотрел на экран и потёр большим пальцем шрам на костяшке.

— Того, что она скажет правду.

— А если правда окажется хорошей?

— Тогда я, может быть, наконец поверю, что семь лет назад действительно что-то начал. А не просто научился лучше притворяться.

Анима начала работу. На прозрачных панелях проступали сначала отдельные параметры, потом связи между ними, потом целая структура, похожая на крону дерева, у которого видны и ветви, и сломанные сучья. Александр видел за свою жизнь тысячи моделей — состояния частиц, поля, информационные потоки. Эта была другой. Она описывала не состояние, а путь: кем человек был, где ошибался, что заставило его остановиться и почему прежняя версия его самого перестала определять настоящее.

Для лаборатории это были данные. Для Леона — тридцать пять лет жизни и семь лет попыток.

Через несколько минут появилась первая строка:

«Обнаружено устойчивое изменение поведенческих моделей за последние семь лет».

Леон почти не двигался. Только переводил взгляд со строки на строку, будто читал не вывод машины, а собственное прошлое, переписанное чужим почерком. Пальцы на колене медленно сжались в кулак.

«Вероятность сохранения изменений: 96,8%».

В лаборатории никто ничего не сказал. Леон не улыбнулся. В его лице не было радости, было что-то другое — выражение человека, который много лет нёс тяжёлый рюкзак, привык к нему и вдруг обнаружил, что его можно снять и поставить на пол.

— Значит, это правда? — спросил он тихо.

— Что именно? — спросил Кейн.

— Что я действительно стал другим.

Александр не нашёлся с ответом. Эти цифры ничего не рассказывали Леону о его прошлом и не возвращали ему ни жену, ни те годы, когда Клара его боялась. Но они сделали то, что иногда не под силу самому близкому человеку: подтвердили, что путь был. И Александр впервые увидел, на что на самом деле способна Анима. Она умела не только разбирать человека на параметры, но и возвращать ему веру в то, что он может быть больше своего прошлого.

Леон уехал через час. Александр вышел проводить его до парковки. Морось к тому времени превратилась в настоящий дождь, и Леон, не замечая его, остановился у машины и набрал номер.

— Клара? Это папа. Нет, всё нормально. Слушай, а ты в субботу свободна? Я подумал… может, сходим куда-нибудь. Куда захочешь.

Он слушал ответ, прикрыв глаза, и вода стекала у него по лицу. Александр отвернулся и пошёл обратно к зданию. Подслушивать это ему не хотелось.

Вечером в лаборатории ещё долго обсуждали результат. Для исследователей это была хорошая статистика. Для Кейна — подтверждение, что направление, выбранное много лет назад, имело смысл. Александр соглашался с обоими, но одна мысль мешала ему разделить общее настроение. Если система способна увидеть, что человек изменился, значит, однажды она увидит и то, что кто-то не изменился. Два этих вывода отличались, как приговор отличается от оправдания, и пока никто в комнате не говорил, что они будут делать со вторым.

Глава 4. Машина, которая видит невидимое

После Леона Маркеса лаборатория изменилась. Снаружи всё осталось по-прежнему: те же прозрачные панели, тот же гул серверных на первом этаже, тот же дождь, который в Женеве, как уверяли местные, шёл чаще, чем где-либо в Европе, хотя статистика с ними не соглашалась. Изменилось то, как сотрудники произносили название проекта.

Раньше это было техническое обозначение. Теперь оно звучало почти как имя.

Кейн не любил замечать такое вслух, но Александр видел, как меняется язык внутренней переписки. «Система показала результат» превратилось в «Анима считает», а «модель определила вероятность» — в «Анима думает, что». Никто этого не разрешал. Язык менялся сам: человеческое сознание не умеет долго держать дистанцию с тем, что отвечает осмысленно. Распечатка про антропоморфизм всё ещё висела в коридоре, только её уже никто не читал, а кто-то пририсовал в углу маленькое сердечко.

На одной из первых закрытых встреч с приглашёнными врачами Александр сказал:

— Обратите внимание, как вы сами будете говорить о системе через месяц. Она за это время не изменится. Изменитесь вы.

Врачи вежливо покивали. Через месяц почти каждый ловил себя на «Анима считает».

Первой областью, куда систему выпустили за пределы лаборатории, стала медицина. Диагностикой в привычном смысле — снимками, анализами, генетическими маркерами — давно занимались специализированные программы, и делали это надёжнее любого врача. Аниму интересовало другое: как человек живёт с тем, что происходит с его телом.

Первый настоящий случай пришёл из реабилитационного центра под Лозанной. Женщина сорока девяти лет после инсульта восстанавливалась медленно, но стабильно, а потом начала отказываться от процедур, о которых сама просила месяц назад. Персонал списывал это на усталость и депрессию — обычный диагноз для человека, потерявшего власть над половиной собственного тела.

Анима получила доступ к истории её решений, к записям разговоров с персоналом за несколько недель и предложила другое объяснение. Кейн вывел его на экран, когда показывал случай Александру:

«Пациентка не устала бороться. Она боится закончить восстановление. Пока продолжается реабилитация, у дочери есть причина приезжать каждое воскресенье. Гипотеза: отказ от процедур является способом сохранить частоту визитов».

Александр перечитал это несколько раз. Речь шла не о показателе крови и не о параметре, который можно снять прибором. Анима нашла закономерность там, где врачи привыкли полагаться на чутьё — на умение «почувствовать» пациента. Только Анима ничего не чувствовала. Она сопоставила месяцы данных и увидела структуру там, где персонал видел характер.

Психотерапевт, который потом работал с пациенткой, подтвердил гипотезу почти дословно. Дочь стала приезжать каждое воскресенье и без процедур, а через два месяца женщина впервые сама дошла до двери палаты.

В газеты этот случай не попал. Его обсуждали в узком профессиональном кругу, и такие тихие истории меняли отношение к системе сильнее любых презентаций.

Потом были другие центры: реабилитация после травм, работа с пережившими насилие, программы для подростков из групп риска. Кейн с самого начала поставил условие, почти ультиматум: Анима не заменяет специалистов. Она дополняет их тем, чего не хватает ни одному человеку, — способностью удерживать в поле зрения тысячи деталей сразу, ничего не забывая, не уставая и не позволяя собственным ожиданиям подкрашивать вывод.

— Врач видит пациента раз в неделю по двадцать минут, — говорил Кейн на конференции, которую Александр слушал из зала. — Анима видит закономерность за годы. Это не замена внимания. Это его продолжение.

Зал аплодировал. Александр не хлопал. Внимание, которое не устаёт и не отвлекается, звучало как идеал. Но от такого внимания невозможно спрятаться. Эту мысль он держал при себе: слишком рано было превращать успех в подозрение.

К тому времени он уже снял квартиру в Женеве — две комнаты в старом доме недалеко от вокзала, с окнами во двор, где по утрам ругались голуби. Эвелин помогла выбрать, раскритиковав три предыдущих варианта, а потом, в первый же вечер, оставила на его новом подоконнике книгу, которую так и не забрала.

Когда о проекте заговорили за пределами научных кругов, у Анимы было около двухсот подтверждённых случаев в трёх странах. Истории, похожие на историю Леона, — люди, изменившиеся вопреки собственным ожиданиям и получившие подтверждение от системы, у которой не было причин им льстить, — стали появляться в прессе одна за другой. Заголовки были соответствующие: «Машина, которая верит в людей больше, чем они сами», «ИИ, научившийся прощать».

Увидев второй, Александр поморщился.

— Она не прощает, — сказал он Эвелин вечером. Они сидели у него на кухне, ещё пахнущей чужой краской; она разбирала свои записи, он перекладывал вилки из одного ящика в другой, пытаясь понять, куда их положил бы нормальный человек. — Она вычисляет вероятность.

— Людям нужно слово попроще.

— Слово меняет то, как люди понимают систему.

— Слово всегда меняет то, как люди понимают что угодно, Саша. Это не открытие физики. Это давно известно про язык.

Он замолчал, потому что она была права, и почувствовал первое, едва уловимое беспокойство — не из-за самой Анимы, а из-за скорости, с которой люди были готовы отдать ей роль, на которую она сама не претендовала.

Общество, как выяснилось, гораздо охотнее принимало технологию, если та говорила языком надежды. Людей утомили алгоритмы, которые подсовывали рекламу, оценивали кредитоспособность и строили новостные ленты так, чтобы от них невозможно было оторваться. Анима выглядела иначе. Она никого не удерживала, она пыталась понять — и, что было почти неслыханно для технологии такого масштаба, признавала, когда понять не могла. Эта честность стала её главным капиталом. Позже Александр будет вспоминать её с горечью: системе, которая умеет признавать ошибки, верят больше, чем системе, которая всегда права, а доверие, отданное однажды, редко отбирают после первого же спорного случая.

В конце октября Кейн позвал его в кабинет после вечернего совещания. За окном темнела Женева, на подоконнике росла всё та же стопка журналов. На мониторе висел профиль человека, которого Александр узнал сразу: его лицо полгода не сходило с обложек деловых изданий.

Даниэль Восс. Сорок лет, сын состоятельной семьи, выпускник одного из лучших университетов Европы, основатель технологической компании, которая за восемь лет выросла из стартапа в гараже до корпорации с офисами на трёх континентах. Выступал на международных форумах, финансировал школы для детей мигрантов, поддерживал молодые научные команды. Газеты называли его человеком будущего.

— Совет попечителей хочет, чтобы мы провели открытый анализ человека с безупречной репутацией, — сказал Кейн. — Показать, что Анима не только находит раскаявшихся грешников. Восс согласился сам. Даже обрадовался, по-моему.

— Вы против?

— Слишком много внешних факторов. Люди ждут определённого результата.

— Если модель работает, она должна работать независимо от того, нравится нам результат или нет.

Кейн снял очки и долго протирал их краем свитера.

— Именно поэтому я и боюсь этого эксперимента.

— Боитесь, что она ошибётся?

— Нет, — сказал Кейн, надевая очки. — Боюсь, что окажется права.

Глава 5. Тот, кого никто не подозревал

Даниэль Восс приехал в лабораторию в понедельник утром, и он оказался ровно таким, каким его показывали в интервью: спокойным, собранным, вежливым до кончиков ногтей. Он запоминал имена сотрудников с первого раза, спросил лаборантку, как прошла защита диплома, о которой она упомянула мельком, и похвалил кофе, который был откровенно плохим. Александр наблюдал за ним несколько минут и понимал, почему люди ему доверяют. Восс создавал вокруг себя ощущение порядка, будто рядом с ним всё обязательно будет в порядке.

— Доктор Вейл? Рад знакомству. Я читал вашу статью о декогеренции в открытых системах. Признаюсь, понял процентов шестьдесят.

Обычно за такими фразами стояла вежливость, но Восс действительно знал, о чём говорит. Пока Кейн готовил систему, они десять минут проспорили о том, можно ли считать измерение необратимым процессом, и Александр поймал себя на мысли, что ему трудно вообразить человека, о котором Анима могла бы сказать что-то плохое.

Восс сел перед экраном и закинул ногу на ногу.

— Любопытно посмотреть, как машина пытается понять человека.

— Вы совсем не волнуетесь? — спросил Александр.

— А должен?

— Она изучает всю вашу историю.

Восс улыбнулся той улыбкой, которую знали по обложкам.

— Если человек честен с самим собой, ему нечего скрывать.

Фраза показалась Александру слишком гладкой, но спорить он не стал.

Анима разбирала данные почти полчаса: образование, социальные связи, речь в публичных выступлениях за десять лет, история решений внутри компании, реакции в стрессовых ситуациях, переписка с советом директоров — та её часть, которую Восс сам разрешил использовать, подписав согласие на участие. Сначала всё выглядело обычно. Потом Александр заметил, как изменилось лицо Кейна. Едва-едва, но за эти недели он научился читать его лучше, чем собственные расчёты.

— Что там?

Кейн молча увеличил один из блоков. На экране появилась строка:

«Обнаружено значительное расхождение между внешней социальной моделью и внутренними поведенческими структурами».

Восс перестал улыбаться.

— Значительное расхождение, — повторил он. В голосе впервые за утро прозвучало что-то, кроме вежливой уверенности. — Звучит как диагноз.

— Это не диагноз, — сказал Кейн. — Это отметка, требующая дополнительного анализа.

— Так проведите его.

Восс не выглядел испуганным. Он выглядел как человек, который получил результат, противоречащий всему, что он о себе знал, и решил немедленно устранить противоречие, вместо того чтобы с ним жить.

Анима продолжила. Через сорок минут на экране появилась развёрнутая формулировка:

«Публичная модель поведения демонстрирует устойчивую ориентацию на коллективное благо. Внутренняя структура решений демонстрирует устойчивую ориентацию на удержание контроля. Цели совпадают в 71% случаев. В оставшихся 29% приоритет отдаётся контролю при формальном сохранении публичной риторики».

— Это описывает любого руководителя крупной компании, — сказал Восс ровно. Только плечи под дорогим пиджаком чуть поднялись.

«Возможно. Различие не в наличии расхождения. Различие в его устойчивости и в отсутствии саморефлексии по этому поводу в доступных данных».

Александр посмотрел на Кейна. Тот молчал, и молчание было красноречивее комментария.

— То есть дело не в том, что я так поступаю, — медленно произнёс Восс. — А в том, что я не замечаю, что так поступаю?

«Да».

Впервые за всё время Анима ответила без единой оговорки — без «недостаточно данных», без «требуется уточнение». Александр запомнил это именно из-за прямоты: с ним и с Леоном система говорила осторожно, почти академически.

— И что мне с этим делать? — спросил Восс уже тише.

«Система не даёт рекомендаций по поведению. Система описывает закономерность».

Он уехал в тот же вечер. Поблагодарил Кейна за приглашение, пожал Александру руку, ещё раз сказал, что проект впечатляет, и больше не задал ни одного вопроса. Александр смотрел, как чёрная машина выезжает с парковки, и думал, что эта безупречная сдержанность и есть та самая закономерность, которую час назад описала Анима: держать всё под контролем даже тогда, когда это стоит больше всего сил.

Результат не опубликовали. Кейн настоял.

— Мы не судьи, — сказал он на внутреннем совещании. — Мы исследователи. Разница принципиальная.

Александр тогда согласился.

Прошло почти десять месяцев.

Новость он услышал по радио в конце августа, наливая утренний кофе на своей женевской кухне, где за лето так и не появились занавески. Компания Даниэля Восса, одна из самых быстрорастущих технологических фирм континента, оказалась в центре расследования. Совет директоров, который годами ставили в пример как образец прозрачного управления, на деле принимал решения втроём, в обход формальных процедур. Отчётность годами подправлялась в интересах основателя, и несколько крупных инвесторов, а вместе с ними пенсионный фонд учителей одной из немецких земель, потеряли значительную часть вложений. Один из бывших сотрудников, дававший показания, сказал фразу, которую к обеду растиражировали десятки изданий: «Он всегда говорил о команде. Решения всегда принимал один».

Александр стоял с чашкой и смотрел на радиоприёмник так, как когда-то смотрел на экран с первыми словами Анимы. Потом набрал Кейна, не подумав, что ещё нет семи утра.

— Ты видел, — сказал Кейн вместо приветствия. За эти месяцы они как-то незаметно перешли на «ты».

— Слышал.

Оба помолчали.

— Мы это знали, — сказал Александр. — Десять месяцев назад. Знали и ничего не сделали.

— Мы не знали. — Голос у Кейна был такой, будто он тоже не спал. — Мы видели вероятность. Это не одно и то же.

— Объясни это учителям, которые остались без пенсии.

— Саша…

— Нет, послушай. — Он поставил чашку резче, чем хотел, и кофе плеснул на стол. — Если система видит закономерность почти за год до катастрофы, а мы молчим, потому что «мы не судьи», — кто мы тогда? Свидетели?