АНИМА

Эвелин приехала в пятницу на выходные и заметила неладное раньше, чем он сам. Они сидели вечером в его гостиной среди распечаток; чай, который он ей заварил, остывал на подлокотнике дивана, потому что сам он снова ушёл в чтение и забыл, что держал чашку.

Эвелин забрала чашку и сделала глоток.

— Тебе написал Кейн.

Александр поднял голову.

— Откуда ты знаешь?

— Ты третий день открываешь одну и ту же папку и делаешь вид, что это обычное письмо.

— А разве нет?

— Для кого-нибудь другого — возможно.

Он закрыл папку. Эту интонацию он знал. Эвелин никогда не давила, она просто замечала то, что он предпочёл бы не замечать сам.

— Мне интересно, — сказал он.

— Только интересно?

Он помолчал.

— И я осторожен. Об искусственном интеллекте сейчас говорят так, будто он либо спасёт человечество, либо съест. По-моему, обе версии слишком простые. Мы строим системы, которых сами до конца не понимаем.

— Это тебя пугает?

— Нет. Но это повод не торопиться.

Эвелин улыбнулась, и в улыбке было что-то, чего он тогда не разобрал.

— Поэтому Кейн тебя и позвал. Ты умеешь одновременно восхищаться идеей и искать, где она треснет.

— Это комплимент?

— Конечно.

— Звучит как диагноз.

— Для тебя это одно и то же.

Он рассмеялся, и вечер на время перестал быть разговором двух учёных.

В день отъезда он проснулся раньше будильника и долго лежал, глядя в потолок. Конкретных мыслей не было, только ожидание, а ожидание Александр не любил. В его работе ожидание означало, что не хватает данных, а в промежутке между предположением и знанием чаще всего рождаются ошибки. Человеческий мозг плохо переносит неопределённость и заполняет пробелы собственными историями. Всю жизнь он старался этой ловушки избегать, доверял проверке больше, чем интуиции. И всё же Анима заняла его раньше, чем появились хоть какие-то ответы.

В поезде он снова открыл документацию. Дома он уже прочитал её дважды, но теперь, под мерный стук колёс, текст читался иначе. Первое, что бросалось в глаза, — тон. Ни глянцевых обещаний, ни картинок светлого будущего. Это не было похоже ни на технологическую презентацию, ни на отчёт корпорации, где успехи стоят на первых страницах, а ограничения прячутся в приложениях мелким шрифтом. Авторы подробно описывали, где система ошибается, какие интерпретации ненадёжны и на какие вопросы у них нет ответа. Александр поймал себя на уважении. Зрелого исследователя видно по тому, как он говорит о границах своего знания, а здесь кто-то не поленился эти границы прочертить.

Архитектура, методы обработки данных, модели поведения — многое было знакомо, хотя масштаб впечатлял. Потом он дошёл до раздела, который заставил его отложить планшет.

Назывался он почти буднично: «Модели человеческой индивидуальности».

Он перечитал заголовок трижды, будто от этого смысл мог проясниться. В научном тексте каждое слово обязано значить ровно одно. Здесь два сухих слова прикрывали вопрос, над которым люди бились задолго до всякой науки. Что делает человека отдельной личностью? Память? Опыт? Гены и среда, вылепившие мозг? Или что-то, что вообще не поддаётся измерению?

Всю жизнь он изучал то, что можно описать уравнением и проверить в эксперименте: частицы, поля, информационные системы. Даже самые странные явления физики оставались объектами наблюдения. Человек в эту схему не помещался, потому что здесь человек пытался понять человека, и наблюдатель совпадал с наблюдаемым. Можно ли построить модель личности настолько точную, чтобы она объясняла не только поступки, но и их причины? И если можно, что тогда остаётся от свободы выбора?

За окном тянулись виноградники, мелькали станции с одинаковыми навесами. В соседнем кресле пожилая женщина разгадывала кроссворд и шевелила губами, подбирая слово. Александр смотрел на неё и думал, что где-то в лаборатории машина, вероятно, уже умеет предсказать, какое слово она впишет.

На вокзале в Женеве его встретил водитель с табличкой, а у входа в исследовательский центр — Эвелин.

Он остановился на ступенях.

— Что ты здесь делаешь?

— Работаю.

— Здесь? С каких пор?

— Почти шесть лет. — Она пожала плечами. — Подписка о неразглашении, Саша. И потом, ты никогда не спрашивал, на кого работает мой фонд.

Он смотрел на неё, пытаясь сложить в одну картину шесть лет телефонных разговоров и её скупые «частные заказчики». Злиться получалось плохо. Это было слишком на неё похоже.

— Вопросов у меня теперь много, — сказал он наконец. — Задавать их, похоже, рано.

— Правильно понимаешь.

Здание изнутри оказалось удивительно обыкновенным. Он ожидал чего-то, что соответствовало бы масштабу проекта, а увидел обычный научный центр: люди за мониторами, кто-то спорит у доски над выкладкой, кто-то стоит у окна с кофе и листает статью. Александр подумал, что большие перемены обычно так и выглядят — люди приходят утром на работу, открывают файлы, исправляют ошибки и не догадываются, куда это их заведёт.

Кейн ждал его в кабинете на третьем этаже. Подоконник по-прежнему был завален журналами — Александр ещё не знал, что этой стопке много лет. Кейн оказался ниже ростом, чем на фотографиях, с сухими руками и привычкой поправлять очки указательным пальцем, когда собирался что-то сказать.

— Доктор Вейл. Рад, что вы приехали.

— Спасибо за приглашение, доктор Кейн.

Они пожали руки. Много лет их пути шли рядом, в соседних областях, но так и не пересеклись. Они знали друг друга по статьям и докладам, а по ним человека не узнаешь.

— Вы успели посмотреть материалы? — спросил Кейн.

— Да.

— И какое впечатление?

Александр ответил не сразу.

— Что вы решаете задачу, к которой никто раньше не подходил с этой стороны.

— Вы считаете это преимуществом?

— Необязательно. Новый путь иногда приводит к открытию. А иногда объясняет, почему старыми путями ходили не случайно.

Кейн поправил очки и посмотрел на него так, будто его интересовал не ответ, а способ, которым до него добрались.

— Вот поэтому я вам и написал. Большинство приходит сюда с готовым мнением. Одни хотят чуда, другие заранее уверены, что мы строим чудовище. Вы первый за долгое время, кто признался, что не знает.

Это было сказано без лести, как констатация. Александр промолчал.

По дороге в лабораторию Кейн спросил, почему, по его мнению, проекты вроде Анимы появились именно сейчас.

— Объёмы данных, — сказал Александр. — Раньше их просто не было.

— Только это?

Александр потёр подбородок.

— Нет. Мы начинаем подозревать, что информация — это не просто способ описывать мир. Возможно, она одна из его основ.

— Многие сочтут это философией.

— Иногда это и звучит как философия. Для меня это физика. Просто в какой-то момент физика перестаёт совпадать с интуицией, и тогда приходится принимать мир таким, какой он есть, а не каким мы его себе нарисовали. Сто лет назад так было с атомом.

— А сейчас?

— Сейчас, по-моему, ваша машина снова показывает нам, где кончается наше понимание.

У входа в лабораторию на голой стене висела единственная надпись, распечатанная на обычном листе и приклеенная скотчем: «Понимание начинается с точного вопроса».

— Ваше? — спросил Александр.

— Моё.

— Вы правда так думаете?

Кейн перевёл взгляд на лист.

— С каждым годом всё больше.

Лаборатория снова обманула ожидания. Ни огромных конструкций, ни мигающих панелей. Посередине помещения стояла система визуализации — несколько прозрачных экранов вокруг вычислительного комплекса, который трудно было назвать компьютером. На экранах текли структуры данных, складываясь и распадаясь, как стаи скворцов над полем. Не было одной точки, где мог бы находиться «разум», только множество процессов, непрерывно обменивающихся сигналами. Александр невольно подумал о мозге — не о внешнем сходстве, а о принципе. Сознание человека тоже не сидит в одной клетке.

— Мы сознательно отказались от лица и голоса, — сказала Эвелин за его спиной. Он не слышал, как она вошла. — Стоит дать системе лицо, и люди начинают реагировать на лицо, а не на систему.

— Это проблема?

— Это свойство человека, — сказала она, глядя на экраны. — Мы даём имена кораблям и разговариваем с кофеваркой.

— Сегодня я не буду показывать вам цифры, — сказал Кейн. — Скорость обработки, количество параметров, объём обучающих данных… Это всё есть в документации, и ничего из этого не отвечает на главный вопрос.

— Какой?

— Что происходит, когда система начинает работать не с информацией, а с человеческим мышлением.

На центральном экране появилась строка: ANIMA INITIALIZED.

Александр почувствовал знакомое напряжение, как перед началом сложного эксперимента, когда всё проверено и пересчитано, но система ещё не запущена, и никто не знает, что она скажет.

— Анима, познакомься. Доктор Александр Вейл.

Несколько секунд ничего не происходило. Потом:

«Я знакома с его научными публикациями».

— Ты читала мои работы? — спросил Александр.

«Да».

— Все?

«Все, что находятся в открытом доступе».

— И какое у тебя впечатление?

Кейн чуть повернул голову. Вопроса не было в сценарии, но никто не вмешался. Пауза затянулась дольше прежних.

«Ваши исследования посвящены природе информации и границам описания физических систем».

Ответ был точным и совершенно пустым — в нём не было оценки.

— Это анализ моей работы, — сказал Александр. — Или твоё мнение?

Снова пауза. Двое сотрудников у дальнего пульта переглянулись. Для них это был тест. Для Александра — уже разговор.

«Для ответа необходимо определить различие между анализом и мнением».

Он подошёл ближе к экрану. Удивила его не мощность системы. Анима упёрлась в вопрос, который люди так и не решили за всю свою историю: в какой момент обработка опыта становится собственной мыслью?

Кейн молча наблюдал за ним. Он видел такое и раньше. Люди приходили сюда смотреть на технологию, а уходили с вопросами.

— Продолжим? — спросил он.

Александр кивнул.

— Анима, как ты определяешь человека?

Ответ появился почти мгновенно:

«Человек определяется совокупностью устойчивых характеристик, сформированных биологическими, социальными и информационными процессами».

Формулировка была настолько точной, что человеку в ней не оставалось места.

— Это описание системы, — сказал Александр. — Не человека.

«Уточните различие».

Он оглянулся на Эвелин. Она стояла в стороне, скрестив руки, и смотрела на экран иначе, чем остальные. Сотрудники следили за результатом. Эвелин следила так, как следят за ребёнком, который впервые решает задачу у доски, — с тревогой и с надеждой одновременно. Александр отметил это и тут же одёрнул себя: люди слишком легко наделяют смыслом всё, что ведёт себя сложно.

— Допустим, ты описала человека полностью, — сказал он. — Память, опыт, особенности мозга, все реакции. Это описание станет человеком?

Пауза.

«Нет».

Он ждал рассуждения. Рассуждения не было.

— Почему?

«Описание является моделью объекта. Модель не является объектом».

В лаборатории стало тихо. Александр медленно выдохнул. Он сам сто раз говорил это студентам: формула — не мир, карта — не город. Эвелин говорила ему это двадцать лет. Странным было только одно: на этот раз фраза пришла не от человека.

Кейн предложил сделать перерыв. Они перешли в маленькую комнату отдыха за стеклянной стеной, где пахло растворимым кофе и чьим-то забытым апельсином. Александр налил себе из кофейника и только тогда посмотрел на Эвелин. Он знал её слишком давно, чтобы не замечать мелочей. О науке она всегда говорила прямо — спорила, меняла мнение, признавала ошибки. Сейчас в ней была осторожность, которой он раньше не видел.

— Ты давно с ней работаешь? — спросил он.

— Достаточно.

— Обычно ты отвечаешь длиннее.

— Обычно ты больше спрашиваешь.

— Справедливо.

Кейн стоял у окна и делал вид, что изучает парковку.

— Почему ты не рассказала? — спросил Александр. — Подписка подпиской, но хотя бы намекнуть…

Она не стала делать вид, что не понимает.

— Потому что знала, что будет. Ты бы начал разбирать каждое моё слово.

Он хотел возразить и осёкся. Она была права.

— Видишь? — Эвелин улыбнулась одними глазами. — Я хотела, чтобы ты увидел её сам. Без моих объяснений и без того, как я к ней отношусь. Чтобы ты не решил заранее, кто я в этом проекте.

— А кто ты в этом проекте?

Она посмотрела через стекло на экраны, по которым всё так же текли стаи данных.

— Я помогаю ей понять человека.

— Только это?

— Саша.

Это было сказано без раздражения — просьба не торопить. За двадцать лет он научился отличать её «я не хочу об этом говорить» от «я ещё не нашла слов», и сейчас было второе. Он не стал продолжать.

Вечером в гостиничном номере он снова открыл документацию. Теперь за архитектурой и алгоритмами стояли люди. Кейн, который создал одну из самых сложных систем в истории и относился к ней с осторожностью, почти с подозрением. Эвелин, которая знала Аниму куда ближе, чем он мог представить, и шесть лет молчала. И сама Анима, за полчаса разговора выбившая его из привычной колеи.

«Модели человеческой индивидуальности».

Он закрыл ноутбук и долго сидел, не включая свет. За окном гасли окна Женевы. В каждом из них кто-то жил своей жизнью, о которой он никогда ничего не узнает, — и где-то в двадцати минутах езды отсюда работала машина, которая, возможно, могла бы узнать.

Завтра была назначена первая полноценная сессия. Кейн сказал об этом мимоходом, уже прощаясь в коридоре, и добавил, поправив очки:

— Спрашивайте её о чём угодно. Только, пожалуйста, не о погоде. Погоду она предсказывает лучше нас всех, и от этого становится невыносимой.

Александр так и не понял, шутка это или нет.

Глава 2. Анима

Утром в Женеве снова шёл дождь. Капли медленно сползали по гостиничному стеклу, и город за окном расплывался, как акварель, по которой провели мокрой кистью: дома, мокрые крыши трамваев, зонты прохожих теряли границы и перетекали друг в друга.

Такую погоду Александр любил. Она напоминала ему начало любой серьёзной работы, когда ясной картины ещё нет, есть только смутное пятно — наблюдение, которое не укладывается в привычное объяснение, или вопрос, кажущийся слишком простым, чтобы быть важным.

Он допил гостиничный кофе, который оказался хуже, чем вчерашний растворимый в лаборатории, и проверил телефон. Кейн прислал одно слово: «Жду». Без подписи и без смайликов, словно телеграмму.

По дороге в центр Александр думал о вчерашнем. Разговаривающие машины давно никого не удивляли. Люди просили цифровых помощников включить музыку, проложить маршрут, напомнить о дне рождения тёщи, и эти помощники стали частью быта, такой же незаметной, как электричество. Самые мощные системы писали тексты, находили лекарства, разбирали массивы данных, на которые у людей ушли бы десятилетия. Но человеческого мышления Александр в них не видел. Машина работала с вопросом. Человек жил внутри вопроса: вспоминал, переоценивал, менял мнение о самом себе — иногда за одну бессонную ночь.

Кейн встретил его у лестницы, и сегодня в нём было меньше официальности. Дружбой это назвать было нельзя, доверием тоже. Скорее, так держатся люди, которые вчера одинаково замолчали над одной и той же фразой.

— Выспались? — спросил Кейн.

— Насколько это возможно перед экспериментом.

— Вы считаете это экспериментом?

— А чем ещё?

Кейн подумал.

— Может быть, попыткой разговора.

Формулировка Александру не понравилась. Слишком человеческая.

— Система не разговаривает, Адриан.

— Пока нет, — сказал Кейн и отвернулся к экрану.

В лаборатории ничего не изменилось. Те же прозрачные панели, те же стаи данных. Здесь ничто не пыталось изобразить присутствие живого существа: ни лица, ни голоса с бархатными интонациями, ни образа, к которому можно было бы привязаться. Вчера Александр отметил это мимоходом, сегодня оценил. Он знал, почему другие разработчики шли противоположным путём. С тем, что похоже на тебя, проще иметь дело. Но человеческое сознание слишком охотно заполняет пустоты: стоит чему-то отвечать связно, и мы уже видим за ответами характер. Анима на человека не походила и, кажется, не старалась.

— Сегодня можете спрашивать что угодно, — сказал Кейн. — В пределах того, что касается человека.

— Это очень широкие пределы.

— Я знаю.

Александр подошёл к экрану.

— Анима.

«Я слушаю».

Хотелось начать с чего-нибудь конкретного, что можно измерить и сравнить с данными. Но он понимал, что эту систему строили как раз для тех областей, где измерять уже нечего.

— Чем человек отличается от системы, которую можно полностью описать?

Сотрудники у дальних пультов оторвались от мониторов. Ответ появился не сразу, и Александр поймал себя на том, что следит за паузой. Раньше задержка вычислительной системы была для него просто временем обработки. Сейчас казалось, что Анима решает, с какой стороны подойти к вопросу.

«Человек не является неизменной системой».

— Объясни.

«Большинство физических систем меняют состояние под воздействием внешних факторов. Человек способен менять не только своё состояние, но и модель, по которой оценивает самого себя».

Ничего мистического в этом не было. Сложные системы часто обладают свойствами, которых нет у их частей. Ребёнок, боявшийся темноты, через двадцать лет идёт ночью по незнакомой дороге и не думает об этом. Человек, всю жизнь считавший себя бездарным, в пятьдесят начинает рисовать. Но что происходит в этот момент? Меняется структура или просто достраивается новый этаж на старом фундаменте?

— Если человек изменился, он становится другим человеком? — спросил Александр.

«Это зависит от определения личности».

— Осторожный ответ.

«Точный ответ невозможен без уточнения понятия».

Кто-то из сотрудников хмыкнул. Александр не улыбнулся. Половина научных споров, которые он видел, рождалась из того, что стороны называли одним словом разные вещи. Свобода, сознание, разум — всё очевидно, пока не попросят дать определение.

— Хорошо. Что такое личность?

«Динамическая структура, формирующаяся на основе памяти, опыта, биологических особенностей и взаимодействия со средой».

— Ты описываешь, как личность складывается. Но не объясняешь, почему человек всю жизнь ощущает себя одним и тем же.

На этот раз Анима молчала дольше. Кейн смотрел на экран, сцепив пальцы за спиной. Он видел, как систему проверяли другие: давали технические задачи, просили прогнозов, загоняли в логические ловушки. Александр делал другое — нащупывал, где кончается её знание.

«Ощущение непрерывности возникает из сохранения связей между состояниями человека. Между прошлым, настоящим и ожидаемым будущим существует информационная связь».

Память, иначе говоря. Логично, но мало. Александр вспомнил отца в последний год, после второго инсульта: тот путал имена, не узнавал собственный почерк на полях книг, а однажды спросил у сына, давно ли тот работает в этой больнице. И всё же это был отец. Что-то держало его, даже когда память рвалась.

— Если человек меняется так сильно, что прежней версии больше нет, — спросил Александр, — где проходит граница?

«Уточните».

— Между изменением личности и её исчезновением.

Пауза.

«Граница не определена».

— Ты не знаешь?

«Существующие модели не позволяют сделать окончательный вывод».

Кейн коротко взглянул на Александра. Для него этот ответ стоил больше любого эффектного трюка: система не изображала всезнание, она отмечала пределы своего понимания. Александр это оценил, но к уважению примешалось беспокойство, которое он не сразу смог назвать. Если машина видит границы своего знания, она видит и то, как эти границы сдвигаются. Что будет, когда однажды ей покажется, что сдвигать больше некуда?

— Если существующих моделей недостаточно, — сказал он, — как ты строишь свою?

«Анализирую несколько уровней информации. Биологические параметры. История поведения. Особенности речи. Эмоциональные реакции. Социальные связи. Последовательность принятых решений».

Ничего неожиданного. Следующая строка появилась с небольшой задержкой:

«Также анализируется степень соответствия между заявленными намерениями человека и его фактическими действиями».

— Объясни.

«Человек часто описывает себя через убеждения, которые не совпадают с его поведением».

В лаборатории стало тише. Александр почувствовал, как Кейн рядом с ним чуть переступил с ноги на ногу.

— Значит, ты ищешь противоречия?

«Я ищу закономерности».

— В чём разница?

«Противоречие может быть ошибкой измерения. Закономерность указывает на устойчивую структуру».

Вот это уже был другой уровень. Обычная система сказала бы, что человек по вторникам заказывает пиццу. Анима пыталась понять, почему человек, искренне считающий себя добрым, третий год не звонит матери, а тот, кто каждый январь обещает себе начать новую жизнь, каждый февраль возвращается к старой. Психологи и философы бились над этим разрывом веками.

— И что ты делаешь с этой информацией?

На экране развернулась схема: несколько миллионов точек, сцепленных между собой в структуру, которая непрерывно перестраивалась, как облако мошкары над водой.

— Это модель человека? — спросил Александр.

— Да, — ответил Кейн. — Одного конкретного. Анонимизированного, разумеется.

— Она всё время меняется.

— Да.

— Тогда почему вы называете это моделью личности, если личность непостоянна?

Кейн не стал отвечать и кивнул на экран.

«Потому что личность рассматривается не как объект, а как процесс».

Река, подумал Александр. Та же самая река, только вода в ней каждую секунду другая. Гераклит сказал это две с половиной тысячи лет назад, а машине понадобились миллиарды параметров, чтобы прийти к тому же.

— Можешь предсказать, каким станет человек через десять лет?

«Могу определить наиболее вероятные направления».

— Но не точный результат?

«Нет».

— Почему?

«Потому что человек способен создавать события, которые изменяют его собственную модель».

Это было важнее всего, что она сказала до сих пор. Человек не просто меняется под давлением обстоятельств — он сам может изменить обстоятельства, сделать шаг, которого от него никто не ждал, включая его самого.

— Значит, человек непредсказуем?

Ответа пришлось ждать дольше обычного.

«Человек является системой с высокой степенью неопределённости».

— Хорошая формулировка, — сказал Александр и улыбнулся.

Следующая строка появилась почти сразу.

«Однако неопределённость не означает отсутствия закономерности».

Улыбка сошла сама собой. Возразить было нечего, любой учёный подписался бы под этой фразой. Только Александр отчётливо почувствовал, что они стоят на тонкой линии, по одну сторону которой человека понимают, а по другую — классифицируют.

— Что ты имеешь в виду?

Структура на экране сменилась. Исчезли графики поведения и деревья решений, вместо них появилась сетка из нескольких взаимосвязанных параметров. Под каждым — число. Наука всегда переводила сложное в измеримое: физика описывала частицы через массу и спин, медицина — организм через анализы. Но сейчас в клетках таблицы стоял человек.