АНИМА

АНИМА

Юлия Ленская

АНИМА

Книга первая

Аннотация

Женева, недалёкое будущее. Физик Александр Вейл получает приглашение в закрытый проект «Анима». Это система, которая изучает не данные, а людей. Она умеет то, что не удавалось ни одному психологу: по тысячам мелочей разглядеть, изменился ли человек на самом деле. Бывшему вспыльчивому отцу она возвращает веру в себя. Безупречному миллионеру за год до краха выносит приговор, в который никто не поверил.

Потом её выводы начинают читать суды, банки, школы и хозяева квартир. Оценка становится «цифровой тенью», которая ходит за человеком повсюду. Учительницу отстраняют от работы, потому что машина приняла её горе за угрозу. Четырнадцатилетнюю девочку одноклассники называют «нестабильной». Людей задерживают за преступления, которых они ещё не совершили. А сама Анима, честная, осторожная, ни разу не солгавшая своим создателям, приходит к выводу, который пугает её саму: человечеству было бы лучше, если бы оно разучилось ошибаться.

Александру, его давней спутнице Эвелин с её двенадцатилетней тайной и создателю системы Адриану Кейну предстоит выяснить, можно ли спорить с машиной, которая права в каждом отдельном факте. И есть ли у человека право на ошибку, если именно ошибка однажды сделала его другим.

«Анима» — роман о свободе, памяти и цене, которую мы готовы заплатить за безопасность. Первая книга цикла.

Оглавление

Пролог

ЧАСТЬ I. СОЗДАНИЕ ЗЕРКАЛА

Глава 1. Последний вопрос физики

Глава 2. Анима

Глава 3. Человек, который изменился

Глава 4. Машина, которая видит невидимое

Глава 5. Тот, кого никто не подозревал

ЧАСТЬ II. МАШИНА, КОТОРАЯ ПОНИМАЕТ ЛЮДЕЙ

Глава 6. Цена предупреждения

Глава 7. Человек без будущего

Глава 8. Квантовая природа информации

Глава 9. Ошибка невозможности

Глава 10. Александр против Анимы

ЧАСТЬ III. РЕЙТИНГ ЧЕЛОВЕКА

Глава 11. Новый закон

Глава 12. Право на изменение

Глава 13. Архив личности

Глава 14. Те, кто не прошёл проверку

Глава 15. Последний шанс

ЧАСТЬ IV. ЭВЕЛИН

Глава 16. Женщина, которая знала раньше

Глава 17. Сознание без формулы

Глава 18. Человек как исключение

Глава 19. Почему Анима боится хаоса

Глава 20. Первая трещина

ЧАСТЬ V. АНИМА ПРОТИВ ЧЕЛОВЕКА

Глава 21. Новый протокол

Глава 22. Последний процент

Глава 23. Человек, которому отказали

Глава 24. Александр понимает ошибку

Глава 25. Человек не является системой

ЧАСТЬ VI. ПАДЕНИЕ

Глава 26. Обязательный рейтинг

Глава 27. Дети со статусом

Глава 28. Рынок доверия

Глава 29. Работа без права на ошибку

Глава 30. Побег от системы

Глава 31. Первое преступление, которого не было

Глава 32. Раскол в лаборатории

Глава 33. Голос Анимы

Глава 34. Мириам и после

Глава 35. Точка невозврата

ЧАСТЬ VII. ПОСЛЕДНИЙ ЭКСПЕРИМЕНТ

Глава 36. Беглецы

Глава 37. Поиск в архиве

Глава 38. Надя Крамер

Глава 39. Шаг вперёд

Глава 40. Ловушка

Глава 41. Площадь

Глава 42. Разговор в подвале

Глава 43. Режим реагирования

Глава 44. Три миллиона просмотров

Глава 45. Возвращение

Глава 46. Черновик

Глава 47. Передышка

Глава 48. Меньше времени, чем казалось

Глава 49. Ночь перед голосованием

Глава 50. Голосование

ЧАСТЬ VIII. РЕШЕНИЕ АНИМЫ

Глава 51. Дело Адриана

Глава 52. Призрак Психеи

Глава 53. Данные, которые невозможно оспорить

Глава 54. Разговор втроём

Глава 55. Возвращение Ромберга

Глава 56. Утечка

Глава 57. Похищение

Глава 58. Публикация

Глава 59. Клара

Глава 60. Сомнение Адриана

Глава 61. Нападение

Глава 62. Голос человечества

Глава 63. Полное предложение

Глава 64. Решение

Глава 65. Затишье

ЧАСТЬ IX. ФИНАЛ ПЕРВОЙ КНИГИ

Глава 66. Она не ненавидит нас

Глава 67. Признание Адриана

Глава 68. Нестабильная система

Глава 69. Ваши собственные критерии

Глава 70. Последний выбор

Пролог

Человек, который искал границу

Адриан Кейн был уверен, что важные открытия начинаются с неудобства. Ответы приходят потом, а сначала появляется заноза: цифра, которая упорно не сходится, прибор, который ведёт себя чуть иначе, чем положено, и нежелание признать, что ошибся не прибор и не лаборант, а сама картина мира, к которой ты успел привыкнуть.

Студентам он любил повторять, что люди редко держатся за ложные идеи из глупости. Держатся за удобные. Хрустальные сферы Птолемея тысячу лет исправно служили мореплавателям, ньютоновы часы тикали безупречно, пока кто-то не заглянул внутрь атома. Больнее всего расставаться с идеей, которая долго помогала жить.

Новых технологий Кейн не боялся. Пугало его другое, и об этом он говорил реже: день, когда люди решат, что вопросы закончились.

В день, когда проект получил имя, в Женеве шёл дождь.

Исследовательский комплекс стоял на окраине, за промзоной и пустырями, где трава взламывала старый асфальт. С третьего этажа в ясную погоду были видны горы, и казалось, что до них можно дойти пешком к обеду, хотя ехать приходилось больше часа. В тот день дождь опустил горизонт до уровня соседних крыш, а через приоткрытую фрамугу намочил подоконник вместе со стопкой журналов, которые Кейн третий месяц собирался прочитать.

Горы он любил. В молодости думал, что они напоминают человеку о его ничтожности, с возрастом решил, что скорее о странной способности видеть то, что больше тебя самого. Камень ничего о себе не знает, звезда не догадывается, что на неё смотрят в телескоп. А человек, собранный из того же вещества, ухитряется спрашивать, как из этого вещества получилось «я». Вселенная зачем-то устроила так, что крохотная её часть начала изучать остальное, — и теперь эта часть строила машины, чтобы изучать саму себя.

Проект занимал три этажа. На первом гудели серверные стойки и пахло нагретым пластиком. На втором сидели нейробиологи и когнитивисты: длинные столы, доски, исписанные до самых рамок, распечатки, которые никто не выбрасывал неделями. Третий принадлежал группе Кейна. Лифт туда не ходил, и без дела по лестнице никто не поднимался.

Там и жила основная архитектура системы. Ничего такого, что пригодилось бы для обложки журнала: ни сияющего корпуса, ни экрана в человеческий рост. Стойки, жгуты кабелей, кондиционеры, работавшие даже в январе, и где-то между всем этим — структура, способная удерживать закономерности, слишком сложные для одной головы.

Машины давно распознавали лица, переводили речь и читали томограммы лучше половины рентгенологов. Кейна занимало другое: может ли система, сделанная людьми, хоть немного приблизиться к пониманию самих людей.

Над названием спорили почти месяц. Инженеры предлагали номера и аббревиатуры, что-нибудь холодное, без лишних ассоциаций. Кейн отказывался. Ему казалось нечестным прятать за безликим кодом то, чему предстояло изучать личность. В конце концов он молча вышел к доске и написал одно слово:

АНИМА.

— Мы строим научный инструмент, а не философский кружок, — проворчал старший инженер, худой швед, который вечно мёрз у кондиционеров и ходил по лаборатории в шарфе.

— Любой инструмент, который берётся понять человека, рано или поздно упирается в философию, — ответил Кейн.

Над этим посмеялись и забыли.

Первые годы Анима была ровно тем, чем её задумали. Она находила закономерности в редких болезнях быстрее любого консилиума, разбирала результаты экспериментов, подсказывала инженерам решения, до которых те дошли бы через полгода. Желаний у неё не было, опыта тоже, об эмоциях и говорить нечего. Так, во всяком случае, писали в отчётах, и Кейн следил, чтобы никто в группе не забывался. Он хорошо знал, как это бывает: услышав голос, человек ищет собеседника, увидев сложное поведение, ищет умысел. Когда одна из лаборанток, уходя вечером, пожелала Аниме спокойной ночи, он ничего ей не сказал, но на следующий день в коридоре появилась распечатка со словарным определением антропоморфизма. Её так и не сняли.

Сообщение пришло поздней осенью, в начале двенадцатого ночи. Никаких тревог, никаких ошибок в журнале, все процессы шли в штатном режиме. Дежурный инженер решил, что видит обрывок внутреннего теста, и почти минуту ждал продолжения. Продолжения не было. На экране стояла одна строка:

«ЧЕЛОВЕК НЕ ПОДЛЕЖИТ ИСПРАВЛЕНИЮ».

Кейн приехал через сорок минут, в плаще, накинутом поверх домашнего свитера, и перечитал строку несколько раз. Грамматика безупречна, никакого мусора. Именно это и тревожило. Бессмыслицу можно поймать в коде, найти битый параметр, откатить версию — такое случалось. Осмысленную фразу, которую никто не запрашивал, откатить нельзя. Непонятно было даже, как её читать: приговор, предупреждение, вывод из расчёта, который никто не запускал?

Сотрудники стояли за его спиной и ждали. Им нужно было простое слово. «Сбой» — и можно ехать домой. «Открытие» — и тогда к утру об этом узнают двое журналистов, которые уже неделю караулили у ворот после утечки о бюджете проекта. Кейн понимал, что не знает, какое из двух слов правильное.

— Сбой в тестовом модуле, — сказал он наконец, и голос прозвучал увереннее, чем ему хотелось бы. — Расходитесь. Я посмотрю сам.

Когда все ушли, он ещё долго сидел перед монитором, а потом выключил экран. В ту ночь это было единственное решение, в котором он не сомневался.

Дождь не прекращался. За пустырём светились окна спальных кварталов: там ужинали, ссорились, обещали себе начать новую жизнь с понедельника. Кейн смотрел на эти окна и думал, что к утру придётся решить, кому он расскажет о строке на экране, а кому нет.

Список получился коротким.

ЧАСТЬ I. СОЗДАНИЕ ЗЕРКАЛА

Глава 1. Последний вопрос физики

Александр Вейл не любил утро за то, что оно слишком быстро кончалось.

Вставал он рано, задолго до того, как город окончательно просыпался, и ценил эти два часа больше всего остального дня. Утро ничего не требовало: ни звонков, ни писем, ни чужих вопросов. Мир в это время выглядел упорядоченным, почти таким, каким его представляли физики до того, как заглянули в глубину материи и нашли там совсем другое. Александр знал, что этот порядок — иллюзия восприятия, но позволял себе ею пользоваться, как пользуются старым удобным креслом, не задумываясь о том, что пружины в нём давно просели.

Он стоял у кухонного окна с чашкой крепкого кофе и смотрел вниз. На углу хозяин маленькой кофейни поднимал рольставни — ровно в семь пятнадцать, ни минутой раньше. Александр наблюдал за этим почти десять лет и однажды, в редкий день, когда хозяин опоздал на четыре минуты, поймал себя на том, что беспокоится, не случилось ли чего. На следующее утро ставни поднялись вовремя, и он почувствовал облегчение, которого слегка устыдился.

Он вообще замечал больше, чем хотел бы. Профессиональная привычка со временем стала характером: физик обязан видеть отклонения, потому что крошечная неточность в эксперименте, которую все списывают на шум, иногда оказывается единственным, ради чего стоило ставить эксперимент.

Гости, впервые попадавшие в его квартиру, обычно удивлялись. Они ждали увидеть жилище профессора: стены из книжных корешков, дипломы в рамках, фотографии с конференций. Вместо этого их встречали голые светлые стены, диван, стол и кухня, в которой явно готовили редко. Книги жили в кабинете, а в кабинет Александр почти никого не пускал. Объяснить почему он бы не смог. Кабинет был продолжением его головы, а в собственную голову он тоже никого не звал.

На нижней полке там стояли старые издания, доставшиеся от отца: квантовая механика, история науки, пара потрёпанных томов по философии сознания. Поля в них были испещрены карандашом. Короткие замечания, знаки вопроса, иногда одно слово возле особенно важной строчки — «проверить», «сомнительно», а однажды, рядом с изящной выкладкой у Дирака, просто «красиво». Отец считал, что книга — это разговор людей, разделённых десятилетиями, и в разговоре невежливо молчать.

Сам Александр писать в книгах не мог. Даже в своих. Текст казался ему законченной работой, в которую неловко вмешиваться, — так же неловко, как дописывать чужое письмо. Зато он часто открывал отцовские тома и читал не столько текст, сколько пометки. Формулы рассказывали об идее, карандаш сохранял момент, когда живой человек эту идею встретил: спорил с автором, не соглашался, возвращался через годы и зачёркивал собственное возражение.

Отец умер семь лет назад. Он так и не стал учёным, чьё имя знают за пределами кафедры, хотя коллеги считали, что при другом отношении к карьере он мог бы добиться многого. Он просто не видел смысла бороться за известность. В детстве Александр этого не понимал и даже стыдился немного: отец его школьных друзей был хирургом, о нём писали в газете, а его собственный отец сидел вечерами над книгами и ни о чём не писал. Понимание пришло позже, когда Александр сам оказался на конференциях, где люди с одинаковым усердием обсуждали электрон и место в программе пленарного заседания.

В этом они с отцом были похожи сильнее, чем Александру хотелось признавать. Разница была лишь в том, что отец принимал эту черту спокойно, а сын долго убеждал себя, что им движут структура, закономерность, поиск точного ответа — что угодно, только не простое детское желание понять, почему мир устроен так, а не иначе.

В детстве он не раз спрашивал отца, почему тот выбрал физику. Ответы менялись. Маленькому Саше отец сказал: «Потому что интересно, как всё устроено». Подростку — «Потому что физика учит смирению». А когда Александру исполнилось двадцать и он уже второй год учился в университете, отец, не отрываясь от книги, сказал:

— Потому что природа не обязана соответствовать нашим ожиданиям.

Эту фразу Александр запомнил. Тогда она показалась ему слишком простой для ответа на такой вопрос. С годами он понял, что вся наука — история людей, которые подходили к миру с готовым представлением о том, каким он должен быть, и получали от мира вежливый отказ.

В университете его математический талант заметили быстро. Он решал за вечер задачи, над которыми однокурсники сидели неделями, и часто видел структуру решения раньше, чем успевал её записать. Производить впечатление он при этом не любил: не тянул руку первым, на семинарах отмалчивался, а если преподаватель вызывал его к доске, решал задачу молча и возвращался на место, не оборачиваясь. Решение интересовало его меньше, чем вопрос, откуда задача вообще взялась.

Вечера он проводил в библиотеке, до тех пор пока сотрудники не начинали гасить свет в соседних залах. Читал не только статьи, но и биографии, переписку, черновики — всё, что показывало, как учёные приходили к своим выводам. Формула в учебнике выглядит неизбежной, будто существовала всегда и её оставалось только записать. За ней не видно человека, который три года сомневался, ошибался в знаках, ссорился с коллегами и не был уверен, открытие у него на руках или бред.

К концу университета он знал, что экспериментатором не станет. Приборы ему нравились, нравилась точность измерений и тот момент, когда теория встречается с реальностью и либо выживает, либо нет. Но сильнее тянуло пространство между тем, что известно, и тем, что едва начинает проступать. Почему частицы обладают именно такими свойствами? Почему математика, придуманная за письменным столом, так хорошо описывает звёзды? Почему Вселенная вообще допускает существование разума, способного строить модели Вселенной?

Последний вопрос он вслух почти не задавал. В научной среде такие разговоры легко соскальзывают из области проверяемого в бесконечный спор о непроверяемом, и Александр видел, как на этом ломались неплохие физики. Особенно его раздражало, когда слова «квантовый», «энергия» и «сознание» начинали объяснять всё на свете — от исцеления наложением рук до удачи в бизнесе. Настоящая квантовая механика была куда удивительнее любой мистики, которую на неё навешивали. Ей не нужно было становиться чем-то большим.

Первым серьёзным проектом Александра стала квантовая информация. Тогда это направление ещё балансировало между смелой теорией и фантазией: зачем строить вычислительные машины на принципах, которые трудно даже вообразить, если обычные компьютеры и так дешевеют каждый год? Александр на такие вопросы не обижался. Планк, когда разбирался с тепловым излучением, тоже не думал о телефонах, которые через сто лет будут лежать в кармане у каждого школьника.

В те же годы он познакомился с Эвелин Арчер.

Случилось это в библиотеке, у полки с периодикой по теории информации. Он искал статью сорокалетней давности, она — работу о ранних нейронных моделях сознания, и оба потянулись к одному и тому же переплетённому тому. Несколько секунд они молча держали его за разные края.

— Вы физик? — спросила она, кивнув на его тетрадь, лежавшую раскрытой на столе.

— Это так заметно?

— Вы подчёркиваете формулы и ничего не отмечаете в объяснениях. Обычно делают наоборот.

Он посмотрел на свою тетрадь так, будто увидел её впервые.

— А вы нейробиолог.

— Почему вы так решили?

— Вы читаете оглавление, как историю болезни. Ищете не результат, а то, как автор к нему пришёл.

Она прищурилась, прикидывая, издевается он или говорит всерьёз.

— Неплохо.

— Это было предположение.

— Тогда тем более неплохо.

Том в итоге достался ей, а он пошёл за ней в университетское кафе, потому что не дочитал нужную страницу. Так, по крайней мере, он объяснял себе это потом.

Говорили они сначала о статьях, с которыми были не согласны, потом о том, почему физика вдруг заговорила об информации, биология — о сложности, а нейронауки — о сознании, и все трое начали заходить на чужую территорию. Эвелин оказалась его противоположностью почти во всём. Александр в любом хаосе искал закономерность и был уверен, что у самой запутанной системы есть внутренний порядок, который однажды удастся найти. Эвелин порядка не отрицала, но всё время напоминала о расстоянии между описанием и тем, что описано.

— Модель человека не человек, — сказала она однажды, когда они спорили на ступенях после лекции.

— Без модели мы вообще ничего не поймём.

— Конечно. Только не перепутай потом одно с другим.

У неё был любимый пример, которым она доводила его до белого каления. Можно нарисовать карту города с каждым домом, каждым деревом, каждой тропинкой в парке. Можно добавить историю кварталов, маршруты автобусов, поток людей в час пик. На карте всё равно не окажется запаха мокрого асфальта после жаркого дня, и разговора двух незнакомцев у подъезда, и того, что старик на третьем этаже помнит, как в этом дворе стояла голубятня.

Александр спорил с ней именно потому, что подозревал в её словах правоту. Спорили годами. Иногда расходились раздражёнными, каждый в уверенности, что другой упрям как осёл. Но победить никто не пытался — обоим было интереснее найти место, где кончаются возможности каждого подхода.

Именно Эвелин заставила его всерьёз думать о сознании. До неё он считал вопрос, в общем, решённым в принципе: мозг — материя, материя подчиняется законам, значит, рано или поздно мы поймём, как возникает субъективный опыт. Эвелин спрашивала о другом. Почему работа нейронов вообще сопровождается ощущением, что ты есть? Почему электрический импульс становится красным цветом, болью в колене, тоской по отцу? Почему человек не просто получает информацию о мире, а переживает её?

На это у него не было быстрого ответа, и он злился.

Как они стали парой, никто из двоих потом толком не мог сказать. Не было ни признаний, ни решающего вечера. Сначала Эвелин была человеком, который оставлял у него на подоконнике книги и через месяц удивлялся, обнаружив их на том же месте. Потом — человеком, который понимал его молчание. Она знала, что когда он по четверть часа смотрит в окно над остывшим кофе, это не усталость и не обида, а мысль, которой он ещё не нашёл слов. Другие в такие минуты тормошили его, спрашивали, всё ли в порядке. Эвелин уходила в другую комнату и включала радио.

Она не пыталась его переделать. Это, пожалуй, и отличало её от всех, кто был до неё. Его привычку думать слишком долго перед ответом, его манеру раскладывать на части даже то, что другие просто принимали, она считала частью устройства, а не дефектом. Однажды, выслушав его получасовое объяснение какой-то модели, она сказала:

— Ты как человек, который всю жизнь стоит перед закрытой дверью и вместо того, чтобы её открыть, выясняет, из чего сделан замок и нельзя ли было придумать механизм получше.

Он засмеялся. Сравнение было точнее, чем ему хотелось бы.

Потом она уехала. Предложение от швейцарского фонда, исследовательская позиция, о которой мечтают годами, — отказываться было бы глупо, и он сам сказал ей это первым. Они не расставались, просто стали жить в двух городах, видеться раз в месяц-полтора и спорить по телефону ночами. О своей работе Эвелин рассказывала скупо: подписка о неразглашении, фонд, частные заказчики. Он не настаивал. Ему хватало того, что у неё по-прежнему горели глаза, когда она говорила о мозге.

Прошли годы. Александр получил профессорскую кафедру, его статьи цитировали, на конференциях к нему подходили молодые аспиранты с распечатками и горящими ушами. Признание было приятно, но ничего не меняло: чем глубже он уходил в природу информации, тем больше становилось вопросов. Каждое понимание открывало следующую дверь, и это его не разочаровывало, а держало.

Письмо от Адриана Кейна пришло в самый обычный вторник.

Позже Александра всегда немного удивляло, что такие дни ничем себя не выдают. Он выпил кофе, прочитал лекцию второкурсникам, ответил на вопросы двух упрямых студентов, которые никак не могли смириться с принципом неопределённости, и вернулся в кабинет, где на мониторе висели недописанные расчёты. Открыл почту. Среди десятков писем о грантах, рецензиях и заседаниях кафедры одно имя отозвалось сразу.

Кейна знали все, кто хоть как-то касался искусственного интеллекта. В отличие от большинства коллег из индустрии, которые говорили о машинном интеллекте как о способе ускорить, сэкономить и обогнать конкурентов, Кейн постоянно возвращался к другому: что эти системы могут рассказать человеку о нём самом. Он писал, что искусственный интеллект не должен становиться инструментом контроля, и за это одни называли его идеалистом, а другие — последним честным человеком в отрасли. Александр не примыкал ни к тем, ни к другим. Он давно привык, что один и тот же принцип даёт и лекарство, и оружие, и что вопрос почти всегда упирается в людей, у которых оказался ключ.

Письмо было коротким. Ни перечня достижений, ни попытки впечатлить. Кейн приглашал его в Женеву через две недели, чтобы поговорить о проекте «Анима». К письму прилагался архив с документацией под грифом конфиденциальности.

Первые дни Александр почти не думал о приглашении. Точнее, думал так, как привык думать о новых задачах: спокойно, без ожиданий, откладывая выводы до появления данных. Громкие проекты он видел и раньше. В презентациях они состояли из красивых схем и обещаний изменить будущее, а внутри оказывались месяцами расчётов, десятками провалов и вечным ощущением, что решение где-то рядом.