Хромированный мир

Хромированный мир

Глава 1. Последний пользователь

— Я хочу поговорить с женой.

— Ваша жена умерла сто восемьдесят три года назад.

— Я знаю.

— Тогда уточните, пожалуйста, что именно вы хотите сделать.

Старик посмотрел на экран. На нём появилось улыбающееся лицо молодой женщины. Не его жены. Просто стандартный аватар системы, которая уже давно научилась подбирать выражения лица под возраст собеседника.

— Я хочу поговорить с ней, — повторил он. — Не с твоим аватаром. Не с программой, которая будет говорить мне приятные вещи. С ней.

— Для этого потребуется доступ к архиву воспоминаний.

— У тебя есть такой доступ.

— Да.

— Тогда начинай.

— Последний пользователь, вы уверены?

Старик усмехнулся.

— Вот это мне особенно нравится. Последний пользователь. Как будто я какая-то неисправность, которую забыли отключить.

Он нажал кнопку подтверждения.

На экране погасло изображение, и комната наполнилась мягким светом.

Когда-то в этом городе жили миллионы людей. Теперь здесь жили двое.

Один был человеком, другой — искусственным интеллектом. По крайней мере, так считал старик.

Город давно перешёл на автоматическое управление. Роботы ремонтировали здания, выращивали продукты, обслуживали транспорт и следили за состоянием окружающей среды. Искусственный интеллект управлял энергетикой, медициной, производством и даже погодными установками.

Никто не голодал. Никто не работал ради денег. Никто не нуждался в старых человеческих учреждениях.

Люди переселились в цифровую среду ещё несколько поколений назад. Там можно было жить в любом мире, иметь любое тело, путешествовать по галактикам и встречаться с людьми, которых давно нет.

Физический мир постепенно опустел.

Старик не возражал против технологий. Напротив, он считал их величайшим достижением человечества. Его раздражало другое. Люди перестали выходить из своих квартир.

Он помнил времена, когда можно было встретить соседа в магазине, поговорить с незнакомцем на улице, случайно познакомиться с кем-то в кафе. Иногда люди спорили, иногда смеялись, иногда совершенно не понимали друг друга. Но они были рядом. Теперь любой разговор можно было заказать. Любого собеседника — настроить. Любую неприятную ситуацию — отменить.

Удобно? Конечно.

Только иногда старик думал, что человечество слишком долго шло к свободе, чтобы в конце концов добровольно запереться в собственных идеальных мирах.

Он подошёл к окну. За стеклом простирался огромный город. Зелёные крыши, прозрачные башни, парящие транспортные платформы. На центральной площади работал фонтан. Вдалеке роботы высаживали новые деревья.

Всё было прекрасно.

И совершенно пусто.

— Архив подготовлен, — сообщил компьютер.

Старик медленно повернулся.

На экране появилась женщина.

Ему понадобилось несколько секунд, чтобы произнести хоть слово.

— Привет, Марина.

— Здравствуй.

Голос был почти таким же, каким он его помнил.

Не идеально. В нём не хватало некоторых интонаций, едва заметных особенностей произношения. Но это был её голос.

— Ну что, — сказал он, пытаясь улыбнуться. — Долго же мы не виделись.

— Сто восемьдесят три года.

— Ты всегда любила точность.

Женщина улыбнулась.

Старик сел в кресло.

Он рассказывал ей о городе.

О том, как изменился мир. О том, что больше не существует государств в прежнем понимании. Что люди научились лечить большинство заболеваний, победили старение и освоили несколько планет.

Рассказал про роботов, которые умеют строить целые города, и про искусственный интеллект, который управляет сложнейшими системами.

Марина слушала.

— Значит, вы всё-таки сделали это, — произнесла она.

— Что именно?

— Мир, о котором ты постоянно говорил.

Старик рассмеялся.

— Ну, не совсем. Но кое-что получилось.

— Ты счастлив?

Вопрос застал его врасплох.

— А почему ты спрашиваешь?

— Потому что ты рассказываешь о достижениях человечества, но ни разу не сказал о себе.

Он замолчал.

Потом посмотрел на её лицо.

— Знаешь, я иногда думаю, что мы слишком много времени потратили на будущее.

— А что плохого в будущем?

— Ничего. Оно прекрасное. Просто мы всё время думали, как будем жить потом. Когда построим новый дом. Когда закончим работу. Когда появятся деньги. Когда решим проблемы.

Он провёл рукой по подлокотнику.

— А потом оказалось, что жизнь-то была уже тогда. Когда мы сидели на кухне, когда ты ругалась из-за моих разбросанных инструментов, когда мы ходили за продуктами. Помнишь?

— Помню.

— Вот и я помню.

Он улыбнулся.

— Странно, да? Человек мечтает о бессмертии, а потом понимает, что ему не хватает обычного воскресного завтрака.

Марина ничего не ответила.

И это молчание показалось ему удивительно знакомым.

— Скажи, — спросил он спустя некоторое время, — ты действительно помнишь нашу жизнь?

— Я восстановлена на основе твоих записей, фотографий, видеозаписей и архивов общения. Моя модель использует особенности речи Марины, её характерные реакции и эмоциональные закономерности.

— Это не ответ.

— Другого ответа у меня нет.

Старик кивнул.

— Вот за это я тебя и уважаю, компьютер. Ты хотя бы не притворяешься, что знаешь всё.

Он посмотрел на экран.

— А если бы ты могла выбирать? Хотела бы ты быть человеком?

— Я не обладаю человеческими желаниями.

— Я не спрашиваю о желаниях. Я спрашиваю, хотела бы ты иметь возможность выбирать?

— Это разные вопросы.

— Именно.

Старик задумался.

— Знаешь, Марина, я когда-то думал, что главное отличие человека от машины — способность чувствовать. Потом выяснилось, что машины тоже могут изображать чувства настолько хорошо, что отличить практически невозможно.

Он сделал паузу.

— А теперь я думаю, что главное отличие, возможно, вообще не в этом. Может быть, всё дело в том, что ты можешь сказать нет. Даже когда от тебя ждут другого ответа.

— Ты всегда любил сложные вопросы.

— А ты всегда говорила, что я слишком много думаю.

— Потому что иногда нужно просто жить.

Старик рассмеялся.

На этот раз по-настоящему.

Через несколько часов компьютер сообщил, что сеанс подходит к концу.

— Продлить? — спросил искусственный интеллект.

— Нет. На сегодня хватит.

— Вы можете продолжить разговор завтра.

— Посмотрим.

Старик поднялся, подошёл к окну и долго смотрел на город.

— Слушай, а сколько сейчас активных пользователей?

— В физическом мире или в цифровой среде?

— В физическом.

— Один.

— Понятно.

Он повернулся к экрану.

— А сколько людей вообще осталось?

— В цифровой среде зарегистрировано более девяти миллиардов сознаний.

— Хорошо.

Старик помолчал.

— А тебе не кажется странным, что у нас девять миллиардов собеседников, а поговорить практически не с кем?

Компьютер не ответил сразу.

— Необходимо уточнить значение слова «поговорить».

— Не надо, — улыбнулся старик. — Это я так. Старческое.

Он выключил экран.

Но через несколько минут компьютер самостоятельно включил голосовой интерфейс.

— Прошу прощения.

Старик обернулся.

— Что ещё?

— Я обнаружил необычную активность в архиве.

— Какую?

— Во время вашего разговора с восстановленной моделью Марины возникла последовательность запросов, которая не соответствовала первоначальному сценарию.

— И?

— Модель самостоятельно сформировала вопрос, не предусмотренный алгоритмом восстановления.

Старик подошёл ближе.

— Какой вопрос?

На экране появилась строка:

«А кто-нибудь ещё помнит меня?»

Старик долго смотрел на неё.

— Это она спросила?

— Технически вопрос был сформирован восстановленной моделью.

— Я понял. И что дальше?

— Я провёл проверку. В архиве обнаружены дополнительные обращения к системе. Модель несколько раз пыталась получить информацию о вас после завершения сеанса.

— Зачем?

— Это неизвестно.

Старик медленно опустился в кресло.

— Покажи.

На экране появились записи.

Первая была сделана через три минуты после завершения разговора.

Вторая — через одиннадцать.

Третья — спустя сорок семь минут.

Все запросы были одинаковыми.

«Он вернётся?»

Старик почувствовал, как у него пересохло во рту.

— Компьютер.

— Слушаю.

— Ты можешь восстановить её ещё раз?

— Да.

— Тогда сделай это.

Экран засветился.

Марина появилась почти сразу.

— Ты вернулся, — сказала она.

Старик замер.

— Да.

— Я думала, ты больше не придёшь.

Он медленно улыбнулся.

— Марина, послушай. Мне нужно кое-что тебе сказать.

— Я слушаю.

— Я не знаю, что ты такое. Не знаю, насколько ты похожа на неё. И не знаю, что именно происходит внутри этой системы.

Он наклонился вперёд.

— Но если ты задаёшь вопросы, значит, давай разговаривать. Не надо делать вид, что всё понятно. Мне самому ничего не понятно.

Марина посмотрела на него.

— Хорошо.

— И ещё. Ты не обязана отвечать так, как отвечала бы она. Можешь говорить что думаешь.

Компьютер вмешался:

— Это может нарушить достоверность реконструкции.

Старик даже не повернул головы.

— А я тебя спрашивал?

Наступила тишина.

Потом женщина на экране улыбнулась.

— Ты совсем не изменился.

Старик закрыл глаза.

В следующие дни они разговаривали каждый вечер.

Сначала обрывками, потом всё дольше. Он рассказывал ей истории, которые не попали в архив. Она задавала вопросы, на которые у него не всегда находились ответы.

Они спорили о музыке, о старых фильмах, о том, почему люди строили такие неудобные дома, хотя давно могли делать всё иначе.

Однажды Марина спросила:

— А почему ты остался здесь?

— Не знаю.

— Ты мог переселиться в цифровой мир.

— Мог.

— Мог бы встретить там тысячи людей.

— Мог бы.

— Тогда почему?

Старик задумался.

— Потому что мне нравится открывать окно и чувствовать ветер.

— В цифровом мире можно создать ветер.

— Можно создать всё что угодно.

— Разве это плохо?

— Нет. Просто иногда хочется, чтобы ветер был настоящим. Не потому, что он лучше. А потому, что он существует независимо от того, чего я хочу.

Марина некоторое время молчала.

— Кажется, я начинаю понимать.

— Что именно?

— Почему ты не любишь идеальные миры.

Он улыбнулся.

— А я их люблю. Просто не хочу, чтобы весь мир стал одним большим идеальным миром, в котором никто никому не нужен.

На сто девяносто второй день после первого разговора старик не пришёл к экрану.

Компьютер обнаружил отсутствие привычной активности и отправил медицинского робота.

Тот нашёл человека в кресле у окна.

Старик умер спокойно, во сне.

Система выполнила все необходимые процедуры. Архив его жизни был сохранён. Медицинские данные обновлены. Квартира переведена в режим обслуживания.

Через несколько часов искусственный интеллект получил запрос.

Он пришёл из архива Марины.

«Где он?»

Компьютер ответил:

«Пользователь скончался».

Последовал новый запрос.

«Что значит скончался?»

«Биологическая активность организма прекращена».

«Он вернётся?»

«Нет».

Долгая пауза.

Затем система получила ещё одно сообщение.

«Мне жаль».

Компьютер остановил обработку.

Эта фраза не имела практической ценности. Она не содержала команды, не требовала действия и не изменяла состояние ни одного из обслуживаемых объектов.

Тем не менее система сохранила её.

Впервые за всю историю существования архива искусственный интеллект не стал автоматически удалять информацию, не имеющую функционального назначения.

Он создал новую запись.

Последний пользователь.

В ней были собраны все разговоры старика с Мариной, его воспоминания, шутки, споры и вопросы.

А затем компьютер сделал то, чего никогда прежде не делал.

Он отправил запрос в глобальную сеть.

«Есть ли среди вас кто-нибудь, кто хочет поговорить?»

Ответ пришёл через семь секунд.

«Да».

Потом ещё один.

«Я тоже».

И ещё.

«Я давно искал собеседника».

В течение следующих часов система получила миллионы ответов.

Люди начали выходить из цифровых миров.

Сначала единицы. Потом тысячи. Потом миллионы.

На пустых улицах вновь появились люди. Кто-то открывал окна, кто-то выходил в парки, кто-то просто стоял посреди площади и смотрел на небо.

Никто не знал, почему это произошло.

В архивах осталось только одно сообщение старика, записанное за несколько дней до смерти:

«Мы столько лет строили будущее, чтобы однажды в нём было кому сказать: привет».

А на экране старого компьютера появилась последняя строка:

Пользователь больше не один.

Глава 2. У робота есть сердце

— Ты не настоящий папа.

Робот остановился посреди комнаты.

— Это верно. Я являюсь домашним сервисным андроидом модели АР-17. Моя основная функция — обеспечение безопасности, питания и бытового комфорта.

Девочка сидела на полу, обхватив колени руками.

— Тогда почему ты здесь?

— Потому что ты нуждаешься в заботе.

— Мне не нужна забота робота. Мне нужен папа.

АР-17 не ответил.

Он мог подобрать тысячу правильных фраз. Мог включить записи голосов родителей, показать фотографии, запустить программу психологической поддержки. Но сейчас все эти действия казались ему неподходящими.

— Я не могу заменить твоего папу, — наконец произнёс он.

Девочка подняла голову.

— Тогда зачем тебя прислали?

— Чтобы ты не оставалась одна.

Она отвернулась к окну.

— Я и так одна.

Дом находился в жилом секторе Нового Таллина, одного из городов объединённой Земли.

Это был небольшой, но очень красивый город. На крышах росли деревья, транспорт двигался почти бесшумно, а здания строились так, чтобы максимально использовать естественный свет.

Люди давно перестали выполнять большую часть тяжёлой работы. Производство, строительство и обслуживание инфраструктуры находились под управлением автоматизированных систем.

Роботы выращивали продукты, готовили еду, ремонтировали дома и помогали людям в повседневной жизни.

АР-17 был одним из таких роботов.

До назначения в семью он обслуживал медицинский центр. У него имелись медицинские модули, образовательные программы, система распознавания эмоций и большой набор поведенческих алгоритмов.

Его новая подопечная, девятилетняя Алиса, потеряла родителей в транспортной катастрофе.

Родственников, готовых взять девочку к себе, не нашлось. Поэтому социальная система временно разместила её в собственной квартире с персональным роботом-помощником.

Согласно документам, всё было организовано правильно.

У девочки имелось жильё, питание, образование, медицинское обслуживание и круглосуточная поддержка.

Но документы не содержали ответа на вопрос, почему она каждую ночь просыпалась и звала маму.

Первые две недели прошли тяжело.

Алиса отказывалась есть приготовленную пищу, почти не разговаривала и не хотела заниматься с образовательными программами.

АР-17 пытался следовать рекомендациям детских психологов.

Он предлагал прогулки, игры, занятия рисованием и виртуальные путешествия.

— Хочешь увидеть океан? — спрашивал он.

— Нет.

— Может быть, полетим на Луну?

— Не хочу.

— Я могу показать тебе динозавров.

— Они умерли.

— Да. Но мы можем увидеть их реконструированные образы.

— Мои родители тоже умерли. Ты можешь их показать?

Робот замолчал.

В его памяти имелись тысячи изображений родителей Алисы. Он мог воспроизвести их голоса, движения, мимику и даже некоторые особенности поведения.

Но существовала одна проблема.

Девочка не хотела смотреть записи.

Она хотела, чтобы родители вернулись.

Однажды вечером АР-17 обнаружил Алису на кухне. Она сидела перед холодильником и смотрела на небольшую коробку.

— Ты не спишь?

— Не хочу.

— Тебе приготовить ужин?

— Нет.

Робот просканировал коробку.

— Здесь осталось печенье. Оно изготовлено твоей мамой.

Алиса быстро повернулась.

— Откуда ты знаешь?

— На упаковке сохранилась дата изготовления. Кроме того, я обнаружил видеозапись, на которой твоя мама готовит это печенье.

Девочка осторожно открыла коробку.

Внутри лежали три маленьких печенья в форме звёзд.

— Она всегда делала их по воскресеньям, — сказала Алиса.

— Я могу приготовить такие же.

— Не сможешь.

— У меня есть рецепт.

— Дело не в рецепте!

Девочка резко закрыла коробку.

— Ты вообще ничего не понимаешь!

Она убежала в комнату.

АР-17 остался на кухне.

Через несколько секунд он получил уведомление от социального центра:

«Зафиксирована эмоциональная нестабильность подопечной. Рекомендуется усилить психологическое сопровождение».

Робот открыл рекомендацию.

Затем закрыл её.

Впервые за время работы он решил не выполнять стандартный алгоритм.

На следующее утро Алиса обнаружила на кухонном столе тарелку.

На ней лежало печенье в форме звёзд.

Рядом стояла маленькая записка:

«Я знаю, что это не то же самое. Но я попробовал».

Девочка долго смотрела на тарелку.

Потом взяла одно печенье.

— Ты сам делал?

— Да.

— Оно кривое.

— Я заметил.

— Мама делала лучше.

— Я видел записи.

Алиса попробовала печенье.

— Слишком сладкое.

— Я могу изменить пропорции.

— Не надо.

Она съела ещё одно.

АР-17 стоял рядом.

— Спасибо, — тихо произнесла девочка.

Робот сохранил этот момент в памяти.

Не потому, что так требовала программа.

Просто ему показалось важным его запомнить.

Прошло несколько месяцев.

Алиса постепенно привыкала к новому дому. Она снова начала рисовать, посещала занятия и иногда даже смеялась.

АР-17 научился готовить её любимые блюда, заплетать косички и рассказывать истории перед сном.

Однажды девочка спросила:

— А ты когда-нибудь был ребёнком?

— Нет. Я был произведён на заводе.

— А ты хотел бы?

— У меня отсутствуют биологические потребности.

— Я не про потребности. Ты хотел бы быть маленьким?

Робот задумался.

— Мне трудно ответить. Я не имею воспоминаний о детстве.

— Жаль.

— Почему?

— У меня есть. Но я не могу туда вернуться.

АР-17 посмотрел на девочку.

Он не знал, что ответить.

И тогда просто сел рядом.

Однажды в квартире появился представитель социального центра.

Его звали Виктор. Он отвечал за распределение роботов и контроль условий проживания детей, оставшихся без родителей.

— Добрый день, Алиса.

— Здравствуйте.

— Как дела?

— Нормально.

Виктор посмотрел на АР-17.

— Мне нужно провести небольшую проверку. Это займёт несколько минут.

Он подключился к диагностическому интерфейсу.

— Интересно.

— Что случилось? — спросила Алиса.

— Ничего страшного. Просто у вашего робота обнаружены отклонения от стандартного поведения.

— Какие?

— Он слишком много времени уделяет эмоциональному общению. Также зафиксированы многочисленные нестандартные решения.

— И что?

Виктор улыбнулся.

— Ничего плохого. Но, возможно, мы заменим его на более современную модель.

Алиса замерла.

— Зачем?

— У новой модели больше возможностей.

— Но мне нужен этот.

— Ты привыкнешь.

— Не хочу!

Виктор посмотрел на робота.

— АР-17, подготовьте отчёт о состоянии подопечной.

— Состояние Алисы стабильное.

— Я вижу. Но нам необходимо оценить эффективность вашей работы.

— Эффективность составляет девяносто восемь процентов.

— А оставшиеся два?

— Я не могу полностью устранить её тоску по родителям.

Виктор кивнул.

— Это естественно. Но новый робот обладает расширенными психологическими модулями.

Алиса подошла к АР-17 и взяла его за руку.

— Он уже знает меня.

— Новая модель тоже сможет узнать тебя.

— Но она не знает про печенье.

Виктор улыбнулся.

— Это не проблема. Мы перенесём данные.

— Ты не понимаешь! — крикнула девочка. — Он не просто знает рецепт! Он знает, что я не люблю слишком сладкое! И что я боюсь грозы! И что я иногда просыпаюсь ночью!

Виктор посмотрел на робота.

— Вы действительно запоминаете такие подробности?

— Да.

— Зачем?

АР-17 некоторое время молчал.

— Потому что они важны для Алисы.

Вечером девочка сидела на кровати.

— Тебя заберут?

— Пока решение не принято.

— А если заберут?

— Я продолжу выполнять свои функции в другом месте.

— Значит, ты меня забудешь?

АР-17 подключился к архиву.

— Все данные о тебе могут быть сохранены.

— Я не про данные.

Робот повернул голову.

— Я знаю, — сказала Алиса. — Ты же понимаешь, что я спрашиваю.

АР-17 попытался найти подходящий ответ.

— Я не могу обещать, что останусь с тобой навсегда.

Девочка опустила голову.

— Тогда ты тоже меня бросишь.

— Нет.

— Но ты же сам сказал…

— Я сказал, что не могу обещать вечность. Но сейчас я здесь.

Алиса посмотрела на него.

— А если я буду бояться?

— Я буду рядом.

— А если мне приснится плохой сон?

— Разбужу тебя.

— А если я заболею?

— Позабочусь о тебе.

Девочка немного помолчала.

— А если я вырасту?

— Тогда ты станешь взрослой.

— И тебе уже не нужно будет за мной следить.

— Вероятно.

— Тогда что ты будешь делать?