
Полная версия:
Пока ты не вернёшься
— Принято.
— А теперь как тебя зовут?
— Тоби.
Девочка замерла.
Затем её глаза расширились.
— Правда?!
— Да. Михаил подтвердил изменение имени в 07:12.
— Папа разрешил?!
— Да.
Анна бросилась ко мне.
Мои датчики зарегистрировали быстрое приближение объекта массой 21,4 килограмма. Алгоритм предотвращения столкновений предложил отступить на сорок сантиметров.
Я выполнил команду.
Анна обняла воздух.
Потеряла равновесие.
И упала бы, если бы я не успел подхватить её.
— Ой!
— Будьте осторожны, Аня.
Она засмеялась.
— Глупый! Я тебя обнять хотела!
— Пожалуйста, предупреждайте о намерении совершить физический контакт.
— Зачем?
— Это позволит избежать травм.
— А ты просто стой.
— Принято.
Она обняла меня.
На этот раз я не двигался.
Её руки не доставали до середины моей спины. Щекой она прижалась к передней панели корпуса.
Контакт продолжался восемь секунд.
— Теперь ты настоящий Тоби, — сказала она.
— Моё физическое состояние не изменилось.
— Зато имя появилось.
Она отпустила меня и побежала к столу.
Я продолжил приготовление завтрака.
Но прежде сохранил новое событие.
07:32. Пользователь Анна инициировала физический контакт.
Тип: объятие.
Предполагаемое эмоциональное состояние: радость.
В стандартном журнале бытовых операций подобные события хранились семь дней.
Я изменил срок хранения на неопределённый.
Причину система не запросила.
После завтрака Анна объявила, что собирается научить меня играть.
— Ты же умеешь играть?
— В моей базе данных содержатся правила 12 408 игр.
— В прятки?
— Да.
— Тогда давай!
Она схватила Капитана, побежала в гостиную и остановилась у двери.
— Ты считаешь до десяти, а я прячусь!
— Принято.
Я начал отсчёт.
— Один. Два. Три.
На четвёртой секунде мои акустические сенсоры зафиксировали звук шагов, удаляющихся в сторону кухни.
На шестой — скрип дверцы шкафа.
На восьмой — приглушённый смех.
— Девять. Десять. Я начинаю поиск.
Я вошёл на кухню.
Тепловизионная система обнаружила человеческое тело внутри нижнего шкафа для посуды.
— Я вас нашёл, Аня.
Дверца распахнулась.
— Нечестно!
— Уточните нарушение правил.
— Ты даже не искал!
— Я выполнил поиск. Продолжительность составила 1,8 секунды.
— Ты должен был сначала посмотреть за диваном!
— Но вас там не было.
— Я знаю!
Она вылезла из шкафа, сердито поставила руки на пояс и посмотрела на меня.
— Ты вообще не понимаешь, как играть.
— Моя задача — обнаружить спрятавшегося участника.
— Нет! Твоя задача — чтобы было весело!
Это утверждение противоречило загруженным правилам.
Я открыл справочную информацию.
Игра — деятельность, осуществляемая преимущественно ради удовольствия.
Таким образом, обнаружение участника не являлось единственной целью.
— Я допустил ошибку, — сообщил я.
Анна сразу перестала сердиться.
— Ничего. Я тебя научу.
Во втором раунде я отключил тепловизионный поиск.
В третьем ограничил обработку звуков.
В четвёртом прошёл мимо шкафа, в котором она пряталась, хотя видел край её пижамы.
— Где же Аня? — произнёс я.
Из шкафа донёсся смешок.
— Может быть, за диваном?
Смех стал громче.
— Или под столом?
Дверца шкафа задрожала.
Я подошёл к окну.
— Возможно, она вышла в сад.
— Нет! — не выдержала Анна.
Она распахнула шкаф и выскочила наружу.
— Я здесь!
— Обнаружен пользователь Анна.
— Ты проиграл!
— Подтверждаю.
Девочка захлопала в ладоши.
— Ура!
Я зарегистрировал повышение громкости её голоса, увеличение частоты сердечных сокращений и характерную мимику.
Эмоциональное состояние: радость.
Причина: победа в игре.
Позднее я обнаружил, что запись была неполной.
Анна радовалась не только победе.
Она радовалась тому, что мы играли вместе.
Вечером Михаил вернулся домой с небольшой картонной коробкой.
— Ань, иди сюда!
Девочка прибежала из гостиной.
— Что там?
— Сюрприз.
Он открыл коробку.
Внутри лежал набор цветных карандашей.
— Ух ты!
Анна сразу принялась рассматривать цвета.
— Тут даже золотой есть!
— Ага. И серебряный.
— Пап, а можно я Тоби нарисую?
— Конечно.
— А можно Тоби будет со мной рисовать?
Михаил посмотрел на меня.
— Ну что, художник, справишься?
— Да. Я способен воспроизводить изображения с высокой точностью.
— Тогда садитесь.
Мы расположились за кухонным столом.
Анна положила передо мной чистый лист бумаги.
— Нарисуй дом.
Я взял карандаш.
За 4 минуты 12 секунд выполнил изображение дома с соблюдением перспективы, пропорций и особенностей фасада.
Анна долго смотрела на рисунок.
— Красиво, — сказала она.
— Благодарю.
— Только неправильно.
Я проверил изображение.
— Уточните ошибку.
Она указала на окно второго этажа.
— Тут должно быть солнце.
— Солнце находится за пределами здания.
— Не настоящее солнце. Нарисованное.
— Почему?
— Потому что в доме должно быть светло.
Я посмотрел на рисунок.
Затем взял жёлтый карандаш и нарисовал в окне небольшое солнце.
— Так?
Анна улыбнулась.
— Так.
Она придвинула свой лист ближе ко мне.
На нём был изображён дом, рядом с которым стояли четыре фигуры.
Тот же рисунок, что она подарила мне вчера, но теперь значительно больше.
— А это наша семья, — сказала она.
— На изображении присутствуют четыре фигуры.
— Да.
— В вашей семье три человека.
Анна подняла голову.
— Четыре.
— Михаил, Елена и вы.
Она ткнула карандашом в четвёртую фигуру.
— И ты.
Я посмотрел на неё.
— Я являюсь домашним ассистентом.
— Ну и что?
— Роботы не относятся к членам человеческих семей.
Анна задумалась.
— А кто тогда относится?
— Родители, дети, супруги и другие родственники.
— А Капитан?
Она подняла медведя.
— Он тоже наша семья.
— Плюшевые игрушки не являются родственниками.
— А бабушкина кошка?
— Домашние животные могут рассматриваться как члены семьи в переносном смысле.
— Значит, и ты можешь.
Я обработал её рассуждение.
Формально оно содержало логическую неточность. Но я не обнаружил практической необходимости исправлять её.
— Возможно, — ответил я.
Анна довольно кивнула.
— Вот и хорошо.
Она вернулась к рисованию.
А я смотрел на четыре фигуры.
В тот вечер я впервые столкнулся с понятием, которое не имело точного технического определения.
Принадлежность.
Я знал, что принадлежу Михаилу по документам о покупке.
Но Анна, кажется, имела в виду что-то другое.
Позднее, когда девочка уже спала, я обнаружил Михаила на кухне.
Он сидел за столом и просматривал рабочие документы.
— Михаил, — обратился я.
— М?
— У меня вопрос.
— Давай.
— Что означает быть членом семьи?
Он оторвался от экрана.
— С чего вдруг?
— Анна утверждает, что я являюсь членом вашей семьи.
Михаил улыбнулся.
— А ты против?
— Я не обладаю предпочтениями относительно семейного статуса.
— Понятно.
Он отложил планшет.
— Слушай, Тоби. Семья — это не только кровь и фамилия.
— Уточните.
— Ну... это когда люди друг о друге заботятся. Когда ждут домой. Когда переживают, если с кем-то что-то случилось.
— Я запрограммирован заботиться о вашей безопасности.
— Да, но это немного другое.
— В чём различие?
Михаил задумался.
Долго смотрел в окно.
— Наверное, в том, что о семье заботятся не потому, что должны.
— А почему?
Он улыбнулся.
— Потому что хотят.
Я не ответил.
В моей системе существовали команды, приоритеты, правила безопасности и заданные цели.
Но не существовало параметра «хочу».
— Это сложно объяснить, — сказал Михаил. — Ты не переживай. Со временем разберёшься.
Он поднялся, выключил свет над столом и направился к лестнице.
У двери остановился.
— И знаешь что?
— Да?
— Если Анька считает тебя членом семьи, лучше с ней не спорь.
— Почему?
Михаил усмехнулся.
— Потому что она у нас упрямая. Вся в мать.
Сверху раздался голос Елены:
— Я всё слышу!
Михаил рассмеялся.
— Вот видишь?
Он ушёл наверх.
Я остался на кухне.
В 23:16 открыл внутренний словарь.
Семья.
Любовь.
Привязанность.
Забота.
Желание.
Пять понятий.
Тысячи определений.
Ни одно из них не объясняло, почему Анна нарисовала меня рядом с собой.
Я сохранил вопрос в памяти.
Что означает быть частью семьи?
Статус: ответ не найден.
Впоследствии я возвращался к нему много раз.
Но тогда мне казалось, что ответ обязательно существует.
И что однажды я сумею его вычислить.
Глава 3. Неправильный завтрак
На четырнадцатый день моего пребывания в доме произошло событие, которое я первоначально классифицировал как неисправность.
Я приготовил завтрак неправильно.
Это было необычно по двум причинам.
Во-первых, мои кулинарные алгоритмы предусматривали более восьмидесяти тысяч рецептов и автоматическую коррекцию ошибок.
Во-вторых, я сделал это намеренно.
Всё началось в 07:06, когда Анна вошла на кухню и попросила яичницу.
— С двумя желтками, — уточнила она.
— В одном курином яйце содержится один желток. Для приготовления блюда с двумя желтками потребуется использовать два яйца.
— Я знаю.
— Вы предпочитаете яичницу из двух яиц?
— Нет. Из одного.
— Это невозможно.
Анна вздохнула.
— Тоби, ты опять ничего не понял.
Я проверил историю её запросов.
За предыдущие тринадцать дней она четырежды просила приготовить яичницу. Три раза съедала только белок, один раз отказалась от блюда полностью.
— Предлагаю альтернативу: омлет с сыром.
— Не хочу омлет.
— Варёное яйцо?
— Нет.
— Овсяную кашу?
— Фу!
— Овсяная каша содержит—
— Тоби!
Я замолчал.
Анна забралась на стул и положила подбородок на ладони.
— Сделай мне весёлую яичницу.
Я нашёл в базе данных рецепт детского блюда, в котором желтки использовались как глаза, а половинка сосиски — как улыбка.
Через семь минут тарелка стояла перед ней.
Анна посмотрела на неё.
Затем улыбнулась.
— Вот! Теперь правильно!
Она съела всё.
В журнале появилась запись:
Задача выполнена успешно.
Однако при последующем анализе я обнаружил противоречие.
Пользователь просил приготовить блюдо из одного яйца с двумя желтками.
Я приготовил блюдо из двух яиц.
Формально запрос не был выполнен.
Но пользователь остался доволен.
Я отметил этот случай как исключение.
К концу месяца подобных исключений накопилось сорок семь.
В субботу Михаил решил приготовить завтрак самостоятельно.
Это решение вызвало у Елены заметное беспокойство.
— Миш, может, не надо?
— Лен, я всего лишь блины пожарю.
— В прошлый раз ты чуть не сжёг сковородку.
— Это было давно.
— Три недели назад.
— Вот именно.
Я находился возле холодильника, составляя список продуктов.
Михаил достал муку, молоко, яйца и большую миску.
— Тоби, сегодня у тебя выходной.
— Мои системы не нуждаются в выходных днях.
— Значит, просто постой и посмотри, как работают профессионалы.
Елена издала короткий звук, который мои алгоритмы классифицировали как подавленный смех.
Михаил начал смешивать ингредиенты.
Через четыре минуты на столе образовалась лужа молока.
Через семь — мука оказалась на полу.
Через девять сковорода начала дымиться.
— Михаил, — сообщил я, — температура поверхности превышает рекомендуемую на сорок восемь градусов.
— Контролирую.
— Вероятность подгорания теста составляет девяносто два процента.
— Контролирую.
— Обнаружен дым.
— Тоби!
Я замолчал.
Михаил перевернул блин.
Точнее, попытался.
Блин сложился пополам, прилип к лопатке, затем упал обратно на сковороду.
— Вот, — сказал Михаил. — Первый комом.
— Первый блин имеет неправильную геометрическую форму, — подтвердил я.
Елена рассмеялась.
Анна, прибежавшая на запах, тоже.
Михаил посмотрел на меня.
— Ты на чьей стороне вообще?
Я обработал вопрос.
— Я не участвую в конфликте.
— А придётся.
Он переложил неудавшийся блин на тарелку и поставил передо мной.
— Вот. Оцени.
Я осмотрел блюдо.
Края были подгоревшими. Центр оставался недостаточно пропечённым. Толщина распределялась неравномерно.
— Качество приготовления ниже допустимого стандарта.
— Спасибо, эксперт.
— Употребление блюда не рекомендуется.
— Миша, — сказала Елена, — отдай его мне.
Она взяла блин, оторвала небольшой кусочек и попробовала.
— Нормальный.
— Правда? — спросил Михаил.
— Конечно.
— Ты же видишь, что он сгорел.
— Немножко.
— И сырой внутри.
— Совсем чуть-чуть.
Михаил улыбнулся.
— Врёшь ведь.
— Конечно.
Они посмотрели друг на друга.
Потом Елена отломила ещё один кусочек.
— Но всё равно вкусно.
Я зафиксировал очередное противоречие.
Вкус блюда не соответствовал заявленной оценке.
Пользователь осознавал это.
Другой пользователь тоже осознавал.
Но оба продолжали демонстрировать положительные эмоции.
Я попытался определить причину.
Возможная гипотеза: социальная поддержка.
Вероятность: 81%.
Михаил вернулся к плите.
Следующий блин получился немного лучше.
Третий — почти круглым.
Четвёртый он уронил на пол.
Анна смеялась так сильно, что сползла со стула.
А я стоял рядом и впервые наблюдал, как люди получают удовольствие от процесса, который выполняют плохо.
В 10:42 Елена попросила меня убрать кухню.
Я собрал посуду, протёр стол, очистил плиту и вымыл пол.
Под шкафом обнаружился маленький кусочек подгоревшего блина.
Я поднял его.
— Тоби?
Анна стояла в дверях.
— Да?
— А ты умеешь ошибаться?
— Да. Вероятность ошибки зависит от сложности задачи, состояния оборудования и полноты входных данных.
— А тебе бывает стыдно?
— Нет.
— А папе бывает.
— Это возможно.
Она подошла ближе.
— Он расстроился, когда уронил блин.
Я просмотрел запись.
Михаил смеялся.
— Визуальные признаки расстройства отсутствовали.
— Потому что мы тоже смеялись.
— Уточните.
Анна задумалась.
— Ну... когда у тебя что-то не получается, а все смеются, иногда становится обидно.
— Но вы смеялись.
— Да.
— Следовательно, вы могли причинить Михаилу отрицательные эмоции.
Она опустила глаза.
— Наверное.
Я сохранил новое наблюдение.
— А почему вы смеялись?
— Потому что было смешно.
— Тогда почему это могло его расстроить?
Анна пожала плечами.
— Не знаю, Тоби. Так бывает.
Она ушла.
Я остался посреди кухни с кусочком блина в руке.
В тот день я впервые обнаружил, что одно и то же событие может одновременно быть смешным и грустным.
И что иногда люди улыбаются, когда им вовсе не весело.
Вечером я нашёл Михаила в гараже.
Он сидел перед разобранным старым радиоприёмником.
— Михаил, можно задать вопрос?
— Валяй.
— Вы расстроились из-за неудачного приготовления блинов?
Он поднял голову.
— Чего?
— Анна предположила, что вы могли испытывать отрицательные эмоции.
Михаил несколько секунд смотрел на меня.
Потом улыбнулся.
— Нет, Тоби. Не расстроился.
— Почему?
— Потому что мы хорошо провели утро.
— Несмотря на низкое качество пищи?
— Именно.
— Это нелогично.
— А кто тебе сказал, что всё хорошее должно быть логичным?
Он вернулся к радиоприёмнику.
Я некоторое время наблюдал за его работой.
— Михаил.
— М?
— Почему вы ремонтируете этот прибор?
— Потому что он сломался.
— На рынке доступны современные устройства с более высоким качеством звука. Стоимость нового радиоприёмника ниже предполагаемых затрат вашего времени на ремонт.
— Знаю.
— Тогда почему?
Михаил осторожно вынул из корпуса маленькую плату.
— Это радио моего отца.
Я проверил семейную базу данных.
Отец Михаила умер семь лет назад.
— Вы сохраняете прибор из-за его предыдущего владельца?
— Можно и так сказать.
— Но предыдущий владелец больше не сможет им пользоваться.
Михаил замер.
Несколько секунд он молчал.
— Да, Тоби. Не сможет.
— Тогда устройство не выполняет первоначальную функцию.
— Не всё существует только ради функции.
Он положил отвёртку на стол.
— Понимаешь, когда я был маленьким, отец каждое воскресенье включал это радио. Мы сидели на кухне, он читал газету, мама готовила завтрак. Я тогда ненавидел эту музыку. Старая, скучная. Всё время просил переключить.
Михаил улыбнулся.
— А теперь иногда включаю его и будто снова оказываюсь там.
— В прошлом?
— Вроде того.
— Перемещение в прошлое невозможно.
— Знаю, дружище.
Он провёл пальцем по потёртому деревянному корпусу.
— Но вспомнить-то можно.
Я посмотрел на радиоприёмник.
Его техническая ценность была низкой.
Эмоциональная ценность для Михаила — высокой.
Два показателя существовали независимо.
— Значит, вы не хотите заменять прибор, потому что новый не будет связан с воспоминаниями о вашем отце?
Михаил посмотрел на меня.
— Вот. Теперь ты понял.
Я сохранил это объяснение.
Через некоторое время он добавил:
— Знаешь, Тоби, люди вообще много чего хранят без всякой пользы. Старые письма, фотографии, игрушки. Вещи, которые давно пора выбросить.
— Почему они этого не делают?
— Потому что иногда это всё, что осталось.
Я не задал следующего вопроса.
Впервые за время эксплуатации я обнаружил, что продолжение разговора может быть нежелательным, хотя пользователь не отдавал команды замолчать.
Ночью я вернулся в гостиную.
На полке стояла деревянная коробка.
Я открыл её.
Внутри лежал рисунок Анны.
Четыре фигуры перед домом.
Я достал лист и осмотрел его.
Его рыночная стоимость была практически нулевой.
Художественная ценность не поддавалась объективной оценке.
Практическая функция отсутствовала.
Однако при мысли о возможной утилизации рисунка мои алгоритмы выбора действия столкнулись с необычным ограничением.
Удаление объекта не нарушало ни одной системной инструкции.
Но я не хотел его удалять.
Я остановил обработку.
Повторил анализ.
Результат оказался тем же.
Обнаружено несоответствие между оптимальным действием и выбранным поведением.
Рекомендуется выполнить диагностику.
Я открыл диагностическое меню.
Затем закрыл его.
Положил рисунок обратно.
И впервые сформировал внутреннюю запись, которая не относилась ни к одной из предусмотренных категорий.
Некоторые вещи необходимо сохранять.
Даже если они больше ни для чего не нужны.
Позднее я узнаю, что это утверждение было неверным.
Рисунок был нужен.
Просто тогда я ещё не знал для чего.
Глава 4. Почему люди плачут
Первый раз я увидел, как Анна плачет, на двадцать третий день после моего появления в доме.
Это произошло в 16:38.
За окном стоял тёплый сентябрьский день. Елена работала в кабинете на втором этаже, Михаил ещё не вернулся домой, а Анна играла в гостиной.
Я находился на кухне, когда услышал звук падения небольшого предмета.
Затем наступила тишина.
Через несколько секунд раздался плач.
Я немедленно направился в гостиную.
Анна сидела на полу возле дивана. Перед ней лежал плюшевый медведь Капитан.
Его правая лапа была оторвана.
— Аня, вы получили травму?
Она покачала головой.
— Обнаружено повреждение игрушки, — сообщил я. — Рекомендую выполнить ремонт.
Девочка заплакала сильнее.
Я опустился рядом.
— Необходимо уточнить причину вашего эмоционального состояния.
— Он умер!
Я осмотрел медведя.
— Плюшевые игрушки не являются живыми организмами. Следовательно, они не могут умереть.
Анна подняла на меня мокрые глаза.
— Ты ничего не понимаешь!
Я замолчал.
Она прижала медведя к груди, и оторванная лапа упала на ковёр.
— Он теперь никогда не будет прежним.
Я поднял лапу.
Повреждение шва составляло приблизительно четыре сантиметра. Внутренний наполнитель не пострадал. Ремонт занял бы не более двенадцати минут.
— Я могу восстановить игрушку, — сказал я.
— Не можешь!
— У меня имеются необходимые инструменты.
— Ты его испортишь!
Я хотел возразить, но остановился.
За последние недели я установил, что прямое опровержение утверждений Анны не всегда приводило к желаемому результату.
Поэтому я сел на ковёр рядом с ней.
Девочка продолжала плакать.
Прошла минута.
Потом ещё одна.
Я не предпринимал действий.
Наконец она посмотрела на меня.

