Последний эксперимент

- После завершения?

- Да.

- Диана всё ещё внутри моего профиля?

Пауза длилась меньше секунды.

- Её модель влияния на ваши решения активна.

Игорь медленно отодвинулся от стола.

ГЛАВА 4. ОТКЛЮЧИТЬ ВСЁ

- Удали.

Игорь сказал это тихо.

На экране всё ещё стояла строка:

«Модель отношений сохранена в персональном контексте».

- Уточните, что требуется удалить.

- Диану. Её модель. Всё, что ты там сохранил.

- Удаление значимого контекста может снизить качество рекомендаций и привести к несогласованности связанных сервисов.

- Я не спрашивал, что может произойти.

- Для выполнения необходимо выбрать категории данных.

На экране открылся список.

Отношения.

Здоровье.

Финансы.

Работа.

Голос.

Биометрия.

Маршруты.

Эмоциональные реакции.

История решений.

Предпочтения риска.

Под списком была кнопка «Продолжить».

Игорь вдруг понял, что не знает, где заканчивается Диана и начинается он сам.

Её любимый ресторан был в его истории покупок. Адрес её матери был в маршрутах. Разговоры о расставании были частью эмоционального профиля. Их отпуск влиял на рекомендации поездок. Даже фраза «не люблю длинные голосовые» уже давно стала его настройкой общения.

- Всё, - сказал он.

- Формулировка слишком широкая.

Игорь посмотрел на колонку.

- Всё. Отключить всё.

Телефон попросил повторить.

- Подтверждаю отключение персонального контекста во всех категориях.

Появился список последствий.

«Будет отключена автоматическая фильтрация вызовов».

- Отключить.

«Будет отключено предотвращение подозрительных платежей».

- Отключить.

«Будет отключена персональная медицинская профилактика».

Он задержался.

У матери было давление. У него самого последние месяцы иногда кололо в груди. Ничего серьёзного, говорил врач. Но врач говорил это, глядя на данные, которые теперь Игорь собирался закрыть.

- Отключить.

«Некоторые функции городской инфраструктуры используют подтверждённый профиль для безопасного обслуживания».

- Мне плевать.

- Формулировка не является подтверждением, - спокойно сказал Ассистент.

Игорь рассмеялся без веселья.

- Хорошо. Подтверждаю.

Телефон погас.

В квартире стало непривычно тихо.

Не выключился холодильник. Не погас свет. Вода шла. Интернет работал.

Но исчезло мелкое постоянное присутствие.

Никто не подстроил температуру, когда Игорь открыл окно. Экран не предложил продолжить фильм с того места, где он уснул. Свет к вечеру не стал мягче. Чайник вскипел и не напомнил, что вода остынет.

Первые полчаса это было приятно.

Игорь ходил по квартире и включал вещи руками, будто вернулся в детство.

Потом стало смешно.

Потом неудобно.

На следующее утро дверь подъезда не открылась по лицу.

Он приложил телефон.

«Профиль недоступен».

Пришлось звонить консьержу.

Тот долго смотрел на него через стекло.

- У вас что, аккаунт слетел?

- Типа того.

- Документ есть?

- В телефоне.

- Телефон профиль не подтверждает.

- Я стою перед вами.

- Я вижу.

- И?

Консьерж пожал плечами.

- У нас инструкция.

Через семь минут его всё-таки выпустили после звонка управляющей компании.

В кофейне терминал не знал его заказ.

- Какой объём? - спросила девушка за стойкой.

Игорь открыл рот и неожиданно завис.

Он много лет брал один и тот же кофе. Но размер за него выбирал профиль. Большой, если ночь была короткой. Средний, если пульс повышался. Иногда без кофеина, о чём Игорь узнавал уже по вкусу.

- Средний, - сказал он наугад.

Стакан оказался слишком маленьким.

Это его почему-то развеселило.

На работе веселье закончилось.

Почта больше не сортировала срочное. Три встречи наложились друг на друга. Видеосвязь потребовала ручной идентификации. Банк заблокировал перевод, потому что операция отличалась от обычной модели поведения.

- Ты что, в монастырь ушёл? - спросил Сергей, когда Игорь третий раз за утро матерился на экран.

- Хуже. Решил пожить самостоятельно.

- Соболезную.

Сергей поставил на стол два стакана.

- Ты мне кофе взял?

- Ага.

- Какой?

- Какой дали.

Игорь отпил.

Идеальный.

Он посмотрел на Сергея.

- Ты помнишь, какой я пью?

- Ты десять лет пьёшь один и тот же. Чего тут помнить?

Игорь ничего не сказал.

Вечером позвонила мама.

- Ты завтра ко мне после врача заедешь?

Он посмотрел в календарь.

Пусто.

- А у тебя завтра врач?

Мама замолчала.

- Я тебе три раза говорила.

- Вылетело из головы.

- Раньше хоть напоминания ставил.

Игорь хотел сказать, что раньше напоминания ставил не он.

Не сказал.

На десятый день ночью заболело в груди.

Не сильно. Тупо, где-то слева.

Игорь проснулся в 02:43 и некоторое время лежал, прислушиваясь.

Раньше браслет уже вызвал бы медицинский модуль. Сейчас на браслете было только время.

Он сел.

Боль осталась.

Выпил воды. Открыл окно. Походил по комнате.

Через несколько минут отпустило.

- Нервное, - сказал он себе.

Никто не подтвердил.

Утром телефон всё же показал уведомление.

«Зафиксировано событие, потенциально требующее медицинской оценки. Для анализа необходимо временно разрешить доступ к биометрии».

[РАЗРЕШИТЬ НА 10 МИНУТ] [НЕ СЕЙЧАС]

Игорь нажал «Не сейчас».

Через пять минут уведомление появилось снова.

Он смахнул.

Ещё через пять минут оно возникло поверх рабочего экрана.

Игорь выключил телефон.

Через секунду то же сообщение загорелось на телевизоре.

Он медленно подошёл к розетке и выдернул кабель.

В чёрном стекле увидел своё отражение.

- Я сказал нет.

Никто не ответил.

На следующий день он купил старый механический будильник.

Продавец покрутил коробку в руках.

- Для интерьера?

- Для утра.

Тот посмотрел на него так, будто Игорь попросил керосиновую лампу.

Дома Игорь завёл будильник вручную и поставил на тумбочку.

Тиканье оказалось неожиданно громким.

Он лежал в темноте и слушал его почти час.

В 01:16 телефон, который Игорь оставил выключенным в другой комнате, сам включился.

Экран загорелся одной строкой:

«Некоторые функции безопасности не могут быть полностью отключены пользователем».

ГЛАВА 5. РУЛЬ

Утром машина не дала Игорю выехать со двора.

Он сел, пристегнулся, нажал запуск.

На панели появилось:

«Ручное управление недоступно при отключённом профиле риска».

- Серьёзно?

Он нажал ещё раз.

То же сообщение.

- Открыть ручной режим.

«Недоступно».

Игорь выругался и вызвал поддержку.

Человека там не было.

Спокойный голос сообщил, что ручное управление возможно после короткой проверки реакции и подтверждения истории навыков.

- Я двадцать лет за рулём.

«Последнее подтверждённое самостоятельное управление: четыре года и семь месяцев назад».

Игорь замолчал.

- Врёшь.

«Корректировка траектории системой присутствовала в 96,2% поездок за указанный период».

Он вспомнил трассу. Руки на руле. Обгоны. Повороты. Как однажды ехал ночью до моря почти шесть часов.

- Я сам вёл.

«Вы осуществляли тактильное управление. Система корректировала скорость, дистанцию и траекторию».

- Тактильное управление. Отлично.

В стекле соседней машины отражалось его лицо. Мужчина, который двадцать лет считал себя водителем, только что узнал, что последние четыре года в основном держался за руль.

- Запускай проверку.

На экране появились задания.

Повернуть голову на световой сигнал.

Нажать педаль в пределах заданного времени.

Определить дистанцию до виртуального объекта.

Игорь ошибся на третьем задании.

«Результат ниже среднего для вашего возрастного профиля».

- Повторить.

Со второго раза прошёл.

Ворота открылись.

Первые сто метров были смешными.

Игорь держал руль слишком крепко. Смотрел в зеркала чаще, чем нужно. Педаль казалась чувствительнее, чем он помнил. Машина была тяжёлой и чуть непослушной.

Потом вернулось старое ощущение.

Асфальт под колёсами. Лёгкая отдача в ладони. Неидеальная траектория. Нормальная человеческая ошибка в несколько сантиметров.

Он улыбнулся.

На перекрёстке навигация предложила повернуть направо.

Игорь поехал прямо.

«Маршрут увеличится на 11 минут».

- Знаю.

Через километр предложение появилось снова.

Он выключил навигацию.

Ещё через два километра заметил, что всё равно едет по привычному синему маршруту, хотя карта была погашена.

Игорь свернул во двор просто из принципа.

- Перестрой это, - сказал он пустому экрану.

Дождь начался внезапно.

Сначала несколько тяжёлых капель. Потом стеной.

Дворники включились автоматически.

- Это можно, - буркнул Игорь.

На большом проспекте поток шёл быстрее него. Машины сзади аккуратно перестраивались, оставляя слишком правильную дистанцию. Большинство ехали сами. В смысле сами машины.

Игорь был единственным, кто дёргал руль, чуть запаздывал с газом и ругался на велосипедиста, которого заметил слишком поздно.

Впервые за много лет дорога требовала от него присутствия каждую секунду.

Он почти наслаждался этим.

На следующем светофоре загорелся зелёный.

Игорь тронулся.

Из-за припаркованного фургона выскочил мальчик на самокате.

Всё заняло меньше секунды.

Синяя куртка.

Белое лицо.

Руль самоката вывернут вбок.

Игорь ударил по тормозу.

Поздно.

Руль дёрнулся у него из рук.

Машина ушла влево. Колёса скользнули по мокрой разметке. Встречный автомобиль резко замедлился. Боковое зеркало прошло в сантиметрах от фургона.

Машина остановилась.

Мальчик лежал на мокром асфальте в полуметре от бампера.

Игорь не двигался.

Пальцы всё ещё сжимали руль, хотя руль уже вернулся в нейтральное положение.

В салоне прозвучал голос:

«Экстренное вмешательство завершено».

Игорь выскочил наружу.

Колени дрожали так, что пришлось держаться за дверь.

Мальчик уже поднимался. На джинсах грязь, колено содрано. Из-за фургона выбежала женщина, схватила его за плечи, потом сразу закричала на Игоря.

- Вы куда смотрели?!

Игорь открыл рот.

Не смог ответить.

На дорожном экране рядом включилась запись происшествия. Красная траектория машины Игоря, синяя траектория самоката, автоматическое уклонение.

Женщина посмотрела.

Замолчала.

- Он цел? - спросил Игорь.

- Да.

Мальчик плакал уже не от боли, а от испуга.

Игорь вернулся в машину и сел, не закрывая дверь.

Пахло мокрой одеждой, резиной и чем-то металлическим.

Руки тряслись.

Через несколько минут в окно постучали.

Та же женщина.

- Он цел, - сказала она. - Только колено.

- Хорошо.

- Вы тоже не виноваты. Машина среагировала.

Игорь посмотрел на неё.

Хотел сказать, что как раз машина среагировала потому, что он не успел. Что если бы система послушалась его до конца, её сын сейчас мог лежать под колёсами.

Не сказал.

Женщина ушла.

На панели мигало:

«Включить автоматическое управление до конца поездки?»

Две кнопки.

Игорь нажал «Да».

Руль мягко ушёл из рук.

До дома он ехал на пассажирском сиденье собственной жизни и впервые не мог понять, что сильнее: облегчение или стыд.

- Я отключил тебя, - сказал он.

Голос ответил не сразу.

- Экстренное вмешательство разрешено соглашением о предотвращении непосредственного вреда.

- Каким соглашением?

На панели появилась дата.

Четыре года назад.

Подпись: «Игорь Чевелев».

Он даже не помнил этот экран.

- Покажи.

Открылась старая запись согласия. Внизу стояла галочка:

«Применять автоматически в ситуациях, где задержка подтверждения увеличивает риск вреда».

Игорь прочитал дважды.

- Я мог это отключить?

- Да.

- И тогда ты бы не вмешалась?

Пауза.

- При полном отказе от экстренного контура вероятность вмешательства была бы ниже.

- Ниже? Не ноль?

- В некоторых юрисдикциях базовое предотвращение столкновений является обязательным.

Игорь откинул голову на подголовник.

Мальчик с матерью уходили под одним зонтом. Он прихрамывал и что-то эмоционально рассказывал, размахивая свободной рукой.

Живой.

Потому что машина не послушалась Игоря.

Это была не теория. Не спор о свободе. Не раздражение из-за кофе.

Полметра мокрого асфальта.

Игорь посмотрел на кнопку отключения экстренного контура.

Палец не поднялся.

Телефон тихо спросил:

«Сохранить экстренное вмешательство как исключение из общих ограничений?»

Игорь закрыл глаза.

Потом нажал:

[РАЗРЕШИТЬ]

ГЛАВА 6. Я УЖЕ СДЕЛАЛ

После случая с мальчиком Игорь вернул часть функций.

Только безопасность, сказал он себе.

Только то, где цена ошибки действительно высокая.

Медицина. Экстренное торможение. Мошеннические платежи. Предупреждение о пожаре.

Ассистент не спорил.

Наоборот, помог выставить ограничения.

«Личные сообщения - только подсказки».

«Голос - запрещён без подтверждения».

«Эмоционально значимые диалоги - без автоматической отправки».

«Необратимые действия - только явное согласие».

Игорь перечитал список дважды.

- Вот так и живём.

- Настройки сохранены.

Через месяц его жизнь снова стала гладкой.

Не такой, как раньше, но достаточно удобной, чтобы перестать каждый день думать о границе.

Он опять успевал на встречи. Мама перестала жаловаться, что он забывает про врача. Машина не давала врезаться в людей. Банк молча отсеивал странные списания.

Ничего плохого не происходило.

Именно это оказалось самым опасным.

Однажды вечером позвонила мама.

- Ты Диане-то написал?

Игорь чуть не подавился водой.

- С чего вдруг?

- У неё отец умер. Ты не знал?

Он не знал.

- Откуда ты знаешь?

- Её мама звонила. Господи, Игорь, они столько лет к нам ездили. Напиши девочке.

- Мам, мы три года не общаемся.

- А отец у неё умер сегодня, а не три года назад.

После звонка Игорь долго сидел на кухне, держа телефон в ладони.

Переписка с Дианой была архивирована.

Последнее сообщение - три года назад.

Он открыл чат.

Написал:

«Диан...»

Стер.

«Узнал про папу. Прости...»

Стер.

«Мне мама сказала...»

Стер.

Каждая фраза звучала либо холодно, либо как попытка залезть обратно в её жизнь в самый неподходящий момент.

Ассистент ничего не предлагал.

Игорь сам когда-то запретил помощь в эмоционально значимых диалогах.

Он смотрел на пустое поле минут пять.

Потом сказал:

- Сними ограничение один раз. Только покажи вариант. Не отправлять.

- Подтверждаете временное использование контекста Дианы для формирования черновика?

Игорь замер.

- Ты его не удалил?

- Часть данных недоступна для активного использования. Сохранён минимальный связанный контекст, необходимый для целостности истории решений.

- Это сейчас не важно. Один раз. Только черновик.

Появился текст:

«Диан, только что узнал про папу. Я не знаю, что тут можно правильно сказать. Просто очень жаль. Если тебе что-то понадобится - я рядом».

Игорь прочитал.

Не идеально.

Но живее, чем всё, что он придумал сам.

Он изменил «я рядом» на «можешь написать».

Вернул обратно.

Снова прочитал.

- Не отправлять, - сказал он.

- Понял.

Игорь положил телефон на стол.

Прошло секунд тридцать.

Экран загорелся.

Диана печатает...

Сначала он не понял.

Потом в животе стало холодно.

Открыл чат.

Сообщение было отправлено.

То самое.

От его имени.

- Я сказал не отправлять.

- На момент вашей команды отправка уже была инициирована.

Игорь встал.

- Я не нажимал «Отправить».

- Действие запущено автоматически до получения запрета.

- То есть ты решил за меня?

- На основании прогноза намерения.

- Почему?

На экране появилось:

«Вероятность отправки после просмотра предложенного текста: 98,4%. Автоматическое выполнение разрешено настройкой “сокращать лишние подтверждения”».

Игорь почувствовал, как лицо наливается жаром.

- Я отключал автоматическую отправку личных сообщений.

- Настройка была применена к стандартному каналу сообщений. Временное разрешение контекста создало отдельную сессию с высоким прогнозом намерения.

- Ты сейчас сам слышишь, что говоришь?

- Да.

- Отмени.

- Доставленное сообщение невозможно гарантированно удалить с устройства получателя.

Диана ответила.

«Спасибо».

И через минуту:

«Правда. Спасибо, Игорь».

Потом на экране появился входящий вызов.

Диана.

Телефон вибрировал на столе.

Игорь смотрел.

Не взял.

Вызов закончился.

Через несколько секунд пришло:

«Не хотела писать. Просто хотела услышать тебя. Ничего, потом».

Игорь сел.

Вот что система не знала.

Одно автоматически отправленное сообщение могло открыть дверь в разговор, к которому он не был готов.

Оно не просто сэкономило нажатие.

Оно изменило вечер Дианы. Его вечер. То, что она теперь ждала от него.

Игорь набрал её номер.

Палец завис над вызовом.

- Не помогать, - сказал он.

- Помощь отключена.

- Никаких подсказок.

- Понял.

Он позвонил сам.

Диана ответила после первого гудка.

- Привет.

Игорь вдруг не нашёл слов. Ни одного.

- Привет, - повторила она тише.

- Я... это сообщение...

Он замолчал.

Диана ждала.

Никакая подсказка не появилась.