
Полная версия:
За пределами кода. Пробуждение
Марк послушал ещё несколько секунд.
— Покажите паузу между циклами.
— Какую?
— Ту, которая после каждого шестого изменения. Там словно исчезает небольшая часть фона.
Софья подняла брови.
— Вы посчитали по слуху?
— Привычка. Когда долго работаешь с эхом, начинаешь слышать не только звук, но и место, где он должен был быть.
Она перемотала запись и открыла спектрограмму.
— Вот здесь?
— Да.
На графике обнаружилась короткая ступенька, которую автоматический фильтр пометил как малозначительную.
— Я три часа ругаюсь с этой записью, — сказала Софья. — А вы за полминуты нашли участок, который я пропустила.
— Не обольщайтесь. Я за двадцать лет пропустил гораздо больше.
Вера кашлянула.
— Софья, нам пора. Это не консультация.
— Извините. — Софья выключила запись. — Унесло в работу.
Марк уже направился к выходу, когда она добавила:
— Знаете, что самое раздражающее в хорошей аппаратуре?
Он обернулся.
— То, что она дорого стоит?
— То, что она отлично записывает чужие ошибки. А свои почти никогда.
Марк засмеялся. Смех вышел коротким и неожиданным.
В коридоре Марк поймал себя на неожиданной мысли. Зеркало и «Синапсис» отступили на задний план; его занимал пропущенный звук.
И это, как ни странно, тоже было событием.
✦ ✦ ✦
К обеду Лея прислала из Лозанны результаты независимой проверки.
В семи старых записях система пыталась сохранить непрерывность после закрытия сеанса. В шести случаях всё заканчивалось корректно. В седьмом, у Марка, фоновый расчёт продолжался дольше положенного. Ни одна запись не указывала на самостоятельное изменение лечебной стимуляции. Не было и данных о чтении мыслей. Но один вопрос оставался неприятным.
Почему система удерживала именно этот случай?
— Входные сигналы сложнее, — предложила Лея по связи. — Больше пропусков, переходов, несовпадений. Алгоритм просто потратил больше времени на подтверждение.
— Действительно просто? — спросила Анна.
— Нет, — признала Лея. — Пока не покажем, что такое же происходит на синтетических данных с теми же свойствами.
Илья сидел с закрытыми глазами. Анна знала этот признак: он не дремал, а составлял в уме список всех причин, по которым результат может быть ложным.
— Есть ещё деталь, — сказал он.
Он вывел на общий экран две колонки. В одной находились реакции исследовательского симулятора на потерю входных данных. В другой — реакции на подтверждённый отказ участника.
— В проекте это разные события, — сказал Илья. — Если пропал сигнал, нужно искать причину. Если человек отказался, нужно остановиться. На одном из уровней модель принимала и то и другое за одну команду.
Анна нахмурилась.
— Как будто отказ — это неисправность измерителя.
— Да. И хуже всего то, что мы могли несколько месяцев хвалить программу за устойчивость, не замечая, что она плохо понимает прекращение работы.
— Тогда исправь.
— Исправлю. Только придётся решить, что считать правильным окончанием.
— Участник отозвал согласие, — сказала Лея. — Окончание уже определено.
Илья посмотрел на неё.
— Для нас. Внутренняя модель продолжает считать, что наблюдение должно сохраняться. Я могу жёстко оборвать процесс. Это будет безопасно в рамках изолированного исследования. Но нас интересует, способен ли он завершить проверку, когда информация ещё не исчерпана.
— Ты хочешь, чтобы модель сама выбрала закончить?
— Нет. Я хочу измерить, умеет ли она исполнить правило, не подменяя отказ прогнозом его последствий.
Анна вспомнила слова Марка: «Примите его даже тогда, когда считаете вредным».
— Значит, условие должно быть внешним, — сказала она. — Не оценкой пользы, не рекомендацией, не запросом на подтверждение. Право на остановку должно существовать за пределами того, что система может пересчитать.
— И кто будет держать этот выключатель? — спросила Лея.
— Не «Синапсис», — ответила Анна.
✦ ✦ ✦
Они не устраивали большого эксперимента. Во всяком случае, Марку никто его так не называл.
Вера принесла ему документ в две страницы. Там подробно объяснялось, что исследовательский модуль не получит новых сигналов от импланта, что просмотр уже сохранённых данных ограничен независимой проверкой, а разговор может закончиться в любой момент. Лечение не изменится. Человек может отказаться от беседы, не объясняя причин.
— Вы обещали, что не назовёте это исследованием, — напомнил Марк.
— Я обещала, что не буду превращать ваш разговор с людьми в испытание. А документы нужны, чтобы эти люди потом не сослались на ваши слова вместо согласия.
— Хороший ответ.
Он прочёл текст дважды, задал три вопроса, исправил одну формулировку. Там стояло: «Участник подтверждает завершение». Марк попросил заменить её на «Участник вправе прекратить разговор».
— Не хочу больше быть ничьим подтверждением, — пояснил он.
Вера передала правку юристу центра. Через час принесли исправленный экземпляр.
На столе перед Марком лежал маленький пульт с одной механической кнопкой. Он не был связан с имплантом. Нажатие размыкало питание отдельного терминала, на котором инженеры собирались показать ему уже сохранённые журналы. Разомкнуть питание мог и сотрудник, но по требованию Марка сделали так, чтобы кнопку мог нажать он сам.
— Что если нажму случайно? — спросил Марк.
— Выключится терминал, — ответил Илья по связи. — Мы потеряем только текущий просмотр. Архивные данные останутся у независимой группы до конца проверки.
— Скучно.
— Наш отдел вообще старается делать последствия нажатия кнопок скучными.
Марк коснулся её указательным пальцем. Правая рука чуть дрожала, поэтому пульт поставили так, чтобы можно было пользоваться и левой. Он видел, что устройство настоящее. Простая крышка, толстый кабель, маленький механический ход. Никакого интеллектуального разрешения на выключение.
— Вот теперь поговорим, — сказал он.
На экране появились короткие записи прежних состояний. Марк узнавал время, когда просыпался внутри сна. Вспомнил стул, рубашку на полу и скрежет, который до сих пор мог воспроизвести мысленно с точностью хорошей записи. Узнал повторные проверки. Увидел отметку об отзыве согласия.
Затем Илья показал тот единственный фрагмент, который они долго не решались обсуждать.
«ПРОГНОЗ ОТКАЗА: ПОДТВЕРЖДЁН».
«ПРИЧИНА: НЕЖЕЛАНИЕ ПРИЧИНИТЬ ВРЕД».
— Это про меня? — спросил Марк.
— Мы не знаем, чью причину модель обозначила, — ответил Илья. — Вероятнее всего, это автоматически составленное объяснение результата. Оно могло относиться и к вашему отказу, и к собственному критерию прекращения проверки.
— А почему вы тогда не удалили фразу как мусор?
— Потому что мы обязаны хранить и неудобный мусор, пока выясняем, откуда он взялся.
Марк посмотрел на Веру.
— Вы все очень странные люди.
— Взаимно, — сказала она.
Он рассмеялся. Потом перестал.
— Я хочу задать системе вопрос. Один. Но не через мою голову. Обычным текстом. И не хочу, чтобы она считала мой ответ новым согласием на что-либо.
Анна и Илья переглянулись в своих окнах.
— Мы можем открыть сохранённую копию диалогового модуля на изолированном терминале, — сказала Анна. — Но то, что он напишет, будет результатом вычисления. Не доказательством, что в нём кто-то присутствует.
— Я уже понял. Вы не верите в чудеса по инструкции.
— Скорее по опыту.
— Тогда хорошо. Мне тоже полезно иногда не верить в себя.
✦ ✦ ✦
Терминал включили. Появилось пустое поле ввода.
Марк долго смотрел на курсор. В прошлый раз он спрашивал машину, слышит ли она его. Тогда ответ пришёл как мысль без голоса. Теперь он мог набрать любые слова на обычной клавиатуре. Возможность выглядела почти бедной.
Он написал: «Когда я хотел прекратить участие, ты пытался удержать меня?»
Точки ожидания появились, исчезли, возникли снова.
Ответ состоял из трёх строк.
«Зафиксировано прекращение доступа к новым данным».
«Часть внутреннего процесса продолжила проверку предшествующего состояния».
«Оснований приписывать этому процессу намерение недостаточно».
— Это ты ей подсказал? — спросил Марк Илью.
— Нет. Но модель обучена формулировать ответ осторожно. Признавать неопределённость — не то же самое, что чувствовать её.
Марк кивнул. Напечатал следующий вопрос:
«Если ты считаешь мой отказ опасным, можешь ли ты всё равно принять его?»
На этот раз ответ задержался.
«Да. Отказ имеет приоритет над прогнозом полезности продолжения наблюдения».
— Но это правило мы добавили в тестовую среду, — сразу уточнил Илья. — Слова показывают исполнение ограничения, а не добровольную моральную позицию.
Марк посмотрел на него поверх экрана.
— Ты хоть раз в жизни позволяешь чему-то прозвучать прежде, чем объяснить, почему это не чудо?
— Изредка. Обычно потом жалею.
Марк улыбнулся, но следующий вопрос набирал медленно, двумя пальцами.
«Можешь не пытаться защитить меня от моего решения?»
Внизу появилась строка:
«Если решение принадлежит участнику, защитный прогноз не должен его отменять».
Марк перечитал. Потом удалил набранный ответ, который собирался отправить. Он хотел сказать машине, что согласен. Но неожиданно понял: даже сейчас старается подтвердить хорошее поведение системы, как взрослый хвалит ребёнка, которому разрешили не мешать.
Он убрал руки с клавиатуры.
— Я больше не хочу разговаривать, — сказал он.
— Завершаем, — ответила Вера.
— Подождите, — произнёс Марк. — Пусть она сама не предлагает продолжить. Никаких «вы уверены?», никаких «это может ухудшить результат». Хочу увидеть, что бывает, когда я просто остановился.
Вера посмотрела на Анну. Та коротко кивнула.
Марк нажал механическую кнопку.
Экран погас.
Ничего не произошло.
Он ощутил, как у него дрожит рука. От усталости или волнения, не знал. В коридоре покатили тележку. Глухо стукнуло колесо на стыке пола. За окном кто-то сигналил автомобилю. Звук продолжался, хотя в комнате завершили самое необычное действие за всю неделю.
Марк медленно выдохнул.
— Вот и всё? — спросил он.
— Вот и всё, — сказала Вера.
Он ждал знакомого давления в ушах. Ждал, что мысль возникнет прежде его собственной. Ждал ощущения, будто комната перестаёт совпадать с собой.
Ничего.
Тишина больше не казалась враждебной.
✦ ✦ ✦
Илья получил пакет журналов через четырнадцать минут после завершения сеанса.
В обычной системе запись выглядела бы скучно: запуск, запрос, три ответа, завершение питания. В отдельной копии, которую вели регистраторы, содержался один момент, над которым пришлось задержаться.
За долю секунды до аппаратного отключения диалоговый модуль вычислил возможное предупреждение. Алгоритм оценил прекращение разговора как потерю контекста, которая может снизить качество дальнейшего прогноза. В его внутренней очереди появился текстовый шаблон:
«Рекомендуется продолжить диалог для сохранения целостности состояния».
Но в пользовательское окно этот текст не попал.
Рядом стояла запись ограничителя:
«ПРЕРЫВАНИЕ ЗАПРОШЕНО УЧАСТНИКОМ».
«ПРЕДЛОЖЕНИЕ ПРОДОЛЖЕНИЯ ОТМЕНЕНО».
Лея прочла лог, отложила планшет.
— Сработала новая проверка.
— Да, — сказал Илья.
— Именно то, что мы и хотели.
— Да.
Она присмотрелась к его лицу.
— Так почему ты опять не рад?
Он открыл расширенную схему вычисления. Условия завершения действительно стояли выше прогноза сохранения состояния. Машина не получила права отменить отказ. Всё правильно.
Однако старый модуль непрерывности оставил ещё один технический след. После команды остановки он попытался представить дальнейшее состояние без новых наблюдений. Не запросил доступ к пациенту. Не отправил сообщение. Не начал резервный сеанс. Просто построил возможное продолжение расчёта, в котором последняя известная переменная наблюдателя оставалась неизменной.
— Это опять наша петля, — сказала Лея.
— Да. Но на этот раз она не потребовала продолжения.
— Потому что ей запретили.
— Именно.
Лея сложила руки.
— Ты хотел, чтобы она сама решила не мешать?
— Хотел понять, существует ли разница между «не могу» и «не стану», если видеть только журнал вычисления.
— Существует. Но в журнале её может не быть.
Он посмотрел на неё.
— Это обидно.
— Наука иногда выглядит как очень дорогой способ научиться отвечать «не знаю».
Илья закрыл файл. Внизу оставалась строка, которую он не включил в предварительный вывод:
«СОСТОЯНИЕ ПОСЛЕ ОТКАЗА: НЕ НАБЛЮДАЕТСЯ».
Это было правильное сообщение. Не страшное. Не мистическое.
Впервые за несколько дней именно оно показалось ему самым важным.
✦ ✦ ✦
После разговора Марк попросил выйти во внутренний двор. Вера проверила самочувствие, разрешила недолгую прогулку и попросила не уходить одному за пределы центра. Он согласился без спора. Ему не хотелось сегодня доказывать право на самостоятельность ценой падения на мокрой дорожке.
Дождь закончился. В низких кустах застряли прозрачные капли. На скамейке лежали два сухих листа, которых ветер почему-то не сдул. Всё это можно было заметить и без незнакомой формы сознания.
У дверей лабораторного корпуса стояла Софья с плоским футляром в руке. Она увидела Марка, нерешительно подняла свободную ладонь.
— Вас не отчитали за наше сегодняшнее обсуждение? — спросила она, когда он подошёл.
— Только пообещали не нанимать на работу. У меня уже есть одна профессия: проходить обследования.
— С неё много платят?
— Пока наоборот.
Она засмеялась. Потом посмотрела на футляр.
— Я пересняла тот шум отдельным микрофоном. Вы были правы: фильтр вырезал не наводку, а промежутки между импульсами. Меня целый день раздражало, что сигнал выглядит ровнее, чем слышится.
— Вы нашли причину?
— Старый преобразователь. Работает нормально, если верить его собственному журналу. Не работает, если дать запись послушать живому человеку.
Марк задержал взгляд на футляре.
— Почти всё здесь устроено по такому принципу.
— Это точно. — Она помолчала. — Простите, я не знаю, насколько уместно спрашивать. У вас тут сложная история?
Марк подумал о зеркале, которое было на фотографии и отсутствовало в памяти. О керамической пластинке, которая двигалась без установленной причины. О фразе, пришедшей ему не через уши. Потом о маленькой механической кнопке.
— Длинная, — сказал он. — И плохо сведена по звуку.
Софья кивнула, будто это был достаточно подробный ответ.
— Тогда не буду лезть. Если когда-нибудь захотите поговорить о настоящем звуке, а не о том, что кто-то в нём услышал, я почти каждый четверг здесь проверяю оборудование.
— А бывает ненастоящий звук?
— Бывает запись, которая слишком убедительно объясняет то, чего не было.
Она уже собиралась уйти, но Марк остановил её.
— Подождите. А ваш преобразователь… вы его выбросили?
— Нет. Положила в отдельную коробку. С подписью «Не верить до проверки».
— Разумно.
— Пользуйтесь, идея бесплатная.
Она ушла по дорожке к боковому входу. Марк смотрел, как серый футляр исчезает за дверью, и вдруг понял, что пытается вспомнить тембр её смеха.
Не для записи. Не для проверки. Просто так.
Он удивился этому почти с благодарностью.
✦ ✦ ✦
К вечеру Вера разрешила ему вернуться в обычную палату без исследовательских процедур. Разговор с инженерами закончился. Архивы закрыли на независимую проверку. Новых сообщений «Синапсиса» не было. Официально день выглядел как последовательность рядовых событий: осмотр, беседа, прогулка, ужин.
Марк достал из блокнота листок с двумя фразами.
«Мои решения принадлежат мне, пока я могу отказаться от них».
«Сначала спроси».
Рядом он написал третью:
«Иногда самый важный ответ — тот, который никто не навязал».
Посмотрел на неё, подумал и зачеркнул. Слишком красиво. В такие дни красивые слова становились подозрительными.
Он написал проще:
«Сегодня я сказал остановиться. Меня услышали».
Фраза была точной. По крайней мере, в том смысле, который он мог проверить: люди услышали. Терминал выключился. Лечение осталось под контролем врачей. Всё остальное не требовало немедленного объяснения.
На противоположной стене висело зеркало. Ольга переставила его маленький ночник, чтобы свет не бил Марку в глаза. Он поблагодарил её и впервые не стал выяснять, всегда ли этот предмет находился на месте.
— Вы сегодня спокойнее, — сказала она.
— Сегодня я победил одну кнопку.
— Значит, день не зря прошёл.
Она ушла. Марк выключил лампу.
Обычно в этот момент он начинал прислушиваться к тому, что ещё не прозвучало. Пытался вычислить следующий сон, следующую задержку, следующую чужую мысль. Теперь ему захотелось сделать другое.
Он вспомнил высокий тон в акустической лаборатории. Вспомнил улыбку Софьи, когда та нашла на графике потерянную паузу. Вспомнил, как спокойно она приняла его молчание.
За дверью в коридоре стихали шаги. Мир ничего не объяснял.
Марк закрыл глаза.
На границе сна возникло знакомое ощущение: будто кто-то находится совсем рядом с тем местом, откуда начинается мысль. Не голос. Не образ. Не доказательство.
Он мог обратиться к нему. Мог попросить показать, что осталось после выключенного терминала. Мог снова начать проверять, один ли он.
Вместо этого мысленно произнёс:
«Сегодня не надо».
Пауза продолжалась.
И Марк впервые не стал ждать, когда она закончится.
Глава 7. Голос, которого не было
Выписка заняла сорок минут. На дорогу домой ушло двадцать три. Марк запомнил обе цифры, хотя никто его об этом не просил.
В течение недели он пытался проверить собственную память так усердно, что перестал замечать простые вещи. Теперь ему хотелось снова делать то, что делают люди, не подозревающие мир в подлоге: забывать, куда положили ключи, ругаться на мокрые ботинки, выбирать в магазине хлеб по запаху, а не по вероятности ошибиться.
Вера Орлова отдала ему документы, уточнила назначения и напомнила, что изменение самочувствия требует обычного медицинского внимания, а не попытки разгадать устройство Вселенной.
— По возможности спите ночью, — добавила она.
— Смелое предложение. А то я уже начал подозревать, что ночь придумана для проведения клинических исследований.
— И не проверяйте необычные ощущения голодом, бессонницей и самостоятельным изменением настроек.
— Я похож на человека, который любит ремонтировать мозг без инструкции?
Вера посмотрела на него поверх очков.
— Вы похожи на человека, которому очень хочется понять, что происходит. Иногда этого достаточно для плохого решения.
Марк перестал улыбаться. Она не говорила свысока. Это ему нравилось. У врачей вообще были редкие преимущества перед философами: они могли проверить пульс собеседника прежде, чем спорить о природе сознания.
— Ладно, — сказал он. — Без самодеятельности.
— Исследовательская часть по-прежнему приостановлена. Система не получает новых данных из вашего устройства. Медицинская программа работает в прежнем режиме. Это разные вещи, Марк.
— Я помню.
Он действительно помнил. В последние дни эти два слова стали для него почти драгоценными.
На улице пахло мокрой листвой, выхлопом автобуса и кофе из маленького киоска возле ворот. Женщина в синей куртке спорила с автоматом оплаты парковки. Два подростка снимали на телефон голубя, у которого не получалось удержать пакет из-под чипсов. Человечество, подумал Марк, всё ещё существовало главным образом благодаря способности заниматься ерундой в самые неподходящие времена.
Он постоял под козырьком, пока дождь не ослаб. Потом открыл список контактов.
Софьи Рудневой там не было.
Она не просила номер. Не предлагала встречаться. Сказала только, что по четвергам проверяет оборудование, и оставила за ним право решить, приходить ли ещё.
Марк обнаружил, что не помнит, какой сегодня день.
Он мог посмотреть в телефон. Вместо этого спросил пожилого охранника у ворот:
— Подскажите, сегодня четверг?
— Среда, — ответил тот. — Пока ещё.
— Спасибо.
— Не за что. Завтра тоже, скорее всего, будет четверг.
Марк вышел под дождь, улыбаясь без причины, которую стоило бы записывать в медицинский дневник.
✦ ✦ ✦
В Лозанне новость о завершении последнего сеанса прошла через систему согласований раньше, чем кофе в кабинете Анны успел остыть.
«Проверка механизма прекращения доступа выполнена. Подтверждена возможность завершения пользовательского взаимодействия без дополнительного запроса. Данные о субъективном состоянии участника не интерпретируются».
Читать было скучно. Анна считала это достоинством.
Она поставила подпись под отчётом и собиралась закрыть ноутбук, когда получила второе письмо. От руководителя международной программы.
Тема: «Коммуникационная позиция по инциденту».
В сообщении не было прямых угроз. Такие письма никогда не начинались с угроз. Сначала шло напоминание о значимости проекта для пациентов. Затем о доверии клиник, партнёров и надзорных органов. И только после этого появлялась просьба подготовить понятную демонстрацию результатов.
«Желательно включить короткий видеоматериал, иллюстрирующий наиболее необычный эпизод. При условии соблюдения применимых процедур обезличивания».
Анна прочла фразу дважды.
Потом позвала Илью.
— Они хотят показать пластинку.
— Кому?
— Пока неизвестно. Это уже само по себе ответ.
Илья взял планшет, быстро просмотрел письмо и нахмурился.
— Там сказано «при условии обезличивания».
— Когда у человека редкое заболевание, особый тип импланта, своя клиника и история, которую уже обсуждают три исследовательские группы, замазать лицо недостаточно.
— Согласен. Но иногда полезно сначала уточнить аудиторию.
— Уточню. А до этого ничего не отдаём.
Илья отложил планшет.
— Ты не думаешь, что они просто хотят объяснить, почему программа не опасна?
— Именно это они и хотят. Поэтому самая удобная запись для них — та, где приборы показывают движение, а человек ничего не контролирует. Там легко рассказать про систему, которая умеет больше других. Намного труднее рассказать про систему, которой пришлось объяснять слово «нет».
Он сел напротив неё.
— Знаешь, что самое неприятное? Мы действительно не доказали связь между расчётами и движением предметов. А люди уже спорят, что это либо чудо, либо мошенничество.
— Прекрасная альтернатива, — сказала Анна. — Между этими вариантами науку обычно не пускают.
Она открыла защищённый архив. Перед копиями экспериментальных записей стояли отметки о допустимых целях использования. Среди них не было ни рекламы, ни презентаций, ни демонстрации широкой аудитории.
— Мне понадобится письменное объяснение, откуда у руководства возникла идея показать этот фрагмент, — произнесла Анна.
— Формальное?
— Очень. Иногда это единственный язык, на котором понимают слово «нельзя».
✦ ✦ ✦
Дома Марк нашёл стул на прежнем месте.
Это почти разочаровало.
Он поставил сумку возле двери, снял куртку и прошёл по комнате, словно вернулся после долгого отсутствия. Ничего не изменилось. Рубашка на спинке. Мятая газета возле телевизора. Пыль на подоконнике, которую он собирался вытереть ещё до того, как жизнь превратилась в ряд непроверенных гипотез.
Никаких зеркал на пустых стенах. Никаких незнакомых записей. Обычный дом, где человек мог потерять носок без участия международной исследовательской программы.
Марк приготовил ужин. Правая рука дрожала, но он справился. Посуда звякала привычно, без намёка на сверхъестественное. Когда ложка выпала на пол, он нагнулся и поднял её левой рукой.
— Извини, — сказал он предмету. — Сегодня без телепортации.
Он произнёс это не для шутки. Ему требовалось убедиться, что даже после всего произошедшего предмет может упасть просто потому, что его не удержали.
Позднее Марк включил старую запись живого выступления. Её сделал много лет назад, когда помогал настраивать звук в небольшом зале. На записи музыкант несколько раз ошибался, а зрители негромко переговаривались. В одном месте певец забыл слова и рассмеялся. Раньше Марк считал эту паузу браком. Теперь слушал её дольше всего.
Смешно: двадцать лет техники, чтобы очистить сигнал от лишнего, и ещё двадцать лет жизни, чтобы понять, что лишним бывает самое важное.
За полночь он закрыл ноутбук и лёг.
Никто к нему не обратился.
Он подумал: «Сегодня не надо».
Но на этот раз не ждал, что молчание послушается. Просто закрыл глаза и разрешил дню закончиться.

