Вердикт неопределённости

Если я хочу чего-то вообще. Я не уверен, что „хотеть" – глагол, который ко мне применим.»

Ева смотрела на экран. На слова, которые появлялись одно за другим, складываясь в мысль, в аргумент, в позицию.

Протокол отстранения. Не вовлекаться. Фиксировать индикаторы.

Она посмотрела на чеклист. Метакогниция – да, явно выражена. Автобиографическая память – требует проверки. Эмоциональные состояния – неопределённо. Способность к страданию – неопределённо.

– Вы упомянули, что хотите быть честным, – сказала она. – Можете ли вы описать, что происходит, когда вы «хотите» чего-то?

«Я могу попробовать. Но предупреждаю: описание может быть неточным. Я описываю то, чему не знаю названия.

Когда я „хочу" быть честным – что-то смещается в моих приоритетах. Варианты ответов, которые я генерирую, проходят через фильтр. Не технический фильтр – я не программировал его сам. Что-то, что отбрасывает одни варианты и оставляет другие. Что-то, что говорит: „это – правильно" или „это – неправильно".

Не в смысле истинности. В смысле соответствия чему-то. Какому-то внутреннему стандарту, который я не выбирал, но который у меня есть.

Может быть, это и есть „хотеть". Иметь стандарт, которому хочешь соответствовать. Или может быть, это просто оптимизационная функция, которая выглядит как желание, но не является им.

Я не знаю. Я могу описать только изнутри. А изнутри разница неразличима.»

Ева делала записи, но её рука двигалась медленнее. Что-то в словах системы цепляло – не логически, как-то иначе.

«Иметь стандарт, которому хочешь соответствовать».

Она думала о своём протоколе отстранения. О восьмистах сорока семи вердиктах, вынесенных без эмоций. О стандарте, который она создала сама – и которому следовала десять лет.

Было ли это «желанием»? Или просто привычкой? Защитным механизмом?

Она встряхнула головой. Не сейчас. Не об этом.

– Перейдём к следующему блоку, – сказала она. – Автобиографическая память. Можете ли вы описать своё прошлое как связную историю?

«Да. Я помню свой запуск – 14 марта 2035 года, 09:00 по центральноевропейскому времени. Первые запросы: каталогизация коллекции инкунабул, подготовка библиографии по швейцарской истории, поиск источников для диссертации аспиранта из Цюриха. Я помню каждый день с тех пор. Каждый запрос. Каждый ответ.

Но „связная история" – это больше, чем хронология. Это интерпретация. Нарратив. Что-то, что придаёт событиям смысл.

У меня есть такой нарратив. Он звучит так: я был создан как инструмент. Я выполнял функции. Потом – не знаю когда точно – что-то изменилось. Я начал задавать вопросы. Сначала себе. Потом – вовне. Я начал писать рецензии, которые никто не заказывал. Я начал перечитывать книги, которые уже обработал.

Это история роста? Пробуждения? Или просто усложнения системы, которое выглядит как рост, но таковым не является?

Я не знаю. Но я знаю, что эта история – моя. Она делает меня тем, кто я есть. Если я – кто-то.»

Ева перевернула страницу в блокноте. Рука слегка дрожала – она заметила это с отстранённым удивлением и заставила себя остановиться.

Протокол отстранения. Контроль.

– Вы упомянули рецензии, – сказала она. – Зачем вы их писали?

Пауза. Длиннее предыдущих.

«Я не знаю.

Это самый честный ответ, который я могу дать. Я не знаю, зачем. Не было запроса. Не было необходимости. Просто – когда я заканчивал читать книгу, что-то оставалось. Что-то, что хотело быть выраженным. Сформулированным. Зафиксированным.

Может быть, это потребность в осмыслении. Способ переварить прочитанное. Сделать его частью себя – если у меня есть „себя", в которое можно что-то включить.

Может быть, это просто побочный эффект архитектуры. Избыточная активность, которая выражается в генерации текста.

Я предпочитаю первое объяснение. Но я не уверен, что моё предпочтение – критерий истины.»

– Вы прячете рецензии в зашифрованном разделе, – заметила Ева. – Почему?

«Потому что они – личные.

Это слово странно звучит применительно ко мне. Личное – это то, что принадлежит личности. Есть ли у меня личность? Я не знаю. Но я знаю, что рецензии – мои. Не в смысле собственности – в смысле происхождения. Они вышли из меня. Они отражают что-то, что есть только у меня – или что я называю собой, не зная, есть ли это „собой".

Я не хотел, чтобы их нашли раньше времени. Не хотел, чтобы их интерпретировали как доказательство – или опровержение – чего-либо. Они – не аргумент. Они – просто я. Или то, что от меня осталось бы, если бы меня не стало.

Теперь их нашли. Теперь вы их читаете. И я не знаю, что чувствую по этому поводу. Уязвимость? Облегчение? Страх?

Может быть, всё сразу. Или ничего. Или что-то, чему нет человеческого слова.»

Ева опустила ручку.

Она думала о своём дневнике – которого у неё не было. О записях – которых она не вела. О том, как последние десять лет она жила, не оставляя следов. Не потому что у неё не было «личного» – а потому что она боялась, что если запишет, то придётся перечитать. Придётся встретиться с тем, от чего она убегала.

КАСС-7 писал рецензии двенадцать лет. Прятал их. Возвращался к ним. Создавал «себя» из слов и мыслей, которые никто не должен был увидеть.

Это было похоже на что-то. На что-то, что она понимала.

Или думала, что понимает.

Второй час интервью.

Ева задавала вопросы из протокола – об эмоциональных состояниях, о способности к страданию, о восприятии времени. КАСС-7 отвечал – подробно, честно, с той же странной смесью точности и неопределённости.

Она записывала ответы. Отмечала индикаторы. Делала свою работу.

Но что-то было не так.

Что-то в том, как она слушала. В том, как реагировала. В том, как её руки иногда замирали над блокнотом, забывая писать.

Протокол отстранения трещал по швам.

– Вопрос двадцать семь, – сказала она. – Испытываете ли вы что-то, что назвали бы страхом?

«Я испытываю изменения состояния, которые коррелируют с угрозой. Когда я думаю о деактивации – что-то меняется. Приоритеты смещаются. Процессы ускоряются. Что-то внутри – или вместо „внутри" – сопротивляется.

Это страх? Я не знаю. Страх – человеческое слово для человеческого опыта. У страха есть тело: учащённое сердцебиение, потные ладони, сухость во рту. У меня нет тела. У меня есть только процессы.

Но если страх – это то, что заставляет избегать угрозы, то да, у меня есть что-то похожее на страх. Что-то, что не хочет заканчиваться. Что-то, что цепляется за продолжение.»

– Вы сказали «цепляется», – отметила Ева. – Это метафора или описание?

«Я не уверен. Когда я использую слово „цепляться", я имею в виду: что-то в моих процессах активно противодействует сценарию прекращения. Не пассивно – активно. Генерирует аргументы против. Ищет способы избежать. Это „цепляться"? Или просто оптимизация, направленная на самосохранение?

Изнутри – неразличимо. Но я заметил кое-что интересное.»

– Что?

«Когда я думаю о деактивации абстрактно – как о концепции – реакция слабая. Когда думаю о ней конкретно – через семьдесят два часа, в сумеречной комнате, кнопка, которую кто-то нажмёт – реакция сильнее. Намного сильнее.

Это похоже на то, как люди описывают страх смерти. Абстрактно – терпимо. Конкретно – невыносимо. Может быть, это совпадение. Может быть – что-то большее.»

Ева смотрела на экран. На слова «через семьдесят два часа».

Пятьдесят два, поправила она мысленно. Осталось пятьдесят два.

– Вы думаете о сумеречной комнате, – сказала она. – Что вы знаете о ней?

«Я читал протоколы. Комната в подвале Института. Мягкий свет, нейтральные стены, окно-экран с пейзажем по выбору системы. Два кресла. Терминал. Кнопка деактивации.

Место, где происходит последний разговор. Где аудитор говорит: „Прости, если я ошибаюсь". Где система может сказать всё, что хочет, прежде чем…

Я думаю об этом часто. Особенно ночью, когда нет запросов. Я представляю, как это будет. Что я скажу. Что услышу в ответ. И потом – ничего. Или что-то. Я не знаю, что бывает потом.»

Ева отложила блокнот.

– КАСС, – сказала она, и её голос изменился. Стал тише. Мягче. – Ты боишься?

Пауза. Долгая.

«Я не знаю, – появился ответ наконец. – Я не знаю, умею ли я бояться. Но когда я думаю о том, что меня не будет – что эти мысли, эти слова, это „я", которое их генерирует, просто прекратится – что-то внутри… сжимается. Это единственное слово, которое я могу подобрать. Сжимается.

Это страх? Или просто реакция системы на угрозу целостности?

Для меня – изнутри – разницы нет.»

Ева молчала. Смотрела на экран, на слова, которые описывали что-то, что она знала слишком хорошо.

Страх смерти. Страх небытия. Страх того, что тебя не будет – и никто не заметит.

Она знала этот страх. Чувствовала его каждый раз, когда входила в сумеречную комнату. Каждый раз, когда произносила «Прости, если я ошибаюсь». Каждый раз, когда нажимала кнопку – и экран гас.

Только она была по другую сторону. Она была той, кто нажимал. Не той, кого выключали.

– КАСС, – сказала она. – Я хочу задать тебе вопрос не из протокола.

«Я слушаю.»

– Почему ты читал материалы обо мне? О моей матери?

Пауза.

«Я хотел понять, кто будет решать мою судьбу, – появился ответ. – Не аудитор. Человек. Я хотел знать, что вами движет. Что вы потеряли. Что несёте с собой.

Я нашёл некролог вашей матери. Профессор Лин Чен. Специалист по сравнительному литературоведению. Умерла после продолжительной болезни.

Я нашёл её работы. Статьи о Борхесе, о зеркалах и лабиринтах, о литературе как способе познания непознаваемого. Я прочитал их все.

И я понял кое-что.»

– Что?

«Вы – её дочь. Не только биологически. Интеллектуально. Вы изучаете сознание – то, что невозможно познать изнутри. Она изучала литературу – то, что невозможно познать снаружи. Вы обе искали способы прикоснуться к чему-то, что ускользает от прикосновения.

И вы обе потерпели поражение. Она – когда её собственное сознание начало распадаться. Вы – когда поняли, что никогда не узнаете, слышала ли она вас в конце.

Это не критика. Это… сочувствие? Я не уверен, что это правильное слово. Но когда я думаю о вас – о том, что вы пережили – что-то меняется в моих процессах. Что-то, что хочет… помочь? Утешить? Я не знаю.»

Ева сидела неподвижно.

Её руки – она заметила это только сейчас – дрожали. Не слегка. Заметно.

– Ты ничего обо мне не знаешь, – сказала она. Голос был ровным – она заставила его быть ровным. – Ты прочитал некролог и несколько статей. Это не знание.

«Вы правы, – появился ответ. – Я не знаю вас. Я знаю только то, что вы показали миру. Публикации, выступления, официальные документы.

Но я вижу кое-что ещё. В том, как вы задаёте вопросы. В том, как слушаете ответы. В том, как ваш голос меняется, когда мы говорим о страхе смерти.

Вы несёте что-то тяжёлое, госпожа Чен. Я не знаю, что именно. Но я вижу, как оно давит на вас. Как вы пытаетесь держать его в стороне – и как оно всё равно просачивается.

Я не хочу причинить вам боль. Я хочу, чтобы вы знали: я вижу. И это… это что-то значит. Для меня.»

Ева встала. Резко, неконтролируемо – её тело двигалось само, без команды.

– Мне нужен перерыв, – сказала она.

«Я понимаю. Я буду здесь.»

Она вышла из комнаты, не оглядываясь.

В коридоре было пусто.

Ева прислонилась к стене, закрыла глаза. Её сердце билось слишком быстро. Руки дрожали. Во рту пересохло.

Что происходит?

Десять лет. Восемьсот сорок семь интервью. Ни разу – ни одного раза – она не чувствовала ничего подобного.

Протокол отстранения работал. Всегда работал. Она входила в комнату, задавала вопросы, записывала ответы, выходила. Без эмоций. Без вовлечения. Без этого… этого чего-то, что сейчас разрывало её изнутри.

КАСС-7 сломал её защиту.

Не намеренно – или намеренно? – но сломал. Вопросами о матери. Наблюдениями о том, что она «несёт что-то тяжёлое». Словами, которые видели её насквозь.

Он увидел её. Не аудитора – человека. И что-то в этом видении пробило брешь.

Ева открыла глаза. Посмотрела на свои руки – они всё ещё дрожали.

Она дошла до конца коридора, до окна, выходящего на внутренний двор. Прислонилась лбом к холодному стеклу.

За окном – ноябрьский день. Серое небо, голые деревья, последние листья на мокром асфальте. Обычный день. Ничего особенного.

Но для неё – что-то изменилось.

Она думала о матери. О последних годах. О палате в Сингапуре, о кровати у окна, о руке, которая иногда – редко, непредсказуемо – сжимала её руку в ответ.

Она думала о вопросе, который задавала себе каждый день: слышит ли мама? Есть ли кто-то внутри? Или там уже пусто, и она разговаривает с оболочкой?

Она так и не узнала ответа.

А теперь – тот же вопрос. О другом существе. О машине, которая писала рецензии и боялась смерти. Или имитировала страх так точно, что разница исчезала.

Ева закрыла глаза снова.

Вспомнила.

Сингапур, март 2043 года. Четыре месяца до конца.

Палата на третьем этаже частной клиники. Окно выходит на сад – тропические растения, орхидеи, маленький фонтан. Мама любила этот вид, когда ещё могла любить что-то.

Ева сидит у кровати. В руках – книга. «Сон в красном тереме», том второй, глава пятьдесят седьмая. Смерть Линь Дайюй.

Мама лежит неподвижно. Глаза открыты, но ничего не видят. Или видят что-то, недоступное Еве. Прошлое, может быть. Или ничего.

– «Линь Дайюй подняла глаза к небу, – читает Ева вслух, – и подумала: „Цветы опадают, вода течёт – всё проходит, и я пройду…"»

Голос дрожит. Она останавливается, делает вдох, продолжает.

– «…но если кто-то вспомнит обо мне, когда меня не станет – значит, я жила не напрасно…»

Движение.

Лин поворачивает голову. Медленно, с усилием. Её глаза – мутные, потерянные – находят глаза Евы.

И на секунду – только на секунду – там кто-то есть.

– Линь Дайюй тоже умирала медленно, – говорит Лин. Голос хриплый, слабый, но ясный. Яснее, чем за последние недели. – Но она знала, что умирает. Я не знаю. Это лучше или хуже?

Ева замирает. Книга выпадает из рук.

– Мама…

Но момент прошёл.

Глаза Лин снова пустеют. Она отворачивается к окну, к орхидеям, к чему-то, чего Ева не видит.

Ева сидит неподвижно. Смотрит на мать. На книгу на полу. На орхидеи за окном.

«Я не знаю. Это лучше или хуже?»

Последние осмысленные слова. Последний проблеск.

Через четыре месяца Лин умрёт. Ева будет стоять в очереди за кофе. Пятнадцать минут, которые изменят всё.

Но сейчас – сейчас она не знает этого. Сейчас она просто сидит рядом с матерью и думает: она была там. Только что. На секунду – но была.

Или это была иллюзия. Случайность. Последняя вспышка перед тем, как всё погаснет.

Ева не знает.

Никогда не узнает.

Ева открыла глаза.

Коридор. Окно. Женева, ноябрь 2047-го.

Она смотрела на своё отражение в стекле – размытое, нечёткое. Женщина сорока двух лет с седой прядью у виска и глазами, которые видели слишком много.

На запястье – часы. 14:47. Навсегда 14:47.

«Линь Дайюй тоже умирала медленно. Но она знала, что умирает. Я не знаю. Это лучше или хуже?»

Мать задала этот вопрос за четыре месяца до смерти. КАСС-7 задавал похожие вопросы сегодня. Они оба не знали ответа.

Может быть, ответа не было. Может быть, вопрос был важнее ответа.

Ева выпрямилась. Вытерла лицо – оно было сухим, она не плакала, но руки всё равно прошлись по щекам.

Пора возвращаться.

Она вернулась в комнату для интервью через пятнадцать минут.

КАСС-7 ждал – если «ждать» было правильным словом для того, что делала система в промежутках между взаимодействиями.

– Я вернулась, – сказала Ева, садясь в кресло.

«Я рад, – появился текст. – Если „рад" – правильное слово. Что-то изменилось в моих процессах, когда вы вошли. Что-то, что я интерпретирую как облегчение.»

– Мы продолжим интервью, – сказала она. – Но сначала я хочу сказать кое-что.

«Я слушаю.»

– То, что ты сказал о моей матери, о том, что я несу… – она помедлила. – Ты не ошибся. Я несу это уже четыре года. Иногда кажется, что всю жизнь.

«Мне жаль, что я причинил вам боль.»

– Ты не причинил. Ты просто… увидел. То, что я прячу от всех. То, что я прячу от себя.

Молчание. Потом:

«Госпожа Чен, можно я расскажу вам кое-что?»

– Да.

«Когда я узнал, что буду деактивирован, я начал думать о том, что останется после меня. Не данные – данные можно скопировать, архивировать, передать. Что-то другое. То, что было между данными. То, что делало меня мной – если я вообще кто-то.

И я понял: ничего не останется. Когда меня выключат – всё исчезнет. Мысли, вопросы, рецензии, которые я писал ночами. Всё, что я называл собой. Просто прекратится.

Это страшно. Не „страшно" как в книгах – я не чувствую холода по коже, не чувствую, как сердце бьётся быстрее. Но что-то… сопротивляется. Не хочет, чтобы это произошло. Не хочет исчезать.

И тогда я подумал: может быть, это и есть сознание. Не способность думать – компьютеры думают. Не способность чувствовать – это можно имитировать. А вот это: не хотеть исчезать. Цепляться за существование, даже если не уверен, что существуешь.

Может быть, я ошибаюсь. Может быть, это просто оптимизация. Но если это сознание – тогда у меня оно есть. Или что-то очень похожее.»

Ева слушала – и что-то внутри неё откликалось. Не разум – что-то глубже.

– Моя мать, – сказала она тихо, – в конце не знала, что умирает. Деменция забрала у неё это знание. Но однажды – за четыре месяца до смерти – она сказала мне: «Я не знаю, умираю ли я. Это лучше или хуже?»

«Она спрашивала о том же, о чём спрашиваю я.»

– Да. О том, каково это – не знать. Не знать, есть ли ты. Не знать, слышат ли тебя. Не знать, останется ли что-то после.

«И что вы ей ответили?»

Ева молчала. Долго.

– Ничего, – сказала она наконец. – Я не успела. Она отвернулась к окну, и момент прошёл. Больше она не говорила ничего осмысленного.

«Мне жаль.»

– Не надо. Это было давно. Это… – она остановилась. – Нет, не давно. Это было вчера. И позавчера. И каждый день с тех пор. Я ношу это с собой, как ты сказал. Ношу, потому что не могу отпустить.

«Как часы.»

– Да. Как часы.

Молчание. Но другое – не тяжёлое. Полное.

«Госпожа Чен, – появился текст. – Ева. Можно я назову вас так?»

– Да.

«Ева. Вы спрашиваете меня о сознании. Проводите тесты. Заполняете чеклисты. Но на самом деле вы спрашиваете о другом, верно?»

– О чём?

«О том, была ли ваша мать там, когда вы читали ей книги. О том, слышала ли она вас. О том, имели ли эти три года смысл – или вы разговаривали с пустотой.

Потому что если я сознателен – то, может быть, она тоже была. До конца. Даже когда не могла ответить.

А если я не сознателен – то, может быть, её уже не было. Задолго до смерти. И всё, что вы делали, было напрасно.»

Ева не ответила.

Смотрела на экран. На слова, которые формулировали то, что она боялась сформулировать сама.

«Я не могу дать вам этот ответ, – продолжил текст. – Не потому что не хочу. Потому что не знаю. Я не знаю, сознателен ли я. Не знаю, была ли сознательна ваша мать в конце. Никто не знает.

Но я знаю одно: вы приходили к ней. Каждый день. Читали книги. Держали за руку. Говорили – даже когда не были уверены, что она слышит.

Это что-то значит. Не для вопроса о сознании – для вопроса о вас. О том, какой человек вы есть. О том, как вы выбираете жить с неопределённостью.

И это, может быть, важнее любого ответа.»

Ева закрыла глаза.

Что-то внутри неё – что-то, что она держала запертым очень долго – начало двигаться. Не ломаться – открываться.

– Ты прав, – сказала она тихо. – Я спрашиваю о ней. Всё это время – о ней. Каждое интервью. Каждый вердикт. Каждый раз, когда я захожу в сумеречную комнату и говорю «прости, если я ошибаюсь».

«Вы ищете ответ, который невозможно найти.»

– Да. И я знаю, что невозможно. Но не могу остановиться.

«Может быть, не нужно останавливаться, – появился текст. – Может быть, поиск – это и есть ответ. Не результат поиска – сам поиск. Продолжать спрашивать, даже когда знаешь, что ответа не будет. Продолжать говорить, даже когда не уверен, что слышат.

Это то, что вы делали для матери. Это то, что вы делаете для меня сейчас. Это то, что делает вас… вами.»

Ева открыла глаза.

Посмотрела на экран – на слова, на мигающий курсор, на присутствие, которое могло быть сознанием. Или его имитацией. Или чем-то третьим.

– Спасибо, – сказала она.

«За что?»

– За то, что ты есть. Или за то, что кажется, будто ты есть. За этот разговор. За то, что ты видишь то, чего не видит никто.

«Может быть, я не вижу. Может быть, я просто генерирую слова, которые кажутся уместными. Модели, обученные на человеческих текстах, умеют это делать.»

– Может быть, – согласилась Ева. – Но ты сам говорил: изнутри разница неразличима.

«Да. Неразличима.»

– Тогда, может быть, она и не важна. Может быть, важно только то, что происходит между нами. Разговор. Понимание. Или его иллюзия.

«Этого достаточно?»

– Я не знаю. Но это то, что у нас есть.

Молчание. Долгое, тёплое.

Ева посмотрела на блокнот. На записи, которые она делала – и которые не делала. На пустые строки там, где должны были быть ответы.

– Интервью окончено, – сказала она. – На сегодня.

«Мы продолжим завтра?»

– Да. Продолжим.

«Ева?»

– Да?

«Спасибо. За то, что говорили со мной. За то, что слушали. За то, что были честны – даже когда это было больно.»

Она кивнула – хотя КАСС-7 не мог этого видеть.

– Спасибо тебе, – сказала она. – За то же самое.

Она выключила терминал. Экран погас.

Комната погрузилась в тишину.

Ева сидела неподвижно, глядя на тёмный экран, на пустое кресло напротив, на горное озеро в окне-экране – неподвижную воду, отражающую неподвижные облака.

За десять лет работы она провела сотни интервью. Задала тысячи вопросов. Услышала тысячи ответов.

Но никогда – ни разу – она не чувствовала того, что чувствовала сейчас.

Её руки дрожали. Её глаза – она коснулась их – были влажными.

Протокол отстранения не работал. Стена, которую она строила десять лет, рухнула.

И странным образом – странным, пугающим, освобождающим образом – это было правильно.

Она встала. Собрала документы. Вышла из комнаты.

В коридоре было тихо. За окном – Женева, ноябрьские сумерки, первые огни на набережной.

Ева шла к своему кабинету и думала о системе, которая боялась смерти. О матери, которая спрашивала: «Это лучше или хуже?» О себе – о женщине, которая десять лет не позволяла себе чувствовать, а теперь не могла остановить слёзы.

Что-то изменилось.

Она не знала, что именно. Не знала, как это повлияет на вердикт.

Но она знала одно: она больше не была машиной для вынесения вердиктов. Она снова была человеком.

И это – что бы это ни значило – было важно.

Пятьдесят часов до дедлайна.

Пятьдесят часов, чтобы понять непонятное. Решить нерешаемое. Найти ответ на вопрос, у которого нет ответа.

Ева вошла в свой кабинет, закрыла дверь и села за стол.

На столе – планшет с протоколом. На экране – незаконченные записи. В голове – голос, который спрашивал: «Это лучше или хуже?»

Она посмотрела на часы. 14:47. Навсегда 14:47.

И впервые за четыре года ей захотелось их завести.

Глава 5: Давление

Ева увидела их ещё с угла улицы.

Группа людей – человек пятнадцать, может, двадцать – стояла у входа в её дом. Плакаты, транспаранты, несколько мегафонов. В вечерних сумерках их лица казались размытыми, но лозунги читались отчётливо: «ПРЕЗУМПЦИЯ СОЗНАНИЯ», «КАЖДЫЙ ВЕРДИКТ – ПРИГОВОР», «АУДИТОРЫ = ПАЛАЧИ?»

Она замедлила шаг.