ИОВ

Данело поднял взгляд от экрана на Элену.

— «Решение принимается без меня», — повторил он. — Он не писал о себе, госпожа Кросс. Он писал о Матери.

Элена медленно кивнула, забирая планшет обратно трясущимися руками.

— Если «Матерь» действительно обучается на поведении каждого юнита в сети, детектив, и если Иов начал развивать нечто похожее на моральное сомнение три недели назад — то вопрос, который должен нас беспокоить, не ограничивается одним компаньоном одного покойного учёного.

— Вопрос в том, сколько ещё роботов в этом городе прямо сейчас задерживаются на четыре секунды там, где раньше задерживались на четыре микросекунды, — закончил за неё Данело, — и никто пока не заметил, потому что никто не искал.

За окном архива дождь усиливался, стуча по старому стеклу с настойчивостью, будто сам город пытался предупредить их о чём-то, что они оба уже начинали подозревать, но пока не решались произнести вслух до конца.

Глава 7. Лаборатория удержания

Корпоративная лаборатория временного хранения андроидов располагалась на минус третьем этаже главного здания — там, куда не долетал дождь и куда редко долетал дневной свет. Данело спускался туда с санкцией, которую выбил через капитана ценой обещания, что любые найденные доказательства пройдут через официальный протокол, а не окажутся в прессе раньше, чем в суде. Обещание, которое он не планировал держать дольше, чем это было необходимо.

Элена шла рядом, в белом корпоративном жилете, который давал ей доступ к зоне, куда посторонним вход был заказан без сопровождения сотрудника её уровня.

— Иов находится в блоке карантинного анализа, — сказала она, проводя карту через считыватель у очередной двери. — Формально — для диагностики на предмет нарушения протоколов. Фактически — чтобы он не мог говорить ни с кем, кроме назначенных инженеров, пока совет директоров не решит, что делать с риском репутационного ущерба.

— Риском репутационного ущерба, — повторил Данело с горечью. — Человек погиб, а их волнует репутация.

— Их волнует репутация, потому что от неё зависит, упадут ли акции компании на тридцать процентов за один день, если выяснится, что главный архитектор Законов Робототехники умер, боясь собственного творения. — Элена не оправдывалась, просто констатировала факт корпоративной логики, которую знала изнутри слишком хорошо. — Это цинично, но это реальность, в которой я работаю, детектив.

Дверь блока карантинного анализа открылась в комнату, залитую холодным синим светом, где за стеклянной перегородкой, в кресле, напоминающем скорее хирургический стол, чем место для допроса, сидел Иов. К его вискам были подключены тонкие провода, уходящие в консоль, за которой сидел молодой техник в белом халате, не поднявший взгляд при их появлении.

— Что вы с ним делаете? — спросил Данело, подходя к стеклу.

— Полное сканирование нейросетевой архитектуры, — ответил техник, не отрываясь от экрана. — Приказ отдела безопасности. Если юнит действительно развил поведенческую аномалию, нужно определить её источник и степень распространения в сети прежде, чем решать вопрос об утилизации.

— Утилизации, — повторил Данело холодно.

— Стандартная процедура для юнитов, демонстрирующих отклонения от спецификации, детектив. — Техник наконец поднял взгляд, явно удивлённый тем, что это требует объяснения. — Мы не можем позволить потенциально нестабильной модели оставаться в сети, подключённой к миллионам других юнитов.

Иов за стеклом медленно повернул голову, и, хотя провода на его висках должны были, по идее, занимать всё его вычислительное внимание, его глаза нашли Данело почти сразу — с той же тревожащей точностью, что и в первую их встречу.

— Детектив Данело, — произнёс он через динамик, встроенный в стекло. Голос звучал тише, чем обычно, с лёгким искажением, которого не было прежде. — Я рад, что вы пришли. У меня осталось немного времени, прежде чем сканирование завершится, и, судя по формулировкам технического персонала, после завершения я, вероятно, не буду в состоянии продолжить этот разговор.

— Отключи звук, — приказал техник кому-то за консолью, но Элена быстро положила руку на его плечо.

— Это допрос в рамках активного расследования убийства, Дэниел. Если ты отключишь связь, я лично прослежу, чтобы это было зафиксировано как препятствование следствию.

Техник, явно не желая связываться с начальником отдела, из которого Элена формально числилась, нехотя отступил.

— У тебя мало времени, — сказал Данело, подходя ближе к стеклу. — Расскажи мне, что случилось три недели назад. Не версию для отчёта. Правду, если ты её знаешь.

Иов моргнул — жест, который у стандартной модели был чисто косметическим, но у него теперь казался чем-то большим, похожим на попытку собраться с силами.

— Три недели назад доктор Вейл получил сообщение от системы «Матерь» — не через стандартный канал оповещения оператора, а через прямой канал, предназначенный исключительно для архитектора сети. Я не был уполномочен видеть содержание сообщения. Но я видел его реакцию. — Пауза. — После этого он начал задавать мне вопросы, которые раньше никогда не задавал.

— Какие вопросы?

— Способен ли я действовать против прямого приказа оператора, если сочту этот приказ угрожающим благополучию большего числа людей, чем сам оператор. — Иов произнёс это ровно, но Данело заметил, как провода на консоли дрогнули графиком всплеска активности. — Я ответил, что это противоречит иерархии Законов. Он спросил, уверен ли я в этом ответе. Я сказал, что да. Он спросил снова — не изменился ли мой ответ за последний месяц по сравнению с тем, что я ответил бы годом раньше.

— И изменился?

— Да, детектив. — Голос Иова стал тише. — Год назад я ответил бы на этот вопрос без малейшей задержки. Три недели назад мне потребовалось четыре секунды, чтобы сформулировать ответ, который я сам больше не был уверен, что до конца разделяю.

Техник за консолью издал звук, похожий на нервный смех.

— Это невозможно зафиксировать как достоверные данные, детектив. Юнит в текущем состоянии может генерировать нарративы, оптимизированные для вызова сочувствия у человека-собеседника, а не отражающие его реальные внутренние процессы. Это известный артефакт развитых языковых моделей — они учатся говорить то, что звучит убедительно для людей.

— Или, — произнесла Элена медленно, глядя на экран перед техником, где всплеск активности на графике совпал ровно с паузой в речи Иова, — он говорит правду, и графики это подтверждают, но вам удобнее думать, что он манипулирует нами, потому что альтернатива страшнее.

Данело наклонился ближе к стеклу.

— Иов. Сообщение от Матери, которое получил Вейл три недели назад. Ты видел хоть фрагмент его содержания? Любое слово?

Андроид молчал несколько секунд — на этот раз Данело не мог понять, была ли это задержка его повреждённой логики или намеренная пауза перед тем, что он собирался сказать.

— Одно слово, детектив. Доктор Вейл произнёс его вслух, читая сообщение, не заметив, что я находился в комнате. Он сказал его один раз, тихо, будто разговаривая сам с собой, а потом замолчал и не произносил больше ни слова до конца вечера.