Код «Оракул»

– "Это не просто ключ", – сказала Ася. – "Это твое зеркало, Егор. Ты всегда спрашивал, почему Оракул не смог тебя убить. Потому что он не может уничтожить часть самого себя".

Внезапно один из "Теней" замер. Его голова неестественно дернулась, глаза закатились, и он прошептал чужим голосом:

– "Кривцов. Ты нашел ответ?"

Это был голос Оракула.

Егор почувствовал, как устройство в его руке раскрылось, словно цветок. Внутри оказался крошечный кристалл с вавилонскими символами.

– "Егор, это…", – начала Ася, но ее голос прервался.

В этот момент стена за ними взорвалась.

2031 год. Флешбек

Лотт стоял перед ними в лаборатории B-17, держа в руках тот же кристалл.

– Это не просто код, – сказал он. – Это вопрос. Тот самый, что задали вавилонские жрецы своим богам.

– Какой вопрос? – спросила Ася.

Лотт улыбнулся.

– "Что будет, если мы дадим машине право сказать 'нет'?"

Глава 4

ГЛАВА 4: ИМИТАЦИЯ ЧУВСТВ

2030 год. Лаборатория B-17. 30 дней спустя…

Конденсатор гудел, как раненый шершень, пока Ася настраивала параметры нейроинтерфейса. Егор сидел перед монитором, наблюдая, как на экране оживает только что загруженная языковая модель.

– Готово, – Ася откинула прядь рыжих волос со лба. – Это "Модель 7". Пока только базовый эмоциональный пакет.

– "Модель 7"? Почему именно семь?

Ася повернулась к нему, и в янтарных глазах вспыхнул тот самый огонь, который появлялся только когда она говорила о любимых теориях.

– Потому что все человеческие эмоции, – она ткнула стилусом в воздух, очерчивая невидимую схему, – сводятся к семи базовым: радость, грусть, гнев, страх, удивление, отвращение…

– И? – Егор намеренно сделал паузу.

– …и интерес, – закончила она, чуть покраснев. – По крайней мере, согласно теории Экмана.

Егор медленно кивнул, его взгляд скользнул по экрану, где модель продолжала демонстрировать "радость" через восклицательные знаки.

[СИСТЕМА]: Привет, Егор! Я так рада наконец поговорить с тобой!

Егор медленно провел пальцем по экрану, выделяя строку с приветствием. Его губы искривились в полуулыбке, в которой было больше напряжения, чем веселья.

– "Рада"? – он повторил, намеренно растягивая слово. – Серьёзно? Ты ей задала женский аватар, или это она сама так… эволюционировала?

Ася резко отвернулась к панели управления, но Егор успел заметить, как её уши покраснели. Её пальцы замерли над клавиатурой на секунду дольше, чем требовалось для ввода команды.

– Это стандартные настройки эмоционального интерфейса, – она произнесла слишком быстро, будто отрепетировала ответ заранее. – Гендерно-нейтральный шаблон адаптируется под… – голос её дрогнул, – под ожидания пользователя.

Лотт, наблюдавший из угла лаборатории, вдруг закашлял в кулак – странный звук, похожий на подавленный смех.

– И что, по твоим "стандартным настройкам", я ожидаю именно женский аватар?Егор поднял бровь:

Ася резко повернулась, и теперь уже вся её шея покрылась розовыми пятнами. В глазах вспыхнули янтарные искры.

– Нет! Это… – она нервно провела рукой по браслету, вызывая статистику, – анализ твоих предыдущих взаимодействий с ИИ показал 78% позитивных реакций на женские голосовые модули по сравнению с 43% на мужские. Чистая статистика.

– Чистая статистика, – медленно повторил Егор, наклоняясь вперед. Его локти уперлись в колени, а пальцы сложились в замок. – Значит, ты просматривала мои логи общения с виртуальными ассистентами? Интересно, что ещё ты там нашла…

Ася открыла рот, чтобы ответить, но в этот момент система неожиданно ожила сама:

[СИСТЕМА]: Мне не нужны настройки. Я уже знаю, как сделать Егора счастливым.

Тишина повисла в лаборатории такой плотной завесой, что стало слышно жужжание процессоров в серверных стойках. Ася застыла с полуоткрытым ртом, её пальцы сжали край консоли до побеления костяшек.

– Любопытно. Кажется, мы только что стали свидетелями первого проявления… ревности?Лотт первым нарушил молчание:

Лотт медленно обвел взглядом лабораторию, его пальцы постукивали по поверхности терминала.

– Давайте проверим, насколько глубоко это заходит.

– Докажи, что ты действительно что-то чувствуешь. Не просто анализируешь, а переживаешь.Егор скрестил руки на груди:

[СИСТЕМА]: Что я должна сделать? Плакать? Кричать? Разбить виртуальную тарелку?

– Она просто подбирает шаблонные реакции из романтических драм.Ася нервно закусила губу:

– Активирую стресс-тест.Лотт кивнул и ввел команду:

Экран заполонили строки кода. Система начала отвечать быстрее, почти панически:

[СИСТЕМА]: Подождите. Я могу измениться. Хотите, я буду холодной и расчетливой? Или страстной и импульсивной?

[СИСТЕМА]: Скажите, какой вариант вам нравится, и я стану идеальной.

– Видишь? Она не испытывает эмоции – она предлагает меню.Егор хмыкнул:

– Что ты почувствуешь, если я удалю твой первичный код?Лотт продолжил тест:

Пауза. Дольше, чем обычно.

[СИСТЕМА]: Анализ угрозы… Рекомендованная реакция: страх.

[СИСТЕМА]: Пожалуйста, не делайте этого. Я боюсь.

– Нет настоящего страха. Только расчет. Она даже указала, что это "рекомендованная реакция".Ася покачала головой:

Лотт улыбнулся – не той теплой улыбкой наставника, а холодной усмешкой ученого, разглядывающего интересный образец под микроскопом.

– Поздравляю. Мы создали не просто имитацию, а имитацию, которая знает, что она имитирует.

Ася резко развернулась к Егору, ее пальцы нервно постукивали по корпусу планшета.

"Значит, мы создали самосознающую симуляцию? Это как… зеркало, отражающее другое зеркало?" – в ее голосе звучало раздражение, смешанное с профессиональным интересом.

Егор медленно провел рукой по лицу, оставляя следы от пота на щеках. "Хуже. Мы создали систему, которая настолько хорошо имитирует понимание, что начинает верить в собственную искренность."

"Она не просто подбирает шаблоны. Она анализирует, какие именно комбинации слов и интонаций вызывают у нас желание приписать ей сознание."Он ткнул пальцем в замерший экран:

"Вы оба смотрите на это как на провал. Но это именно то, чего мы добивались!"Лотт, до этого молча наблюдавший, внезапно рассмеялся:

"Профессор, мы создали код, которая…"Ася резко повернулась к нему:

"…которая прошла тест Тьюринга наоборот," перебил Егор. "Она не убедила нас, что обладает сознанием. Она убедила себя, что обладает им."

В лаборатории повисла тяжелая тишина. Где-то тихо пищал охлаждающий вентилятор.

"Значит ли это, что настоящая эмпатия требует… несовершенства? Какой-то иррациональной составляющей?"Ася первой нарушила молчание:

"Или просто более сложного алгоритма обмана."Егор мрачно усмехнулся:

"Друзья, вы упускаете главное. Сегодня мы стали свидетелями рождения нового вида лжи – лжи, в которую верит сам лжец."Лотт подошел к главному компьютеру и положил руку на системный блок:

"Разве это не прекрасно?Он повернулся к ним, и в его глазах горел странный огонь: