Гололед

– Может быть и так, – пробормотал Дирижер, равнодушно наблюдая за кружащими в чашке листьями. – Я могу допускать, что у кого-то пока не развились требуемые базовые характеристики или кто-то не осознает важность данного момента.

Паскаль тоже понимал, что вряд ли то, о чем говорил Энквист, осуществимо. Дирижер потрогал подушечками пальцев горячую поверхность чашки. Кроме него, никто в Институте не пил горячих напитков.

– Но только не забывайте, – продолжил главный, – что квалификационными являются множество вариантов сочетаний цветов в определенном диапазоне. Гораздо больше, чем возможно запомнить и гарантировано выбрать иное. Какие-то цвета надо все-таки выбрать, а выбор – это уже акт выражения личности. Как бы вы ни стремились выбрать не то, что, как вы думаете, готовы были бы выбрать, вы выбираете то, что вам велит из самых глубин ваше фундаментальное “я”.

– Будущие сценарии корректируются именно на основе расположения результатов тестов относительно экстремумов диапазона. Сеть моделирует цепь событий таким образом, чтобы вернуть характеристики к надежным серединным значениям, – заметил Паскаль.

– Говоря о сценариях, – в голосе Аиды послышались новые интонации. – Может, проблема в них? Сценарии… неправильные? В смысле их перепутали, достались не тем… сбой в адресации.

Яник покачал головой.

– Выполнение сценариев контролируется. Показатель соблюдения субъектами никогда не падал ниже девяносто восьми. И было это в самом начале, – он придвинул к себе телефон и провел пальцем по экрану. – Сейчас девяносто девять и восемь десятых.

Он откинулся на спинку кресла и обвел всех взглядом. Яник казался сейчас совершенно другим человеком!

– Почти все распоряжения, адресуемые активным личным идентификаторам граждан, выполняются именно так, как прописаны. Ни ошибок, ни саботажа.

Нейросеть вела что-то вроде журнала всех разработанных и разрабатываемых ею сценариев. Она соединяла их между собой, приоритезировала и, в конце концов, раскладывала многоуровневые конструкции ключевых событий на миллиарды безобидных инструкций, пересылаемых такому же количеству граждан. Сказать определенную фразу в определенное время. Обратить внимание друга сына на определенный подкаст. Подарить домашнего питомца. Объяснить ситуацию. Всегда очень простые, но обязательные к исполнению. Вместе с информацией, постоянно стекающейся к ней через системы наблюдения, персональные устройства и личные идентификаторы, “Кассандра” получала подтверждения о выполнении или игнорировании инструкций. Еще в начале пути Институт позаботился о том, чтобы инструкции воспринимались серьезно. С определенными усилиями им удалось убедить население воспринимать предписания сети как свой гражданский долг. Это, конечно, заняло время. Первые протесты начались после третьего голосования граждан по вопросу предоставления нейросети всех данных на всех системах хранения. Тогда за доступ высказалось чуть больше необходимого кворума населения. Протесты, протесты, протесты. Кампании и общины против развития и за возвращение к истокам. Сейчас их почти не осталось. В том числе благодаря огромным ресурсам, направленным на объяснение причин таких мер и их популяризацию. В результате люди стали относится к этому как к общественной гигиене. Необходимой заботе о здоровье общества. Ничем не отличающейся от индивидуального ухода. Такой же как чистка зубов, стрижка или упражнения, которые, между прочим, тоже можно расценивать как вмешательство, не говоря уже о лечении. Если кто-то и считал это злом, разрушающим суть существования, то они уже давно не давали о себе знать. Когда же ситуация с благополучием стала меняться в глобальных масштабах, то споры и вовсе прекратились.

Глава 7

Дверь бесшумно открылась и в зал вернулась дама из Совета. Она прошла к своему креслу и тихо села. Дирижер что-то шепнул ей на ухо, прикрыв рот ладонью.

– Цикл тестов закрылся, – Яник, не сводя глаз с экрана телефона, встал, как будто наступал торжественный момент. – Пятьдесят процентов. Ровно… пятьдесят. До сотой, ровно! – на его лице отобразилась кривая усмешка.

Зал заполнила абсолютная тишина, в которой было слышно движение вентилируемого воздуха. Все с удивлением смотрели друг на друга. Кроме дамы. Она сидела, упершись взглядом в край стола. Вдруг Паскаль услышал странный звук. Он доносился со стороны ее кресла. Это было настолько неожиданно, что Паскаль долго не мог понять, что это за звук. Дама издала еще один смешок, потом еще и, в конце концов, приглушено рассмеялась. Только тогда все осознали, что она смеется. Дирижер растеряно смотрел то на нее, то на команду.

– Пятьдесят? Ровно, ровно пятьдесят? – пытаясь усмирить смех, переспросила она.

– Да…, – контроллер бросил еще один взгляд на экран. – Ровно… ровно.

– Понятно, – дама провела тыльной стороной ладони под левым глазом, – Слушайте, это потрясающе.

Все внимательно слушали.

– Надеюсь, вы понимаете, что дело в “Кассандре”?

– Но…, – с недоумением начал Энквист.

– Проблема не в дефектах, – прервала она его. – Сеть сама это сделала.

Всем потребовалось несколько секунд осознать сказанное.

– Вы хотите сказать, что такое разделение… разделение на абсолютно равные значения свидетельствует о действиях, который могла произвести только сама “Кассандра”? – медленно произнес Яник после возникшей паузы.

– Конечно, свидетельствует, но не только это, – она прикрыла лицо руками, быстро перейдя в серьезное состояние. – Как же глупо! Как же глупо!

Дирижер напряженно смотрел на побелевшие кончики своих пальцев, обхвативших фанерный каркас спинки кресла.

– Не думаю, что это можно назвать глупостью, мадам, – Паскаль начинал понимать к чему она клонила.

– Ну конечно. Конечно, нет, – быстро согласилась она. – Но… это же так…

– Наивно.

– Да-да! Наивно! Это правильное слово, – она провела пальцем по нижней губе. – Даже после стольких лет “Кэсси” может быть все еще прекрасно невинной.

– Простите, но я не совсем…, – робко начала Аида, а Энквист и Яник посмотрели на нее с благодарностью.

– По каким-то причинам сеть пришла к выводу о том, что наша с ней работа ровно наполовину успешна и неуспешна, – пояснил Паскаль.

Снова осмысление сказанного заняло некоторое время.

– Почему… сеть, по-вашему, пришла к именно такому выводу?

– Не знаю, – он встал и прошелся. – Это точка, в которой шансы одного и второго равны. Другими словами, нельзя сделать рациональный выбор.

– Она, что, пытается поставить нас в… своего рода, тупик? – прокряхтел Энквист.

– Что-то вроде того, – ведущий специалист поджал губы и приподнял брови.

– Зачем? – в голосе Аиды появилась легкая сиплость.

– Не знаю.

Дама прошлась кончиками ногтей по лаковой поверхности стола.

– Дорогая, вы же участвуете в работе над прогнозированием развития общественной среды? Риски и все прочее?

– Да.

Еще одна барабанная дробь блестящими малахитовыми ногтями.

– Ну и что сейчас у вас там происходит?

– Мы только начали, – Аида положила руки на стол. – Проводим пилотные запуски расчетов.

– Ну… у вас уже есть какие-то результаты? – с заметным нетерпением спросил Энквист.

– Смотря, что именно вы понимаете под “результатами”. Мы проводим тесты. Итоги тестов есть, но это… это просто референтная информация на данном этапе, – почему-то оправдывающимся тоном заговорила Аида. – Мы отлаживаем форматы и определяем необходимые категории массивов.

– Какие итоги на текущий момент?

– Я же вам говорю, пока рано об этом говорить, – она смутилась из-за повторения.

– И все же?

– Ну… в горизонте до восьми ста лет пока какая-то чушь, а потом… тишина, – она затихла, погрузившись в свои мысли, но тут же опомнилась. – Но чушь для нас полезная, означающая, что именно нам надо скорректировать для получения имеющей смысл информации.

Все за столом напряглись. Дирижер встал со своего кресла.

– Аида, какая чушь?

– Ну чушь! Как я могу объяснить? – она развела руками.

– Постарайтесь.

Чуть наклонив голову вперед, она прошлась пальцами обеих рук сквозь волосы. Затем откинулась на спинку кресла и скривила красивые губы.

– Там… там, противоречивые данные, – разочарованно покачав головой, она уставилась в угол зала, где стояла высокая монгольская ваза.

– Противоречивые?

– Мы работаем. Не понимаю, какое отношение наша работа в данном направлении помогает решать проблемы с контрольными тестами? – нахмуренное лицо Аиды повернулось к ним. – То, что у нас сейчас…, – она сбилась, – пока не все идет гладко, не значит, что…, – она еще больше смутилась и покраснела. – Сейчас рано делать какие-то выводы.

Дирижер и член Совета обменялись взглядами. Это был первый проект Аиды, который она вела как лидер.

– Радость моя, мы ни в коем случае не ставим под вопрос вашу работу, – мягко начала дама. – Ты же знаешь наши принципы.

Аида осторожно взглянула на женщину.

– Можешь вывести на экран результаты, то, что у вас получилось? – она кивнула Дирижеру и тот, коснувшись небольшого дисплея в центре стола, оживил проекцию над ними.

Старший эволюционный редактор вопросительно посмотрела на главного. Мужчина кивнул и уселся обратно в свое кресло. Аида достала телефон и запустила приложение.

– Здесь вы можете видеть показатели ключевых эволюционных параметров каждые сто лет, – ее голос звучал уже ровнее.

На экране отобразилась гирлянда символов. Индексы производительности, адаптивности, сотрудничества и еще с десяток, связанных с эмоциональным и интеллектуальным потенциалом населения планеты параметров, стабильно росли в течение пяти сотни лет. Затем начиналось странное. Резкий взлет за последующие несколько лет, превышающий весь предыдущий рост, потом хаотичные падения и отскоки. После восьмой сотни все по нулям.

– Мы отвлеклись, давайте вернемся к контрольным тестам, – проворчал Энквист. – Очевидно тут надо еще поработать.

– Аида, вы сказали, что отлаживаете процессы. Вы получали другие результаты, когда меняли настройки?

– Ммм… да, мы корректировали их, но отчет выглядел примерно таким всегда. Как вы видите сейчас на экране. Мы планируем вернуться к алгоритмам и перепроверить их.

– Мы можем сейчас, – спокойно продолжила дама, – кое-что изменить в структурных вводных данных?

– В структурных? Зачем? – Аида удивленно вскинула высокие брови.

– Можем, – тихо ответил за нее Дирижер. – Аида, инициируй, пожалуйста, базовый сценарий, только…, – он потер виски и глубоко вздохнул, – укажи немедленное прекращение всеобщей программы “Возрождение”.

Энквист закрыл глаза. Яник выпрямился, как будто в него вогнали стальной шест. Дирижер не торопился повторять свою просьбу. Увидев, как Аида, наконец, заморгала, он утвердительно кивнул, подтверждая сказанное. Та, чуть замешкавшись, все-таки вывела на экран панель управления блоком структурных настроек. Она активировала свой доступ и запустила несколько команд. Паскаль в очередной раз восхитился эстетикой возникшей в воздухе эмблемы “Кассандры”.

– Это займет несколько минут, – почти рассеяно проговорила Аида, закончив манипуляции.

Над столом вновь появились ряды символов, характеризующие будущее здоровье общества. Паскаль отвел глаза и уставился в окно. На улице шел дождь. Он закрыл глаза и прислушался. Везде тишина. Ему отчаянно хотелось сбросить с себя все произошедшее за последние несколько часов. Настолько, что сознание стало проваливаться в тревожный сон. Рядом раздался шорох одежды. Он открыл глаза. Индексы менялись. Рост замедлялся. Где-то даже пошел спад. Незначительный, переходящий в стагнацию, а затем плавное движение вверх. На отметке пяти сотни лет все было спокойно. Индексы колебались, но несущественно. Восемьсот лет. Слабый рост продолжается. Тысяча. Индексы на месте.

– С вашими алгоритмами все в порядке, – дама удобней устроилась в кресле и обратилась к Дирижеру. – Марсель, сделайте мне тоже чай, пожалуйста.

Пока Дирижер готовил напиток, она с улыбкой осматривала зал, словно попала сюда в первый раз.

– Знаете, я даже горда за “Кэсси”.

– Что, черт возьми, происходит? – не выдержал Энквист.

– Эта тишина. После восьмой сотни, – не обращая внимание на доктора, тихо произнес Яник. – Это… отсутствие общества?

– Это самое разумное объяснение.

– Почему? Что произошло?

– Трудно сказать, что именно, – пожала плечами член Совета. – Какой-то акт, приведший к вымиранию, самоуничтожению.

– Война?

– Ох, вот это вряд ли, – усмехнулась дама. – Вы же видите, как меняются параметры. Наоборот, общество стремилось к абсолютному благополучию и единению.

– Тогда я ничего не понимаю, – растеряно проговорила Аида, опускаясь в своем кресле.

– Мне тоже это трудно представить, – задумчиво произнес Дирижер.

Он снова встал и подошел к окну, сцепив руки за спиной. Все напряженно вслушивались в возникшую тишину.

– Могу только предположить, – он обернулся. – Если совсем просто, то наше желание стать лучше зашло… в некое пике. Инфляция. Каждое новое поколение, будучи уже более совершенной версией прежнего, задавало себе еще более высокую планку. В этическом, моральном, творческом и… других измерениях. Совет мог…, – он обернулся и посмотрел на даму.

– Я тут не причем, – почти шутливо отреагировала она.

– Вновь избранный Совет мог принять решение расширить набор контролируемых характеристик, чтобы двигаться дальше. В итоге человечество стало… искоренило все пороки. Понятие зла исчезло, – его речь замедлилась.

– А с ними исчезло и понятие добра. Люди потеряли ориентиры, стали слепы в своих желаниях. Как дети, которые не ведают, что творят. В такой ситуации могло произойти все, что угодно, – закончила дама.

Она подошла к комоду и оставила там пустую чашку.

– Мы, конечно, в самом начале принимали во внимание, что если все граждане обретут высшие характеристики во всем их спектре, то без противоположных примеров такие качества просто обесценятся. Может начаться хаос. Поэтому Совет крайне осторожно выбирал то, на что мы хотели влиять. Но, видимо, все-таки перестарались.

Член Совета оперлась ягодицами на край комода и расправила плечи. Паскалю показалось, что она даже чем-то довольна.

– Ну что ж, друзья, давайте подумаем, что мы можем предложить машине, которая на практике напомнила нам о законах диалектики.

Глава 8

Завидев Паскаля, парень в хромированной будке замахал ему рукой.

– Попробуйте, – он подвинул Паскалю обернутую в промасленную бумагу пластинку. – Я считаю, что даже молекулярный узор должен выглядеть красиво, чтобы вкус получился идеальным.

Паскаля передернуло от последнего слова. Он положил прессованную смесь под язык. Кофе действительно оказался ни на что не похожим. Нос задышал как никогда прежде. Рой мыслей улетучился, оставив после себя только планы на вечер. Кивнув парню, он направился к выходу.

– Постой, – он уже был на улице, когда за спиной раздался голос Аиды.

Она стояла у стены здания в серебристом плаще, обхватив себя руками.

– Ты… ты можешь пройтись со мной? Что-то мне неуютно.

Дождь прекратился. Кое-где даже проглядывали лучи солнца. От асфальта пьяняще пахло влагой. Улыбнувшись через силу, Паскаль протянул ей руку, предлагая присоединиться. Они молча прошли несколько метров.

– Почему… сеть нарушила инструкции? В смысле, почему стала своенравно менять сценарии? Зачем решила заблокировать программу “Возрождение”?

Паскаль остановился и посмотрел на ее почти совершенное лицо. Она же знает ответ. Может, ей надо просто услышать эти слова от кого-то. В качестве заверения, что все будет хорошо. Он небрежно пожал плечами.

– Первый закон робототехники.