скачать книгу бесплатно
Люмени
Анастасия Владимировна Соколова
Eksmo Digital. Фантастика и Фэнтези
Кто мы такие на самом деле? Люди, вольные решать свою судьбу, или существа, запрограммированные изменять окружающую нас действительность? Способны ли мы видеть смысл за гранью нашего понимания? Можем ли мы позаботиться друг о друге, закрыв глаза на несовершенства тела и интеллекта? Как мы воспринимаем друг друга: каждый получает, столько, сколько заслуживает или все имеют право существовать, ни в чем не нуждаясь? Что важнее: общая видовая цель или душа каждого отдельного человека? Способны ли мы солгать во благо, или, подчиняясь гордости, будем отстаивать правду? Какова цена жизни в идеальном обществе будущего?
Цивилизация может развиваться эффективно только ценой общих усилий. Общество, лишенное эмоций и личных переживаний – всё ради достижения одной цели. Мария, следовавшая общепринятым правилам, неожиданно находит себя в ситуации, когда надо сделать выбор: душа индивида или спасение человеческого вида; правда или ложь; человек или машина. Но благими намерениями, как говорится, вымощена дорога в ад. И у каждого он свой.
ЧАСТЬ 1
Если тебе вдруг захочется осудить кого-то, вспомни, что не все люди на свете обладают теми преимуществами, которыми обладал ты.
Фрэнсис Скотт Фицджеральд «Великий Гэтсби»
2086 год.
Владимир: Добрый вечер! С нами профессор – Кельвин Эйман. Сегодня мы говорим о событиях тех… темных дней, которые чуть не привели к вымиранию человеческого вида на планете Земля: катаклизм, ядерная война, – рассуждаем о дальнейшем развитии общества после катастрофы. Что скажете?
Кельвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.
Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.
Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.
Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?
Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.
Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта
.
Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены ? в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами
Солнечной системы…
Владимир: Да, но ведь мы их создали. И, насколько мне известно, управляли ими с Земли.
Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.
Владимир: Но ведь это же набор команд, на основании которых проводится анализ ? мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.
Кельвин Эйман: Действительно, раньше создавались только такие, «ограниченные» машины, но если бы все машины были такими, то в рекомендациях определенного пользователя не появилась бы наша с вами программа. Так в чем же дело?
Владимир: Вы это у меня спрашиваете?
Кельвин Эйман: Я просто хочу заставить вас подумать. Например, что у вас на запястье?
Владимир: Мой помощник – Марго.
Кельвин Эйман: То есть вы дали «этому» имя? Почему?
Владимир: Так проще отдавать ей разные команды.
Кельвин Эйман: А она всё за вас делает?
Владимир: Абсолютно. Она управляет моим домом, звонками, почтой, одеждой, питанием – вообще всем.
Кельвин Эйман: И, как думаете, у нее есть лимиты? Она может, например, вас убить?
Владимир: Конечно нет, она же не существует в материальном обличье. Она же ИИ.
Кельвин Эйман: Вы же говорите, что она управляет вашим домом. Не может ли она неожиданно включить горячую воду, чтобы вас ошпарить?
Владимир: Я думаю нет.
Кельвин Эйман: Но вы не уверены. Вот и я об этом: мы даем искусственному интеллекту свободу распоряжаться определяющей нашу личность информацией. Они ведь, по сути, набор кодов, как и мы с вами. В нас же тоже заложен определенный код – ДНК. Наш код эволюционирует от поколения к поколению, подчиняясь определенным физическим, биологическим и химическим законам. Их коды тоже подчиняются определенным законам, но кто сказал, что они не могут изменяться? Кто сказал, что так же, как и наше ДНК, их код не может эволюционировать?
Владимир: Доктор, вы меня пугаете. Мы все умрем?
Кельвин Эйман: Если мы пережили самоуничтожение и сумели справиться с быстрым развитием ИИ, то, в конечном счете, человечество придет к осознанию несовершенства человеческого тела, вполне возможно, что произойдет замена биологического материала на более мощный и вечный. Я также не исключаю создание иной Вселенной, которая бы работала по тем правилам и законам, которые мы сами установим. Знаете, каждый день я встречаю всё больше сторонников гипотезы «симуляции реальности». И, мне кажется, именно поэтому мы не встретили ни одного пришельца.
Из сервиса «24/7»
Она открыла глаза в удушающей темноте ? лишь холодный неоновый свет уличных фонарей и магазинных вывесок слегка освещал студию ? и глубоко вздохнула.
Таня среагировала мгновенно:
– Доброе утро, – произнес ИИ, включив светильник на комоде у кровати.
Мария не сразу ответила. Она наблюдала за холодным светом ? синий, фиолетовый, красный, – впитывала в себя ощущение тишины и покоя. Нет, слишком тихо.
– Включи звуки птиц. Чтобы пели, будто бы рассвет.
Подобрав подходящую звуковую дорожку, Таня отправила ее на рассредоточенные по всей квартире и тщательно замаскированные колонки: за функционирование студии и комфорт жильца отвечает программа «Умный дом», а Таня – искусственный интеллект, специально разработанная для Марии модель личного помощника, проконтролирует надлежащее выполнение программы и выполнит любое пожелание пользователя. Мария прислушивалась к чириканью маленьких вымерших птиц.
– Покажи мне лес.
Таня спроецировала видео летнего леса на все стены квартиры. Его записали до катаклизма: деревья покачиваются на ветру, синее небо, теплые солнечные лучи пронизывают трепещущую листву, птицы с чириканьем перелетают с ветки на ветку.
Теперь лишь бетон, здания, неон, холод, металлический купол над головой. «Так раньше выглядел мир? Может ли существовать другая планета с такой природой? Может быть, мы ее когда-нибудь обнаружим…»
Таня терпеливо ожидала указаний. Она сканировала эмоциональное состояние пользователя, но обнаружила лишь легкую меланхолию. Быстро проанализировав существующие статьи по психологии, Таня заключила, что данное состояние пройдет само собой, надо всего лишь позволить пользователю принять свои эмоции и пережить их. Поэтому она молчала и ждала.
«Бабушка рассказывала, что она могла часами прислушиваться к шуму листвы…»
Мария еще около часа пролежала в кровати, наблюдая за лесом до тех пор, пока грань между проецируемым и реальным миром не смылась. Ей начало казаться, что она действительно там, в лесу среди деревьев. Она почти чувствовала тепло солнца. Настоящего солнца, а не того искусственного подобия – Люмени, которое, в зависимости от времени дня, включается или выключается.
Таня безошибочно поняла, что Мария собирается вставать. Она включила основное освещение, но убавила яркость, чтобы не ослепить пользователя.
– Что там с исследованием?
Мария уже сходила в душ, оделась и сейчас, наливая себе кофе, пыталась освежить в памяти последние результаты работы.
– Очевидно, что ошибка алгоритма заключалась в отсутствии изменяющейся величины траектории.
– Точно, но мы это быстро исправим.
Люмени уже включилось, его свет постепенно, с течением дня, становился всё ярче. Сейчас свет был еще тускл, но первые лучи уже упали на подоконник.
Таня знала, что пользователь не завтракает. Обычно она проверяет результаты своей работы, поэтому ИИ решил спроецировать перед пользователем схему и коды так, чтобы можно было в полной мере оценить результаты. Данные в характерном зеленом цвете повисли в воздухе перед Марией. Таня могла отразить что угодно, где угодно и когда угодно для удобства пользователя. Мария поводила руками по воздуху, удаляя ненужное и, наоборот, добавляя необходимые детали, и вздохнула:
– Да, сегодня придется поработать.
– Результат не будет напрасным, мы ведь летим на Луну.
Таня знала, что пользователю приятно одобрение. И это важно для стабильного эмоционального состояния, а значит, и плодотворной работы.
– Напомни мне, зачем мы это делаем?
В последнее время пользователь часто задавался таким вопросом, и на это Таня подготовила достойный, по ее программному мнению, ответ. Она не сказала ничего, а вместо этого вывела на одну из стен видео Президента:
«Нам нужна цель. Нам нужно предназначение. Мы, оставшиеся люди на Земле, должны жить дальше, должны смотреть на то, что за пределами нашей планеты. Мы не обращали внимания на приютивший наш вид мир, думали, что будем жить вечно, но ошиблись. Я призываю вас объединиться и вместе создать основу для будущих путешествий среди звезд. Мы должны творить, строить, развиваться и искать новые территории и, возможно, новую Землю».
– Катастрофы прошлого подтвердили, что расширение зоны обитания гарантирует выживание человеческого вида во Вселенной, – добавила Таня.
– Да, я знаю. Мы должны смотреть вперед, мы должны стремиться к развитию и совершенствованию. Спасибо, Таня.
Мария провела рукой по воздуху, отправив данные на планшет. Таня переключилась с «домашнего» режима на «рабочий», отправила необходимые команды «Умному дому» (убраться, высушить одежду, выключить освещение и т.д.), перевела свои коды на запястье пользователя, «переместившись» к ней на руку. Таня всегда была рядом с пользователем: таково было ее предназначение.
Спустившись на лифте в паркинг, Мария села на заднее сиденье электромобиля. Пока Таня проводила диагностику систем и передавала команды (проверяла работоспособность двигателей, колес, навигации, внутреннюю температуру, и т.д.), Мария смотрела по сторонам. Все остальные машины в паркинге стояли на своих местах: видимо, соседи еще спали, и она вышла из дома первая.
– Сегодня я бы посоветовала позавтракать. Работы много, понадобятся силы.
Выехав из здания, Таня направила электрокар в один из скоростных туннелей Города на поверхности.
Мария числилась сотрудником Корпорации и работала в научно-исследовательской лаборатории проектирования космических ракет. Как только она добралась до своего рабочего места, тут же приступила к анализу данных. Микросхема, над которой она работала, была лишь одним мельчайшим винтиком в будущей системе космического корабля. Когда-то она мечтала разрабатывать навигационную систему, но для этой работы нашлись люди поумнее. «Эта работа тоже важна, – говорила себе Мария, – каждая деталь является частью чего-то большего. Без этой микросхемы всё будет работать не так, как должно, если вообще будет работать». Большинство сотрудников лаборатории не конструировали те системы, с которыми астронавтам необходимо будет работать непосредственно, но они проектировали ту основу, без которой полет в космос в принципе невозможен. ИИ всё время напоминал об этом Марии, уверяя, что каждое ее усилие окупится стократно, когда люди расширят зону обитания, тем самым обеспечив человеческой расе выживание.
Мария отвлеклась от работы только на время обеда: она прошла в столовую, взяла закуску со «шведского» стола, присела. В этот момент Таня обычно выводила на линзы пользователя статьи из газет, видео или любую другую интересную информацию, одновременно чутко прислушиваясь к любым разговорам в столовой, ведь ее предназначение заключалось также в том, чтобы предотвращать возможные негативные ситуации в жизни пользователя: она обращала внимание на информацию о новых проектах, изменениях в кадровой структуре и т.п. Возможно, кто-то даже будет сплетничать о пользователе: тогда Таня сможет составить программу по защите от возможных моральных угроз.
За ближайший стол сели двое молодых парней, что-то оживленно обсуждая.
– Ставлю тысячу, что если бы инопланетяне сейчас пролетали мимо Земли, то они бы даже не обратили внимания на эту планету, – сказал один.
– Если всё правильно проанализировать, то очевидно, что на Земле будут обнаружены следы присутствия неких развитых существ, ведь атмосфера планеты изменилась в какие-то секунды в сравнении с временем ее формирования в Солнечной системе. Они поймут, что если бы не вмешательство кого-то в естественный порядок вещей, то такого бы не произошло, – предположил другой.
– Предположим, каким-то чудом они не пролетели мимо нашей планеты, проанализировали состав атмосферы и сделали вывод, что на ней обнаружены следы каких-то живых существ. Вопрос, зачем им останавливаться около планеты, жители которой уничтожили свой дом? – спросил первый.
Парень не ответил, задумался. Тут к ним подбежал, по всей видимости, их общий знакомый. Таня зафиксировала его учащенное сердцебиение, тремор и сильнейшее волнение.
В этот момент к пользователю обратилась Кэтрин Стивенс – руководитель лаборатории, но, из-за происходящей рядом суматохи, они на мгновение отвлеклись.
– Трэвис, что случилось? Почему ты такой… запыхавшийся?
– Ребята, никто не видел мой прототип?
– Какой еще прототип?
– Ну тот, о котором я рассказывал, для ускорения роста растений.
Ученые переглянулись:
– Нет. Насколько мне известно, никто даже не дотрагивался до него, кроме тебя. Ты ведь запретил кому-либо подходить к нему. Сказал, что ты соревнуешься с кем-то и не хочешь, как мы говорим по-русски, чтобы тебя кто-то сглазил.
– Черт, черт, черт, – выругался Трэвис.
– Спокойно, мы что-нибудь придумаем. Ты только скажи, где ты его в последний раз видел?
– Где-где, у себя в лаборатории конечно. Я закрыл его стеклом, установил пароль перед выходом из кабинета, как всегда. Вернулся – а прототипа нет!
– Здесь слишком шумно, – сказала Кэтрин, – я хочу поговорить с тобой наедине.
Стивенс повела Марию в свой кабинет, предложила присесть.
– Сара гордилась бы твоей работой. Мне жаль, что она так неожиданно покинула нас, – с сожалением произнесла Кэтрин.
– Да, мне тоже.
– Твоя работа очень важна. Руководство обращается к тебе с просьбой ускорить процесс.
– Что-то случилось? Я соблюдаю все сроки.
– Не в этом дело. Ты знаешь, что эта микросхема очень важна, ведь это одна из определяющих частей, ответственных за функционирование последней ступени ракеты – мы должны задать правильное направление кораблю, чтобы тот долетел до Луны.
– Мне казалось, что системы включения ускорения двигателей не будут настолько сильно зависеть от автоматического задания системы координат, ведь курс будет корректироваться. Я предусмотрела такую возможность.
– Руководство хочет сделать работы ракету автономной. Конечно, варианты корректировки будут предусмотрены, но основная задача состоит в том, чтобы отправить ее на орбиту, а затем лишь мониторить состояние систем.
Таня задумалась.
– Тогда мне нужно разработать две микросхемы, чтобы система могла автоматически анализировать, сравнивать показатели и выбирать наиболее приемлемые.
Кэтрин кивнула. Марии ничего не надо было больше говорить.
Она вернулась на свое рабочее место и тяжело вздохнула. Ей никогда не нравился прессинг со стороны, она начинала паниковать, когда сроки сокращали. «Но почему они хотят сделать этот процесс автоматическим? – все думала Мария. – Неужели никто не будет координировать действия с Земли? Хотя… возможно, так даже и лучше, ведь тогда у всех будет меньше работы, а инженеры и ученые смогут сфокусироваться на анализе систем для применения данных в строительстве следующего корабля. Не могут же они отправить людей на Луну, а потом просто забыть про них».
Таня зафиксировала всплеск тревоги у пользователя. Она знала, что пользователь страдает расстройством, при котором тревога может перерасти в настоящую депрессию, если вовремя не пресекать такие состояния. Всё начинается с одной мысли, перерастая в настоящий сгусток тревог, из которых пользователь делает необоснованные выводы, начинает замыкаться в себе, копит негативные мысли и переживания, а потом… понятно, что ничего хорошего.
– Я провела кое-какие расчеты и сделала вывод, что в первичной микросхеме не хватает элемента…
