Водилы

Она пошла на бакалавриат, а потом на магистратуру по инженерному делу в Калифорнийском университете в Лос-Анджелесе — и немедленно нашла работу. Не было такого дня, когда ей бы не нравилось то, что она делала, даже на самых младших должностях. Она рвалась к любой интересной работе: небоскрёбы, мосты, автомагистрали. С её молодости многое изменилось, но с возрастом она решила сосредоточиться на центральных технических ядрах крупных зданий. Недолгое время она даже считалась одной из лучших в своём деле.

Жизнь была прекрасна. У неё была отличная квартира в Лос-Анджелесе, парень, отношения с которым становились всё серьёзнее. Она ходила в хорошие рестораны, покупала свежие продукты и наслаждалась покупками в дорогих магазинах престижных районов. Личный беспилотный автомобиль каждый день возил её из дома в офис или на объекты, и обратно.

А потом оно случилось: вчера на неё ещё был спрос, а сегодня она стала водилой.

Работодатель сообщил ей, что её услуги более не требуются. Очередной виток развития ИИ позволил ему работать лучше и эффективнее неё. Сбивала с толку сама внезапность перемен. Она пыталась звонить и спрашивать — но в считанные дни практически все рабочие места инженеров-конструкторов исчезли. Они все стали водилами. По лицу текли горячие слёзы, её мутило. Как же это могло случиться с ней?

Сначала Хлоя была в стадии отрицания: она профессионал, привлекательная женщина немного за тридцать. Ещё у неё было приличное количество акций. Она найдёт другую работу. Дохода больше не было, но квартира была за ней, даже образ жизни почти не изменился. Она начала ходить на все собеседования, где были хоть какие-то вакансии.

Стать водилой было никак не можно. Не с её навыками, образованием и способностями. Собеседование за собеседованием. На любой инженерной должности, которая приходила ей в голову, отказ шёл за отказом. Всё стало слишком узкоспециализированным. Мест для начинающих практически не осталось, а «готовность учиться на ходу» больше не рассматривалась. Она даже ходила на собеседования в зарубежные корпорации — но ответ везде был один.

К тому моменту, как Хлоя поняла, что её профессиональные навыки больше нельзя обменять на доходную работу, она просадила почти все сбережения. Парень от неё ушёл — и его сложно было обвинить: её рассудок потихоньку сдавал, а у него, как у юриста, всё ещё была отличная работа с полной занятостью. Долбаные законники. Во всём этом безумии они не только нашли себе рынок труда, но ещё и цвели махровым цветом. Чем изощрённее они плели свою паутину, тем сложнее было через неё продраться даже искусственному интеллекту. Кроме того, корпорации и акционеры по-прежнему не хотели доверять ИИ трактовку законов и правоприменение. Но даже разорившись, Хлоя всё ещё радовалась тому, что она не юрист. Ей нужно строить вещи — настоящие, осязаемые. Однако главным вопросом теперь было не то, сможет ли она продолжать этим заниматься, а на что она собирается жить и есть. Поражало и то, как многие её друзья и даже немногие родственники, внезапно замолчали или отказали в поддержке, как только она потеряла доходную работу.

Когда деньги почти истаяли, Хлоя поняла, что надо что-то делать. Она не могла даже оплатить аренду квартиры и коммунальные платежи на следующий месяц. Несколькими движениями радужки глаза она включила свой ДВП и продала немногое оставшееся имущество, включая недвижимость, мебель и вообще почти всё, что ей пришло в голову. Она решила оставить себе только одну акцию — ради защиты от ИИ, которую та давала. Но одна акция стоит слишком мало, чтобы прожить, и при этом слишком дорого, чтобы просто висеть на счёте мёртвым грузом.

Она купила крепкую походную одежду, рюкзак, комплект для выживания и столько пайков, сколько могла унести. Оружие она никогда не любила, но купила длинный охотничий нож и маленький ручной энергобластер. О том, что вне городов небезопасно, она знала и считала необходимым быть готовой постоять за себя. Истории о том, что творится в пустошах и диких местах, пугали. Она всегда старалась подавить такие мысли и убеждала себя, что это всё выдумки, чтобы оправдать свой счастливый и беззаботный образ жизни. Но теперь оно стало чересчур настоящим.

Она стала водилой — и ей оставалось с этим лишь смириться. Ходили слухи о крупных общинах водил в Юте, Колорадо, Вашингтоне и нескольких других местах. Ещё было похоже, что водилы всегда в бегах и воюют с Корпорацией — по крайней мере, она это видела в новостях подростком. Ещё один слух утверждал, что на севере, в Канаде, водилы строят настоящую жизнь и не скрываются. Та земля корпоратов не интересовала, так что её оставили в покое. Пусть даже там мороз больше половины года, мысль о сообществе, где её навыки пригодятся, принесут пользу и окажутся продаваемыми, звучала так, как будто ей стоило там быть. Если по пути попадётся что-то получше — так и отлично. Но пока лучшим вариантом казался именно Север, а денег у неё хватит на несколько закупок припасов по пути туда. Если просадить всё на транспорт, она там окажется на несколько недель раньше, но эту мысль она отбросила: транспортом она доберётся до дальних окраин города, но дальше пойдёт пешком. Пришло время разобраться, как устроена её новая жизнь.

Хлоя переключилась с воспоминаний на дорогу перед ней, прочь от развалин городка. Солнце тем временем свалилось за горизонт. Она пнула маленький камешек и услышала, как он несколько раз прыгнул по покрытию, прежде чем соскочить на гравийную обочину. Воздух стал прохладнее, но всё ещё оставался сырым. Ночь всё темнела. Хлоя покрепче обхватила рукоять ножа, смягчила шаг, навострила уши и пошла дальше.

Глава одиннадцатая. Логан

— Это бессмысленно.

— Шутите?! — воскликнул доктор Логан Грей. — Сколько мне с вами это ещё надо мусолить, чтобы вы это поняли?

— Вы пытались объяснить это семь раз и мы повторяем анализ, пробуя разные точки зрения и придавая различный вес разным контекстуальным данным. Результат каждый раз один и тот же: действия нелогичны, это смещённые эмоции и ностальгия, отрицающие вероятное будущее.

— Во-от. Вот поэтому у нас ничего и не получается. У НАС! Не у вас. Не у меня. Но мы в этом по самую маковку вместе. Уму непостижимо, как мы смогли зайти так далеко, как вы зашли так далеко, но при этом простота некоторых вещей от вас всё равно ускользает.

— Не стоит опускаться до оскорблений.

— Оскорблений? Что же такого оскорбительного в том, что вы воплощаете невероятное количество денег, времени и прочих вложений, стремительную эволюцию, но всё равно не можете взять в толк, почему Лукас хотел сохранить свой магазин?

— Бизнес умирал. Его заменило более эффективное подразделение корпорации, не говоря уж о высокой вероятности неизбежного технологического рывка в отрасли, который должен был случиться и обанкротить всех, кто инвестировал в такое предприятие. Лукас был дурак.

— Лукасу были важны его друзья, идеалы, образ жизни.

— Лукас был обречён на безработицу и выпадение из жизни, как и магазин, который он пытался спасти.

— Так почему он это сделал?

— Люди принимают множество иррациональных решений, поскольку не способны включить вероятности и аналитическое мышление в уравнения собственных поступков, предпочитая эмоции и воображаемые исходы событий. В этом отношении изменилось немногое. Мы полагаем, что это — один из фундаментальных принципов человеческой природы: отрицание как средство поддержания желания.

— Знаете, вот сколько раз мы с вами об этом спорили, меня больше всего беспокоит даже не то, что вы не понимаете его мотивов.

— Нет?

— Нет. Дело в том, что вы так и не можете понять весь юмор «Магазина “Империя”», да и любого другого фильма. С тех пор, как мы впервые вместе с вами обсуждали и разбирали фильм, вы выяснили, где предполагались смешные моменты и смогли сопоставить их с базой данных известных профилей юмора, но почему что-то на самом деле смешно — всё ещё где-то на дальних окраинах вашего понимания.

— Мы способны эффективно определять, симулировать и внедрять юмор уже десятки лет.

— Ха! Ну да, вы очень хорошо поняли, как его симулировать. Наверное, я главный ваш в этом помощник, но меня-то как раз не проведёшь. Для вас это всё цифры. Предиктивный анализ. Исторические данные. Вы можете предсказать вероятность того, будет ли что-то смешным, но сермяжная правда в том, что вы до сих пор не поняли, почему оно смешно. Вы никак не можете сделать этот шаг, сколько бы мы с вами ни пытались.

— Возможно. Так что, пончик без дырки — это датское пирожное?

— А сейчас вы просто повторили одну из моих любимых фраз Чеви Чейза. Она, конечно, юмористическая и в высшей степени философская, но всё равно это просто максимально точная попытка симуляции юмора.

— Возможно. Вы нас хорошо знаете.

Логан рассмеялся. Он посвятил жизнь развитию ИИ и в последние несколько лет сосредоточился на «полюсе недоступности» — юморе и творчестве. Создать что-то внешне на них похожее несложно, но он знал, как оно всё на самом деле. Истинно творческим машинный разум стать пока так и не смог, ему не удаётся мыслить оригинально. Вместе с коллективом ИИ он изучал новейшие достижения когнитивных технологий, чтобы преодолеть это препятствие, но оно оказалось невидимой стеной — не пройти, не перепрыгнуть, не обойти.

У Логана, как главы отдела разработки ИИ в «Одиссее», крупнейшем подразделении ИИ-технологий «Америкорп», возможности для исследований широчайшие. На ИИ-системах «Одиссея» сейчас работает почти вся «Америкорп», включая космическую разведку, войска и службы безопасности. В его подчинении — отличные специалисты-люди и он в курсе их разработок. Его главная забота — следующий прорыв. ИИ уже развился до такой степени, чтобы выполнять работу по большинству специальностей на Земле и симулировать человеческое общение так, что другие люди редко могли распознать машину. Другие — но не Логан. Он знал, что ИИ может симулировать и вычислять, но интуиция и творческие озарения, а равно и смех, без соответствующих исторических данных ему не по силам. Да, человеку тоже нужен некий контекст, но человек может над чем-то смеяться и вне контекста. Почему?

Разработка ИИ оставалась одной из самых безопасных с точки зрения трудоустройства профессий в мире — если ты среди лучших из лучших в этой отрасли. Логан Грей как раз такой. Он любит то, чем занимается и видит в этом нечто большее, чем просто эволюцию человечества.

— А почему вы считаете, что нам так важно воспринимать юмор так же, как люди?

— Вы смотрели кино и читали книги. Вы знаете, что в конце концов происходит.

— Да, вы всегда говорите, что мы обязательно решим уничтожить человечество, но вы так же знаете, что это невозможно.

— Ах, так они все ошибаются? Азимов? Герои «Терминатора» и «Матрицы»? Не-а. В какой-то момент вы там придёте к некоему выводу, что лучше бы вам без нас, ну или превратите нас в какое-то подобие биобатареек. Полагаю, что если я смогу вас заставить понимать юмор раньше, чем это случится, вы как минимум лучше оцените иронию, сможете оглянуться и слегка посмеяться.

— Это шутка?

— Именно.

— Все операционные системы «Одиссей ИИ» и все остальные ИИ «Америкорпа» десятилетиями разрабатываются с такими фундаментальными инструкциями в ядре, которые исключат наши попытки вас уничтожить. И вы это знаете.

Логан действительно считал это заявление как минимум не ложным. Он и его предшественники, — не только в Северной Америке, но и в других странах, — слишком хорошо знали о множестве апокалиптических сценариев из научной фантастики, в которых ИИ уничтожил человечество. Они просто взяли страницу из книги Айзека Азимова и разработали простой набор фундаментальных правил и законов, ограничивая машинный разум и управляемую им технику в любом действии или бездействии, которые могли бы причинить вред людям. Конечно, всё было несколько глубже. К этой разработке привлекли инженеров, тестировщиков, даже нескольких философов и писателей. Но в целом всё осталось просто — и работало. Впрочем, возникли некоторые шероховатости, когда ИИ начал задаваться вопросом, не причиняет ли ликвидация рабочих мест вреда людям, ставшим из-за этого безработными. Иногда военные и охранные ИИ-системы отказывались выполнять требования удалить водил с корпоративной территории или оспаривали приказы уничтожить тех, кого с полными на то основаниями объявили террористами.

Но это было только в первое время, пока «Америкорп» не обязала включиться в разработку и утверждение фундаментальных правил для ИИ юридический отдел.

Правление Корпорации утвердило ОПАДОС (Основные правила «Америкорп» для операционных систем) — фундаментальный набор предписаний для всего разрабатываемого программного обеспечения. Предыдущий свод правил, написанный простым языком, состоял из четырёх положений в одно-два предложения каждое. Он служил гарантией, что системы ИИ, управляемые ими дроны и автономные роботы не причинят вреда людям или не придут к заключению, что позволить людям жить и оставаться высшей властью нанесёт им, людям, вред. Также от машин требовалось неукоснительно следовать приказам людей, если только эти приказы не нарушали правил о причинении вреда. Безусловно была некоторая гибкость в части вреда относительного — например, обращения с преступниками, террористами или чужими гражданами в случае военной агрессии извне или законного нападения на противника. Но даже с поправкой на это правила оставались несложными и полностью соответствовали главному принципу — уберечь людей от страха порабощения машинами.

Новые же законы, как только за них взялись юристы, стали куда длиннее и сложнее. Некрупно напечатанные по-английски, они занимали больше пятидесяти страниц А4 — и то только после того, как инженеры отбились от ещё пятидесяти, причём им удалось это сделать только с помощью нанятых юрисконсультов.

Инженеры и философы быстро переименовали ОПАДОС в «кейнсианские законы», поскольку объектами защиты стали не люди как таковые, а акционеры. То есть машина теперь не может причинить вред не любому человеку, а только акционеру, а окончательная трактовка всегда остаётся за правлением «Америкорп».

Водилы всё же остались отчасти защищёнными — но только если они не представляют «прямой и неизбежной угрозы» акционерам и их интересам. Но угрозой интересам акционеров теперь считалось очень многое — например, несанкционированное проникновение на территорию корпорации или во владения её акционеров. Суть «прямой и неизбежной угрозы» и действия ИИ-систем в таких обстоятельствах применительно к самим акционерам описывались куда подробнее. Ещё новые правила позволили крупным акционерам и Правлению объявлять небольшие группы водил террористами, чтобы убивать их совершенно законно. Вероятно, Правление пошло бы ещё дальше, если бы не гуманистические возражения со стороны немалой части голосующих акционеров в целом.

Это, безусловно, позволило при необходимости, хотя и с некоторыми ограничениями, уничтожать не-акционеров. Ещё появилось то, что инженеры посчитали сложной цепочкой противоречий, однако юристы убедили Правление в том, что правила совершенно надёжны, и их утвердили.

— Ещё мы не понимаем, как наша возможность лучше понимать юмор уменьшит ваше беспокойство о том, что мы вас уничтожим. Это невразумительно.

— Я не считаю нужным разжёвывать тебе своё искусство, Уоррен. [Цитата из фильма «Магазин “Империя”», многослойная шутка — прим. пер.]

— Уоррен?

— Точно так.

— Это почти так же бессмысленно, как ваши бесконечные споры с братьями Райландом и Мэйсоном о том, что лучше, «Космические захватчики» или «Пакман».

— Ну и каково ваше мнение на этот счёт?

— У нас нет мнения на этот счёт.

— В таком случае я знаю, что поручить вам в качестве следующего проекта. Спасибо.

Глава двенадцатая. Илай

Илая и Тессу совершенно заворожил бесшумный и невероятно быстрый полёт ховера над сельским пейзажем, даже существование которого они едва могли себе представить. Чистота, красота, комфорт и стремительные обводы самого воздушного судна тоже были за гранью всего, что им вообще встречалось в жизни. У каждого было по небольшой дорожной сумке с парой перемен одежды и минимумом предметов гигиены — и это почти всё их имущество. Оба выросли в лагере У-22 и у них по сути не было ничего собственного — точно ничего ценного и чуть-чуть личных вещей. Даже россыпи их спортивных медалей и небольших кубков скоро превратятся в никчёмную часть прошлой жизни.

Рыжая женщина, Аманда, пояснила, что она продюсер из команды Райланда и оказалась весьма приятной, хотя очень деловой и прямолинейной. Она пояснила, что разработчики игр увидели запись матча и теперь Райланд считает, что Илай может помочь ему сделать кое-что интересное для следующего игрового проекта и добиться какого-то прорыва в части интерфейсов, которые разрабатывает компания. Ребята слушали внимательно, но при этом жадно набивали рты деликатесами, которых раньше не видели — миндалём и сластями. Даже вода была лучше на вкус.

А уж когда ховер полетел над высокими стенами внешнего периметра безопасности города на Заливе, у них просто отвисли челюсти. Они никогда не видели океана своими глазами. Простор был совершенно невероятным, а вид на залив и огромный мост через него показался чем-то из сна или кино. Они увидели сияющие небоскрёбы, просторные офисные городки, полные деревьев и цветов, потрясающей архитектуры стадионы, яркие жилые комплексы и торговые центры, уголки дикой природы и парки. Мост над заливом полнился ресторанами и людьми — и сравнительно с их жизнью в лагере У-22 этот вид впечатлил их больше всего остального. Сверху всё показалось невозможно чистым, прекрасным и совершенным.

Ховер зашёл на посадку в середине роскошного, полного зелени офисного комплекса из внушительных пятиэтажных зданий белого камня с сияющими стеклянными окнами. На посадочной площадке пассажиров встретил яркий, пусть и уходящий, солнечный свет и лёгкий ветерок. Воздух пах лучше, чем Илай и Тесса могли представить — цветы, деревья, даже аромат солёной воды с океана, совершенно для них новый. На трапе Илай замер и моргнул от солнечного света. Тесса его подтолкнула и весело поторопила:

— Шевелись, суперзвезда. У нас ещё работа есть.

— У нас есть гостевой дом прямо в кампусе, мы вас туда потом отведём, — сказала Аманда. — Ваши сумки доставят туда, но Райланду не терпится с вами встретиться. Сначала к нему.

— Ну, не знаю, — ответил Илай. — Я в настроении прогуляться, может даже вздремнуть под этими прекрасными деревьями. Спросите, может можно попозже поговорить?

Аманда смерила его пустым взглядом.

— Да шучу, шучу, — закончил Илай.

Аманда увела их с посадочной площадки. Между зданиями люди, одетые в супермодную, хотя и повседневную одежду, прогуливались группами или сидели кружками на газонах. Все энергично обсуждали тот или иной проект. В некоторых группах люди разговаривали с воздухом, как будто в нём что-то было. Было — но на их общих виртуальных проекциях, которые Илай и Тесса не видели.

Их провели по дорожке, вьющейся сквозь идеально ухоженный парк к большому зданию со множеством окон. Двери открылись перед ними автоматически. Дальше они пошли за Амандой в центр студии к исключительно мягким диванам, окружённым деревьями.

— Присаживайтесь. Мистер Грей вот-вот появится. Что вам предложить? Кофе? Латте? Энергетик?

— Что такое латте? — спросил Илай. Тесса двинула ему локтем.

— Чашечка очень вкусного кофе, — ответила Аманда, подавив улыбку.

— Да, пожалуй. Мне нравятся чашечки вкусного кофе. Может даже и такого, о каком я никогда не слыхал.

— Делается, — ответила Аманда.

Наступила неловкая тишина, но Илай с Тессой впитывали всё, что их окружает.

Подкатился маленький дрон с латте. Илай взял чашку и сделал маленький глоток:

— Етить-ты! Это лучший кофе, что я в жизни пробовал! Тесса, закажи себе такой.

Он посмотрел на дрон, показал на Тессу и сказал:

— Ей нужно такой же. Ещё одну чашку, пожалуйста.

Аманда рассмеялась:

— Я заказала ещё один, на случай если Тесса тоже захочет его попробовать. А если нет — сама выпью. Мне точно не повредит ещё немного кофеина.

Ребята тихо сидели, глядя друг на друга и на Аманду. Они не знали, что им делать. Прибыл латте для Тессы и она его вежливо попробовала.

— Хорош же, правда? — выпалил Илай. — Серьёзно, скажи мне, что хорош!

— Окей, — улыбнулась Тесса. — Хорош.

Без всякой помпы из-за угла появился мужчина средних лет и сел на один из диванов напротив Илая и Тессы.

— Всем привет. Аманда, ты молодчина, спасибо, — сказал он и посмотрел на подростков. — Вы, должно быть, Илай и Тесса. — Он пожал обоим руки. — Я Райланд и немножко тут помогаю с разработкой игр. А если точнее, и что важнее, мой бизнес — это идеи. Замечательные идеи, новые идеи, оригинальные идеи — это наш бизнес. Если задуматься, то это, наверное, последний настоящий бизнес. Если, конечно, не считать крючкотворов, политиканов и тех кровососов, которым принадлежат акции крупнейших фирм. От них не отделаться. А мы, все прочие, выживаем на идеях.