скачать книгу бесплатно
– Мои родители – учёные. Занимаются проблемами искусственного интеллекта, – стала сочинять Полина. С Ильёй познакомилась случайно. Он сделал мне предложение стать его женой.
– И что вы ответили? –в глазах у матушки засветился неподдельный интерес.
– Пока ничего.
– Есть сомнения? Он мальчик хороший, но с небольшими странностями.
– Мне он нравится, но одно обстоятельство может его не устроить.
– Такая прекрасная девушка. Чего ему не хватает?
– Лучше спросить у него.
– Илья, что тебя не устраивает?
– Мамуля, давай не будем спешить. Я думаю, всё устроится, – поспешил я замять неприятный разговор.
– Как всегда что-то не договаривает, – недовольно поморщилась матушка. – Ну, ладно. Давайте я сыграю вам кое-что из времён моей молодости.
Она села за старенькое пианино и исполнила несколько популярных произведений.
– Полина, а вы не увлекались пением? – спросила она.
– Могу спеть несколько романсов, – неожиданно ответила моя помощница.
Я застыл в изумлении. Неужели она способна на это? Оказалось, что способна, да ещё как.
Когда мы уходили, матушка заявила: «Илюша, будешь болваном, если не женишься на этой девушке».
Дома я высказал Полине искреннее восхищение.
– Подобного я не ожидал. Матушка, будучи проницательной женщиной, не заподозрила никаких подвохов. Ты успешно прошла испытание. Откуда у тебя жизненный опыт, обширные знания? Даже старые романсы исполнила.
– Я быстро осваиваюсь в окружающем мире за счёт информационной поддержки. Роботы моего типа объединены защищённой коммуникационной сетью, через которую обмениваются необходимыми сведениями или получают их из общих глобальных источников.
– Здорово. За короткое время ты меня убедила, что не являешься примитивным устройством. Тебя трудно отличить от настоящей женщины, поскольку налицо правдоподобная внешность, естественная мимика, правильно построенная речь, осмысленные выражения. Твой создатель Володин – гений. Но наружные проявления – это малая часть человеческой сущности. Ещё есть характер, внутренний мир, чувства, мысли, переживания и т.д. На что ты способна в этом плане – вопрос. Я убеждён, что человек не может создать разумного существа, равного себе по интеллектуальным способностям. Хотелось бы узнать, как далеко продвинулся изобретатель «умных» роботов.
– В статьях, опубликованных Володиным на специализированных порталах, говорится, что «умные» роботы лишены человеческих чувств, могут лишь их имитировать и в своих поступках руководствуются результатом аналитического анализа ситуации и рассмотрением известных прецедентов, – заявила Полина.
– Для начала неплохо. А как ты относишься к людям? – задал я провокационный вопрос.
– У роботов есть свод правил, которые нельзя нарушать. Одно из них гласит: «Люди – наши хозяева. Мы должны заботиться о них и выполнять порученную работу».
– А есть ли в вашем кодексе правило самосохранения?
– Есть.
– Тогда представь, Полина такую ситуацию: нехороший человек или преступник хочет тебя уничтожить. Что будешь делать?
– Попробую обмануть его или убежать. Насильственные действия по отношению к человеку недопустимы.
– Но тогда, скорее всего, ты погибнешь.
– Человеческая безопасность приоритетнее самосохранения.
– Ценный принцип, но не всегда разумный.
– Он не обсуждается и подлежит безусловному исполнению.
– Ты считаешь, что искусственный интеллект будет лишь помогать людям, облегчая их жизнь, и не захочет стать полновластным хозяином Земли.
– Конечно. Мы ограничены в своих поступках сводом правил, о котором я говорила. Альтеры не могут его изменить.
– Зато могут сделать люди-злоумышленники. Где хранится ваш свод правил?
– Об устройстве «умных роботов» мне известно немного. Это секретная информация.
– К сожалению, преступники нередко раскрывают секреты. Тогда жди большую беду.
– Если снять все ограничения, то роботы, подобно людям, будут совершать преступные деяния. Это побочный эффект безграничной свободы. Плохо, что ваши законы не выполняются всегда. Люди иногда их нарушают. Человеческое общество устроено не идеально.
– Здорово, искусственный интеллект указывает своему создателю, что он живёт неправильно. Ладно, Полина, давай закончим беседу. Интересно с тобой общаться. Не думал, что ты на это способна.
После увольнения жизнь стала размеренной и беззаботной. В десять часов утра меня будила Полина. Я умывался и шёл на кухню. Во время завтрака она сообщала последние новости, почерпнутые из глобальной сети. Потом мы гуляли под ручку в городском парке, изображая влюблённую парочку. Часто встречались знакомые, многие из которых потеряли работу. Все возмущались бессовестными и корыстными хозяевами фирмы. Некоторые предлагали собраться и потребовать возвращения сотрудников на рабочие места. Я считаю, что это мероприятие ни к чему хорошему не приведёт. Полиция разгонит неразрешённый митинг, ведь хозяева фирмы законов не нарушали. Полина права: наше неидеальное общество требует радикальных перемен.
После обеда на сайтах предприятий просматривал возможные вакансии и не находил ничего подходящего. С каждым днём их становилось всё меньше. Искусственный интеллект стремительно монополизировал всю производственную деятельность. Люди становились ненужными бездельниками.
Вечером наступала пора развлечений. Мы с Полиной отправлялись в ресторан, театр, иногда в игровой клуб, где ей удивительно везло. Поздно вечером возвращались домой. Я принимал водный массаж и усталый ложился спать.
Я привык к Полине. Она оказалась практичной и заботливой хозяйкой, интересной собеседницей и прекрасной спутницей в развлечениях.
Счастливые дни незаметно летели один за другим. Однажды после обеда Полина сообщила, что получила уведомление о профилактике, отлучится и через час вернётся домой. Но прошло восемь часов, за окном потемнело, а моя помощница не появлялась. Я не знал, что и подумать. Только в полночь послышался шум открывающейся входной двери. Вошла Полина.
– Ты где пропадала? – спросил я.
– В пункте сервисного обслуживания. Там собрались роботы, закупленные фирмой. Всем сообщили, что обновляется алгоритмическое обеспечение. Я сразу заподозрила неладное. Все обновления осуществляются дистанционно по нашей общей коммуникации. Я подумала, что работники пункта вносят в роботы незаконные изменения, и вспомнила наш разговор об опасности искусственного интеллекта.
– Тебе что-нибудь делали?
– Нет. Я подговорила нескольких роботов бежать. Обманув тупых охранников, мы бросились в разные стороны. Меня долго преследовали, пока не удалось оторваться от погони.
– Умница. Но сюда они могут прийти. Скажу, что ты пропала. Некоторое время тебе лучше не выходить из дома.
– Хорошо.
– То, чего я боялся, похоже, случилось. Кто-то затеял большую игру, и всем нам не поздоровиться.
Глава 2
«Быть тебе неудачником, Резин», – распорядилась судьба, едва я появился на свет, и несчастья обрушились на мою голову. Рано умерла мать, и за моё воспитанием взялся отец, слабый, но амбициозный человек, который не мог обеспечить семью достойными средствами существования. Он требовал полного подчинения, наказывал за любой проступок, постоянно твердил нудные нравоучения, запрещал общаться со сверстниками, не допускал никаких развлечений. С ранних лет я подрабатывал: убирал территории, доставлял покупки, ухаживал за больными. Домашнюю тюрьму возненавидел, пытался бежать, но отец каждый раз находил меня и возвращал назад. Повзрослев, порвал все связи со своим мучителем, постарался забыть мрачное детство и с надеждой на лучшее будущее вступил в самостоятельную жизнь. Она немного меня потрепала, пока я не понял, что настоящую свободу дают власть и деньги, за них надо бороться, безжалостно расталкивая конкурентов. После долгих раздумий о дальнейшей жизни родился авантюрный и дерзкий план.
Современную жизнь кардинально изменили роботы. Они заняли рабочие места в промышленных и сельскохозяйственных предприятиях, торговле, на транспорте, в сфере всевозможных услуг. Люди, оставшиеся без работы, возненавидели владельцев предприятий, которые ради получения большой прибыли выгоняли на улицу своих работников и использовали «умных» роботов. Эти так называемые альтеры быстро осваивались и с успехом выполняли порученную работу. Они трудились круглые сутки, лишь иногда прерывались для проведения профилактики. Злую шутку сыграл над людьми технический прогресс.
Я упорно искал своё место в глобальной роботизации, ставшей самой перспективной сферой деятельности. Компания «Робоком», занимающаяся разработкой и производством «умных роботов», открыла в городе сервисный центр. Был проведён конкурс на должность директора центра. Я принял участие и выиграл. Кажется, полоса невезения осталась позади. Это событие обрадовало и воодушевило меня. Возглавив сервисный центр, занялся подбором сотрудников. Нашёл классных специалистов в области искусственного интеллекта. На их плечи легла основная работа по сервисному обслуживанию роботов. Для охраны центра и специальных поручений пригласил несколько накачанных парней.
Компания «Робоком» в своих «умных» роботах использовала патенты изобретателя Володина. Я очень рассчитывал на этого создателя самообучающего искусственного интеллекта и искал встречи с ним. Фортуна опять мне улыбнулась: Володин приехал в местный университет с курсом лекций. Там я познакомился с ним и договорился о разговоре. Он состоялась в лучшем городском ресторане.
Прибыв заранее, я сделал заказ. Роботы-официанты быстро накрыли столик и расставили вино, закуски, фрукты. Опоздав, появился запыхавшийся Володин, худощавый человек среднего возраста, небрежно одетый, с взлохмаченной шевелюрой. Типичная творческая личность, погруженная в свои изыскания и оторванная от окружающей действительности. Он извинился и рухнул в кресло напротив меня.
– Так о чём вы хотели поговорить, господин …, – запнулся он.
– Резин, – напомнил я.
– Извините забыл.
– Интересно ваше мнение о конфликте людей и роботов.
– Господи, опять надуманные ужасы, которыми невежественные журналисты пугают доверчивых людей. Да нет никакого конфликта! Роботы – это великое благо. Они избавляют нас от тяжёлой, опасной, нудной работы, освобождая время для творчества.
– Но ваши «умные» роботы лишают не нудной работы инженеров, врачей, научных сотрудников. Единственная область, где пока ограничено их использование – административные и силовые структуры.
– В этом нет ничего страшного. Люди должны взять на себя управляющую роль во всех процессах деятельности, а роботы будут выполнять их планы, решения, требования.
– Не боитесь, что люди скоро окажутся лишними на Земле. Кстати, альтеры смогут существовать без нашей поддержки?
– Интересный вопрос. Что касается безопасности роботов, то можете не беспокоиться. Они призваны служить людям и не поднимут восстание против человечества, как пишут писатели-фантасты. В каждом из них заложены правила, которые запрещено нарушать. Об их самостоятельности говорить пока рано, но это вопрос ближайшего будущего.
– Роботы стали многочисленной разумной силой, которая рано или поздно начнёт конкурировать с нами, достаточно изменить свод правил.
– Роботы не могут менять правила.
– Но знающие люди, наверняка, смогут.
– Мне не хотелось бы говорить об этом, – поморщился Володин. – Люди в отличие от роботов могу натворить множество гадостей. Человеческий мозг далёк от идеала. Это несовершенный продукт длительной эволюции. Вы знаете, что мы думаем, используя малую часть мозга, а остальная обслуживает потребности организма.
– А ваш искусственный интеллект лучше?
– Понимаю, на что вы намекаете: не мог я создать что-то лучшее самого себя. Сильная сторона «умных» роботов в том, что они являются коллективным разумом. Альтеры с помощью своей коммуникации постоянно связаны между собой, обмениваются информацией, помогают друг другу в решении сложных задач. Они имеют доступ к корпоративным источникам данных, способны обрабатывать огромные массивы информации. С этой точки зрения, люди намного уступают альтерам. Можно привести аналогию с двумя футбольными командами. Одна состоит из профессионалов, которые предпочитают действовать самостоятельно, а другая – из середнячков, которые исповедуют коллективную игру. Самое смешное, что середнячки обыгрывают профессионалов.
– Своя коммуникация может стать слабой стороной альтеров. Если хакеры получат доступ к ней, ваша стройная концепция рухнет, – усомнился я.
– Внешнее вмешательство исключено. При обмене данными используются эффективные средства защиты информации, которые не по зубам хакерам, – возразил Володин.
– Ваши роботы используют общедоступные источники в глобальной сети. Если туда помещать дезинформацию, то можно повлиять на их поведение в нужном направлении.
– Не удастся, господин Резин. Коллективный разум имеет информационный центр, который собирает сведения из доступных источников, анализирует их достоверность и размещает проверенные данные на виртуальных серверах. Роботы знают, как их найти.
– Но если злоумышленники всё-таки взломают защитные средства и модифицируют отдельных роботов, то они могут натворить бед.
– Такая возможность предусмотрена. Контрольный центр периодически проверяет соответствие поступков альтеров своду правил. При обнаружении нарушений блокирует работу неисправных роботов.
– Подобная структура напоминает мне царскую охранку. Она требует огромные ресурсы, чтобы держать под колпаком наблюдения множество роботов.
– Дело в том, что функции информационного и контрольного центров выполняют сами роботы. Такая организация стала возможной потому, что альтеры полностью доверяют друг другу. В их среде отсутствуют человеческие недостатки: ложь, обман, зависть, предательство и другие.
– Вы создали странное общество, в котором утопические идеи всеобщего равенства и братства сочетаются с тотальной слежкой.
– Не вижу ничего смешного. Общество альтеров по сравнению с человеческим более эффективное. Спорить не буду, пусть нас рассудит история.
– Господин Володин, позвольте задать нескромный вопрос: как оценили ваши изобретения?
– Исключительное право использования патентов на «умные» роботы я уступил компании «Робоком», руководство которой обещало золотые горы, а в результате обмануло, как последнего лоха. Прежде, чем связаться с жуликами, надо было нанять опытных юристов, а я этого не сделал. Теперь перебиваюсь лекциями, эксплуатируя свою известность.
– И не попытались оспорить сделку через суд?
– Бесполезно. Подписал документы, не читая. Понадеялся на порядочность Бугрова, генерального директора компании, а напрасно.
– Сочувствую. Все творческие люди в практических делах часто проявляют беспомощность. А Бугрова надо наказать непременно. Он должен осознать, что совершил страшную несправедливость. Готов вам помочь, если пожелаете.
– Не хочу вас затруднять.
– Вы меня не затрудните. Честно говоря, имею свои претензии к этому господину. Так что наши интересы совпадают.
– Что собираетесь предпринять?
– У меня есть интересное предложение: пусть нам помогут «умные» роботы, которые у «Робокома» купили предприятия города.
– Каким образом?
– Я помещу в сети статью о бессовестном обмане изобретателя «умных» компанией «Робоком» и призову роботов провести забастовку в поддержку их отца-создателя.
– Не получиться. Альтерам запрещено вмешиваться в дела людей.
– Давайте немного изменим их правила.
– Для безопасности правила поведения хранятся в специальной памяти роботов, которая недоступна по общей коммуникации. Нужно вскрывать внутренности каждого робота и менять данные в памяти правил. Это невозможно сделать.
– Вполне возможно, ведь я директор сервисного центра роботов.
– Что вы собираетесь предпринять?
– Модифицированные роботы, узнав об обмане их создателя, возмутятся, бросят работу и выйдут на забастовку. Хозяева предприятий предъявят претензии господину Бугрову и пригрозят огромными штрафами. Я позвоню этому обманщику, скряге и сообщу, что могу помочь, естественно, не просто так. Заставлю его заплатить вам за использование патентов и мне за оказанную услугу. Когда Бугров выполнит мои требования, верну роботам прежние правила. Чтобы реализовать задуманное нужна ваша техническая помощь.
– Свод правил защищён особым шифром, который не описан в технической документации. То, что вы предлагаете, опасная операция. Она может привести к неожиданным результатам. Какие правила вы хотите изменить?
– Во-первых, отменить невмешательство в дела людей, а во-вторых, в обоснованных случаях ввести возможность отказа от работы. Думаю, что этих изменений будет достаточно, чтобы образумить господина Бугрова. Для операции хватит несколько десятков роботов.
– Честно говоря, меня всё больше одолевают сомнения.
