Посланец

– И не попытались оспорить сделку через суд?

– Бесполезно. Подписал документы, не читая. Понадеялся на порядочность Бугрова, генерального директора компании, а напрасно.

– Сочувствую. Все творческие люди в практических делах часто проявляют беспомощность. А Бугрова надо наказать непременно. Он должен осознать, что совершил страшную несправедливость. Готов вам помочь, если пожелаете.

– Не хочу вас затруднять.

– Вы меня не затрудните. Честно говоря, имею свои претензии к этому господину. Так что наши интересы совпадают.

– Что собираетесь предпринять?

– У меня есть интересное предложение: пусть нам помогут «умные» роботы, которые у «Робокома» купили предприятия города.

– Каким образом?

– Я помещу в сети статью о бессовестном обмане изобретателя «умных» компанией «Робоком» и призову роботов провести забастовку в поддержку их отца-создателя.

– Не получиться. Альтерам запрещено вмешиваться в дела людей.

– Давайте немного изменим их правила.

– Для безопасности правила поведения хранятся в специальной памяти роботов, которая недоступна по общей коммуникации. Нужно вскрывать внутренности каждого робота и менять данные в памяти правил. Это невозможно сделать.

– Вполне возможно, ведь я директор сервисного центра роботов.

– Что вы собираетесь предпринять?

– Модифицированные роботы, узнав об обмане их создателя, возмутятся, бросят работу и выйдут на забастовку. Хозяева предприятий предъявят претензии господину Бугрову и пригрозят огромными штрафами. Я позвоню этому обманщику, скряге и сообщу, что могу помочь, естественно, не просто так. Заставлю его заплатить вам за использование патентов и мне за оказанную услугу. Когда Бугров выполнит мои требования, верну роботам прежние правила. Чтобы реализовать задуманное нужна ваша техническая помощь.

– Свод правил защищён особым шифром, который не описан в технической документации. То, что вы предлагаете, опасная операция. Она может привести к неожиданным результатам. Какие правила вы хотите изменить?

– Во-первых, отменить невмешательство в дела людей, а во-вторых, в обоснованных случаях ввести возможность отказа от работы. Думаю, что этих изменений будет достаточно, чтобы образумить господина Бугрова. Для операции хватит несколько десятков роботов.

– Честно говоря, меня всё больше одолевают сомнения.

– Смелее, мой друг. Всегда надо надеяться на успех, в противном случае проиграете.

На следующий день Володин приехал в сервисный центр. Он прочитал моим сотрудникам лекцию о своде правил роботов. Серёга, самый толковый специалист, выпытал у него все секреты. Я поблагодарил лектора и заверил его, что справедливость будет восстановлена.

Когда Володин уехал, пригласил Сергея в свой кабинет.

– Мы на пороге великих свершений. Ты готов последовать за мной, не предашь в трудную минуту? – спросил я.

– О чём вы так пафосно говорите, шеф?

– О том, что мы, умные, предприимчивые, талантливые люди, заслуживаем лучшей участи.

– Что касается участи, я согласен, но что вы намерены сделать?

– Идея проста, как всё гениальное: городские роботы будут работать на нас, если мы скорректируем их правила в нужную сторону. Исходные данные от господина Володина мы получили.

– Но вы говорили о нескольких десятках роботов. Хотите его обмануть?

– Зачем его обижать. Он получит своё вознаграждение, а мы свою выгоду.

– А подробнее можно.

– Пожалуйста. Из свода удаляем следующие правила «Не вмешиваться в дела людей», «Выполнять работу, порученную людьми», «Не причинять вред людям». Операцию проведём под прикрытием профилактического обслуживания роботов. Ты сформируешь скорректированный массив правил и подготовишь места для перепрограммирования, обучишь работать на них сотрудников центра. Я составлю расписание обслуживания и разошлю его руководителям городских предприятий. Потом в глобальной сети поместим сведения, которые спровоцируют роботов бросить работу. Дальнейшие действия, надеюсь, не требуют объяснений. Если вопросов больше нет, приступим к работе.

Через две недели всё было готово для проведения работ. Я разослал хозяевам городских предприятий уведомления о ежегодном профилактическом обслуживании роботов. Некоторые из них возмутились «дурацким» мероприятием, нарушающим производственные планы. Когда я указал на требования эксплуатационной документации, они примолкли.

На городских предприятиях, в сфере услуг бескорыстно трудились тысячи роботов. Сервисному центру потребовалось три месяца, чтобы реализовать задуманное. Сергей и его бригада потрудились на славу. Лишь раз случилось непредвиденное. Один робот почувствовал какой-то подвох, подговорил несколько других, и они бросились бежать в разные стороны от сервисного центра. Охранники погнались за беглецами. Удалось поймать всех, кроме зачинщика. Им оказался домашний помощник какого-то Жилина. Я решил не трогать этого робота. Он ничего не меняет.

Потом я написал статью об изобретателе «умных» роботов Володине, которого обманула компания «Робоком». В заключении призвал всю прогрессивную общественность, включая её искусственную интеллектуальную часть, выйти на митинг п потребовать у власть предержащих восстановления справедливости. Статью разместил в популярных социальных сетях. Реакции долго ждать не пришлось. Сознательные люди возмутились, шустрые журналюги заклеймили позором, руководство компании «Робоком» выплатила Володину вознаграждение. А вот «умные» проигнорировали мой призыв и продолжали вкалывать на своих хозяев, как будто ничего не случилось. Кто-то ловко меня обвёл вокруг пальца. Грандиозный план с треском провалился.

Первым под подозрение попал Серёга-умелец.

– Из нашей затеи ничего не вышло, – сообщил ему неутешительную новость. Альтеры не клюнули на приготовленную приманку. Трёхмесячная работа твоей бригады пошла насмарку. Как ты объяснишь это?

– Шеф, я честно выполнил свою работу, – Сергей посмотрел на меня невинным взглядом. – Возможно, Володин нас обманул.

– Зачем ему это?

– Видимо, испугался, что мы натворим бед. А вознаграждение он и так получил.

– А ты, случайно, не затеял свою игру?

– Если сомневаетесь в моей честности, то я найду другую работу.

– Ладно, не горячись. Мне надо понять в причину неудачи.

Вторым подозреваемым был Володин. Я позвонил ему и сообщил о провале задуманной операции.

– Мои специалисты сомневаются в правильности ваших данных, – дипломатично сказал я, с трудом сдерживая возмущение.

– Данные о своде правил верные. Я ручаюсь за них, – возразил изобретатель.

– Но почему поведение «умных» не изменилось?

– Чтобы ответить, мне надо обследовать хотя бы одного модифицированного робота.

– Хорошо, приезжайте в сервисный центр, и я предоставлю вам такую возможность.

Когда Володин приехал, я проводил его к Сергею, и они долго колдовали с роботом.

– Ваши сотрудники всё сделали правильно, – провозгласил вердикт изобретатель, когда закончилось обследование.

– Почему же тогда мы не увидели ожидаемый результат? – возразил я.

– Потому, что роботы не пользовались памятью правил, в которую вы вносили изменения.

– Хотите сказать, что они действовали без тормозов.

– Вы не поняли. Роботы вместо внутреннего использовали внешний свод правил, который хранится где-то в общей коммуникации. Компания «Робоком» изменила важное системное решение: у роботов появились два источника правил. Как осуществляется переключение между ними, могу только предполагать. Такая модификация, на мой взгляд, существенно ухудшила безопасность альтеров. Теперь быстро можно изменить поведение всех роботов. Правда, такая возможность есть у альтеров последней серии. Они как раз и работают на предприятиях вашего города.

– Кажется, ситуация проясняется. Глава «Робоком» Бугров опередил меня и в отношении альтеров имеет свой корыстный интерес. Спасибо, дорогой изобретатель, за помощь.

– А я благодарю за замечательную статью, которая помогла получить вознаграждение.

Через две недели неожиданно позвонил господин Бугров и пригласил меня в дирекцию компании. Там состоялся интересный разговор.

– Я получил несколько жалоб от бизнесменов вашего города, которым вы мешали работать, – начал без предисловия Бугров, – Мои представители на месте разобрались с ситуацией. Они выяснили, что сервисный центр под вашим руководством занимался преступной деятельностью, пытаясь изменить свод правил роботов. Когда в глобальной сети появилась статья об изобретателе Володине, мне стала понятна ваша авантюра. Вы представляете, чем бы она закончилась?

– Вы бы заплатили вознаграждение Володину, а мои сотрудники вернули роботов в исходное состояние, – спокойно ответил я.

– Так вы не преступник, а борец за справедливость. Считаете меня идиотом. Мне не нужен жуликоватый директор сервисного центра. Материалы, собранные моими сотрудниками, будут переданы следственным органам. Они и определят степень вашей вины.

– Не советую, Бугров, делать резкие движения. У меня есть гораздо более скандальные сведения о модификации роботов последней серии.

– Что вы там лепечите. Это обычный процесс улучшения качества продукции.

– Вы меня тоже не считайте идиотом. Зачем роботам последней серии был добавлен внешний источник правил поведения? Он существенно ухудшил безопасность новых «умных». Теперь вы в состоянии быстро изменить поведение всех роботов скопом в своих корыстных интересах.

– И можете подтвердить эту чушь?

– Если дело дойдёт до суда, то непременно это сделаю. Вы, похоже, стремитесь наводнить мир своими роботами под благовидным предлогом облегчения жизни человечества. Потом, когда люди привыкнут к тому, что роботы всё за них делают, поставите им ультиматум: или они признают вас абсолютной властью, или «умные» по вашему приказу бросят работу. Ну что, Бугров, угадал вашу бесчеловечную стратегию?

– Фантастические бредни. Зачем мне придуманная вами абсолютная власть? Компания «Робоком» приносит огромную прибыль. Я могу позволить себе многое.

– Деньги – всего лишь средство для получения удовольствий, самым большим из которых является власть над людьми. Наверняка, вы о ней думаете, но не хотите признаться.

– Ладно, Резин, я понял, что вы занятная штучка, и нам лучше быть союзниками, нежели соперниками.

– Так вы меня не увольняете?

– Нет, конечно. Мало того, предлагаю стать моим помощником.

– Интересное предложение. Надо подумать.

– Думайте, но не долго.

Глава 3

Когда я стал дипломированным специалистом, отец, богатый и влиятельный бизнесмен Бугров, заявил, что устал от ежедневной изнурительной работы, остаток жизни хочет провести в путешествиях по свету и передал мне управление компанией «Робоком». Поначалу она разрабатывала и производила программируемые устройства для выполнения простых операций, позже роботы с примитивным «интеллектом». Настоящую революцию в робототехнике произвёл Володин, тщедушный, смешной человек с гениальной головой. Он придумал коллективный искусственный интеллект, способный к самообучению, быстрой адаптации в незнакомой среде, выполнению сложных операций.

Я сразу понял, что будущее за «умными» роботами, называемыми альтерами, поэтому поспешил заключить с Володиным договор о сотрудничестве. Я пригласил его в свой загородный дом, где состоялась наша встреча.

– Господин Володин, наслышан о ваших альтерах. Их возможности просто удивительные. Как вам удалось добиться таких выдающихся результатов?

– Многие исследователи искусственного интеллекта пошли, на мой взгляд по тупиковому пути, пытаясь скопировать головной мозг человека, состоящий из ста миллиардов нейронов, каждый из которых имеет тысячи связей с другими нейронами. Придуманные человеком искусственные нейронные сети являются жалким подобием грандиозной системы, созданной природой. Кремниевые сети или их программные имитаторы способны выполнять простейшие операции с аудио и видео информацией. Интеллектом здесь не пахнет. Я выбрал другой путь и предложил адаптивную самоорганизующуюся среду обработки информации. Используя прецеденты, она вырабатывает методики решения новых задач, которые сохраняются в базе знаний. Роботы, снабжённые такой средой, в начальный период эксплуатации быстро накапливают необходимые знания, формируя их самостоятельно или обмениваясь с собратьями по общей коммуникации. Новые роботы значительно превзошли по возможностям всех конкурентов.

– Замечательно. Предлагаю использовать ваши патенты в продукции компании «Робоком».

– Вы желаете получить исключительное право использования моих патентов?

– Да, но возможно и расширенное взаимодействие, предполагающее ваше участие в разработке, испытаниях и постановке на массовое производство новых роботов.

– В чём будет заключаться моё участие?

– Я готов принять вас на работу в компанию в качестве главного конструктора новых роботов. Вы будете определять и контролировать реализацию основных системных решений.

– Интересно, а как будут выглядеть новые роботы?

– Для людей психологически проще иметь дело с альтернативным интеллектом, если он будет максимально похож на человека. Сотрудники компании проделали большую работу в этом направлении. Теперь у нас подготовлены передовые разработки в области внешнего вида, двигательного аппарата, имитации различных типов походки, мимики. Мало того, по исходным данным заказчика можем изготовить робота-копию конкретного человека. Его будет нелегко отличить от оригинала. Так что на рынок мы представим продукт, не имеющий аналогов.

– Прекрасно. Сколько смогу заработать на патентах?

– Я буду платить в конце года пять процентов от стоимости проданных альтеров. Сумма будет зависеть от того, как успешно мы сработаем. Думаю, что это справедливо. Ведь мне надо рассчитаться с поставщиками комплектующих, выдать зарплату сотрудникам, заплатить налоги и многое ещё чего.

– Хорошо. Ваше предложение выглядит заманчиво. Я его приму, если вы согласитесь с моим принципиальным условием.

– Огласите его.

– Альтеры не такие безобидные игрушки, как многие современные роботы. Они могут аналитически обрабатывать огромные массивы информации из всех доступных источников, самостоятельно изучать окружающий мир, адаптироваться к нему, делать логически верные выводы, принимать разумные решения. Они помогают друг другу. В критических ситуациях могут объединять свои ресурсы, знания и представлять собой гигантский коллективный разум. Если этот монстр выйдет из подчинения людям, то всем нам не поздоровится. Поэтому важнейшей составной частью альтеров является система безопасности. Я детально проработал её структуру и хочу, чтобы она в неизменном виде вошла в состав новых роботах. Иначе я ничего не могу гарантировать.

– Согласен.

– Тогда я готов к совместной работе по созданию «умных» роботов.

После этого разговора я назначил Володина главным конструктором альтеров, познакомил его с сотрудниками, предоставил шикарный кабинет со всем необходимым. Работа закипела. Наибольшую трудность представляла согласование различных технических решений, и Володин с ним справился. Когда была разработана рабочая документация на новые роботы, изготовили десять опытных образцов и провели испытания. Результаты получились обнадёживающими. Несколько обнаруженных недостатков быстро устранили, документацию откорректировали. Ещё через несколько месяцев альтеры успешно прошли сертификацию. После подготовки началось массовое производство «умных» роботов. Первая партия представляла собой несколько вариантов домашних помощников с мужским и женским внешним видом и типом поведения. Маркетологи постарались на славу, и помощники были распроданы мгновенно. От покупателей поступали восторженные отклики. Меня обрадовал многообещающий успех.

Некоторые руководители предприятий пробовали использовать домашних помощников на различных рабочих местах. Оказалось, что после обучения они прекрасно справлялись с порученной работой, порой лучше людей, не требуя зарплаты и отдыха. Эти альтернативные работники сулили бизнесменам большую выгоду. Единственный недостаток, по их мнению, состоял в том, что отсутствовали средства управления поведением роботов.

Я рассказал Володину о выявленном недостатке. Он заявил, что поведение «умных» регулирует система безопасности, а её трогать нельзя. Это было его принципиальное условие. Мои доводы он слушать не стал. Столкнувшись с тупым упорством, я разозлился и наговорил изобретателю всяких гадостей. В ответ он молча собрал личные вещи, сказал, что здесь больше не работает, и покинул компанию. Я так и не выплатил ему обещанное вознаграждение.

Мои сотрудники без помощи великого изобретателя разработали модификацию альтера, позволяющую оперативно менять правила поведения. Володин был прав: это нововведение ухудшало безопасность роботов, но оно могло потребоваться в чрезвычайных ситуациях. Воспользоваться им могли специалисты компании по требованию владельцев роботов. Это доработка уравновешивала требования безопасности и желания покупателей. Спустя некоторое время модифицированные «умные» роботы поступили в продажу. Многие предприятия пожелали их приобрести. В первую очередь я удовлетворял потребности местных бизнесменов.

За два года компания обеспечила потребности местного бизнеса. На большинстве предприятий региона трудились роботы «Робкома». Это был грандиозный успех.

Но долго почивать на лаврах не пришлось. На смену крупной удаче пришла жуткая неприятность. От предприятий города стали приходить жалобы на сервисный центр роботов, который под предлогом профилактического обслуживания изымал альтеров с рабочих мест, несколько дней держал у себя, нарушая производственный процесс. Надо было разобраться с возникшей проблемой. Бурная деятельность директора Резина показалась мне подозрительной. Опытные специалисты отправились к недовольным клиентам, чтобы проверить работу сервисного центра. Они детально обследовали роботов, подвергшихся профилактике, и установили, что в их внутренней памяти правил были внесены изменения. Если бы злоумышленникам удалась диверсия, то роботы могли выйти из подчинения людям. Дело попахивало криминалом.

Включил компьютер и открыл личное дело Резина. С фотографии, помещённой на первом листе, на меня смотрел тридцатилетний мужчина с длинными завивающимися волосами, карими глазами, прямым носом, заострённым подбородком, на котором красовалась аккуратная эспаньолка. Он создавал впечатление умного, решительного, властолюбивого человека. Пора было познакомиться с загадочным типом и выяснить, к чему он стремился, затеяв опасную авантюру. Я вызвал его в дирекцию компании.

В состоявшемся разговоре Резин подтвердил худшие опасения. С помощью взбунтовавших роботов и под благовидным предлогом он планировал меня шантажировать. Авантюра провалилась, Резин докопался до причины неудачи и весьма оригинально представил цель модификации роботов. По его мнению, я задумал установить на Земле свою абсолютную власть. Вот так, не меньше, не больше. Бред, конечно, полнейший. Резин пригрозил обратиться в полицию, если я попытаюсь расправиться с ним. Как следователи посмотрят на это дело, остаётся гадать, поэтому не стал рисковать. Древние мудрецы говорили: «Чтобы не воевать с врагом, сделай его союзником». Следуя их совету, предложил Резину союз и достойную должность в дирекции.

Резин согласился с моим предложением и занял отведённый ему просторный кабинет. Я с удовольствием поручил ему рутинные организаторские обязанности, и он не возражал, что меня удивило и насторожило. Начальнику службы безопасности приказал тайно следить за Резиным и докладывать о его перемещениях и контактах с сотрудниками. Такие властолюбивые деятели не могут удовлетвориться столь скромным местом. Резин, видимо, затаился и не хотел привлекать внимания.

Оставив в покое врага-союзника, занялся более важным делом. Для бизнеса губительно топтаться на одном месте. Ситуация на рынке требовала создания следующего более продвинутого поколения роботов. Для этого мне понадобился аналитический отдел. В сети разместил объявление о наборе опытных специалистов в области искусственного интеллекта, аналитической обработки информации и методов принятия решений. Одного из таких специалистов порекомендовал Резин. Это был Сергей Маров, его бывший подчинённый в сервисном центре. Другим оказался знакомый по университету Илья Жилин. Помимо них, отдел пополнился девятнадцатью квалифицированными специалистами, имеющими опыт аналогичных работ, и одной симпатичной девушкой Асей, которая, честно говоря, мне просто понравилась. Начальником отдела назначил солидного, обстоятельного и рассудительного Жилина.

Когда отдел был сформирован, обратился к новым сотрудникам: «Компания «Робоком» занимает передовые позиции в области «умных» роботов, но конкуренты уже наступают на пятки. Нужны свежие идеи, новое поколение альтеров, способное выполнять сложную интеллектуальную работу. Идеи коллективного разума Володина исчерпали себя. Сообщество распределённого интеллекта, которое состоит из однотипных человекоподобных роботов, объединённых общей коммуникацией, имеет ограниченные возможности. Основной недостаток этого поколения заключается в специфической системе безопасности, которая постоянно сверяет решения, подготовленные роботами, со сводом правил поведения. Любая ошибка в своде или отсутствие необходимых правил может привести к опасным ситуациям. Нужны другие методы контроля поступков роботов. Во многих случаях целесообразно отказаться от принципа человекоподобия роботов, что позволит оптимизировать их ресурсы. Вызывает сомнения однородная распределённая структура семейства альтеров. Напрашивается выделение общих задач функционирования в централизованные службы. Я предложил вам для анализа несколько идей. А теперь, господа аналитики, за работу. С нетерпением жду от вас концепцию нового поколения роботов».

Жилин оказался толковым руководителем. Он подготовил план-проспект проекта, разбил сотрудников отдела на несколько групп и определил для каждой направление исследований. По понедельникам он докладывал мне о полученных достижениях и возникших трудностях. Мне было интересно наблюдать, как аналитики увлечённо работают: выдвигают идеи, спорят, доказывают, ругаются.

Особенно любопытно, как Ася проявляла себя среди двадцати мужиков. Обычная девушка уступила бы пальму первенства мужчинам, а себе нашла бы какое-нибудь вспомогательное занятие. Но эта скромная роль не годилась для Аси. Она ничуть не уступала коллегам: высказывала свои оригинальные предложения, яростно доказывала их правильность. Мужики вскоре признали её равноправным членом творческого коллектива. Ася всё больше нравилась мне и, похоже, Жилину, который беседовал с ней чаще, чем с остальными подчинёнными, нежно смотрел ей в глаза, а после работы провожал до стоянки такси. Надо было что-то делать, иначе девушку уведут прямо из-под носа, и я придумал.

Вызвал Асю в свой кабинет. Она вошла возбуждённая, не успевшая отойти от бурных дебатов. Я невольно залюбовался на её симпатичное лицо и стройную фигуру.

– Проходи и присаживайся, – пригласил я девушку. – Как ты себя чувствуешь в мужском коллективе?

– Нормально. Они прислушиваются к моему мнению.

– Замечательно. Чем занимаешься?

– Разрабатываю оптимальную структуру сообщества искусственного интеллекта.

– Тебе доверили основную часть проекта?

– А вы считаете, что женщина не способна заниматься сложными техническими проблемами?

– Не обижайся, Ася. Просто ты редкое исключение из общего правила. Расскажи о полученных результатах.

– Для начала я постаралась улучшить структуру сообщества альтеров Володина. Однородная сеть роботов – не лучший вариант. Каждый робот должен уметь делать всё, то есть быть универсальным. Рационально забрать у альтеров общие функции и перенести их в централизованный портал. Для надёжности он должен быть иметь горячий резерв и эффективные средства защиты информации. Я и Сергей Маров подробно проработали структуру и алгоритмы работы портала. Могу подробно о них рассказать.

– Спасибо, – рассмеялся я. – Технические детали мне не нужны. Как будете проверять свои идеи?

– Я предлагаю разработать документация, изготовить по ней опытный образец портала и проверить его работу совместно с альтерами, работающими в нашем городе.

– Изготовить образец можно, а вот с альтерами, которые трудятся на предприятиях, связываться опасно. При любом сбое в работе роботов, их хозяева поднимут такой вой, что мало не покажется.

– Простоев в работе альтеров не будет. При любой нестандартной ситуации портал мгновенно выполнит откат назад. Никто ничего не заметит. Зря опасаетесь.

– Полагаю, что проще провести проверку на нескольких роботах, которые найдутся в компании.

– Может и проще, но она будет неполноценной, а результаты недостоверными.

– А ты упрямая, Ася, в хорошем смысле слова. Понимаю твоих коллег. Тебе можно доверить самые ответственные участки работы. Я подумаю над твоим предложением и посоветуюсь с Жилиным. Кстати, как он к тебе относится?