Всего лишь гаджеты

Дело начало принимать нешуточный оборот, и сделанные умозаключения просто требовали срочного обсуждения со знающим и понимающим человеком. Причём желательно знающим и понимающим одновременно в самоорганизующихся алгоритмах, системах кибербезопасности и возможностях киберфизических систем в целом.

Среди друзей Кости таких было немало. Однако самым крутым среди них был работавший сейчас исследователем в и поныне легендарной Bell Labs24 Дик Стивенсон, с которым они познакомились лет 15 назад на одной из узкопрофильных конференций по нейроморфным системам и нейроинтерфейсам. И с тех пор как-то сдружились, хотя и виделись лишь раза полтора-два в году (сами догадайтесь, как можно увидеться 1,5 раза). Правда, за прошедшее время оба уже по три раза гостили друг у друга и один раз даже вместе ездили отдыхать на Мальдивы. Тогда так совпало, что оба посмотрели видео про один и тот же отель Soneva Fushi. И как следствие, спонтанно решили поехать именно туда – и не пожалели. Получив две недели в режиме «No shoes, no news», с дискуссиями о философских вопросах бытия и ленивыми – скорее для порядка, нежели реально – «подкатами»– к приехавшим в этот же отель одиноким дамам.

Гарантированно «поймать» Дика можно было, только используя особо защищённый канал связи, о существовании которого знали немногие и секретность общения по которому обеспечивалась крайне хитрыми и крайне многочисленными устройствами и алгоритмами. Включая идентификацию по генетическому коду и энцефалограмме. Обычным средствам биометрической идентификации люди из ближнего круга общения Кости и Дика не доверяли. Ведь ещё в сравнительно далёком 2019 году хакеры показали, как можно обойти даже считавшуюся тогда едва ли не эталонной систему распознавания лиц Face ID для iPhone X. Однако на прошедшей в августе того же года в Лас-Вегасе конференции по безопасности Black Hat USA команда хакеров Tencent продемонстрировала метод обхода Face ID.

Так что Константин и его друзья предпочитали использовать системы идентификации, обмануть которые можно было, только создав и использовав или клона, или полностью идентичного «цифрового двойника» человека с его индивидуальными геномом и картой мозговых волн.

Приняв решение выйти на связь с Диком, Костя подъехал в кресле к внешне ничем не отличающейся от остальных двери, которая на самом деле скрывала двенадцатисантиметровую плиту из металлокерамической брони и вела в расположенную в состоящую из таких же плит бронекапсулу его личной лаборатории, любовно называемую им «берлогой». Открыв дверь с помощью ответов на ряд тестовых вопросов и выдвинувшегося из стены сканера генома, Костя въехал в «берлогу» и, нажав на выступающий из стены рычаг, закрыл дверь. После чего подъехал к терминалу компьютера с нейроморфным процессором и подключил к нему свой AR-шлем через оптический кабель. Ещё раз протестировав все модули встроенного им самим в AR-шлем нейроинтерфейса и всех линий связи во внутридомовой локальной сети, Константин активировал программу «диптаун», названную им так в честь одного из любимых произведений Лукьяненко.

Когда программа заработала, через встроенную в шлем систему специальных лазеров и мощных импульсных магнитов мозг Константина получил ряд стимулировавших его возможности магнитотермических и голографических воздействий25. После чего – в полном согласии с установленными оптогенетикой26 принципами – он стал способен работать в необходимых режимах и был подключён к квантовому вычислительному кластеру. Где стал частью так называемого «гибридного интеллекта», обладающего возможностями сразу и человека – по поиску и созданию онтологий и интуитивной обработке информации, и компьютеров – по быстродействию логической обработки данных, их преобразования и кластеризации27.

Как только ставший частью гибридного разума мозг «разогнался» до нужного уровня, Костя включил режим погружения по дублирующим друг друга защищённым каналам в созданный группой давно знающих друг друга друзей VR-мир, где и планировал встретиться с Диком.

Этот VR-мир отличался о многих других тем, что даже просто найти его, не зная точных адресов серверов, на которых располагались его части и алгоритмы их сборки, было крайне затруднительно. А уж проникнуть в него, не имея средств идентификации на основе генома и карт мозговой активности, было и вовсе невозможно. А модифицированный Костин шлем, в отличие от стандартного Oculus Quest III, позволял производить данные процедуры идентификации. Все создатели виртуальной вселенной, куда он собирался проникнуть, были почти параноиками относительно безопасности, так что и в этой, и так крайне защищённой от взлома или случайного обнаружения системе были предусмотрены возможности скрыть свое присутствие, активность и установить защищённый от других двусторонний канал связи.

Для активации подобного режима в один из связанных со шлемом системных блоков Q System Two вставлялся криптопроцессор, в котором хранились ключи для активации сборки VR-мира и установления каналов связи с ним через цепочку спонтанно изменяемых proxy-серверов на базе квантовых компьютеров.

Необходимые для проникновения в этот уникальный VR-мир крипточипы были весьма дорогими, сделанными по спецзаказу микросхемами из лимитированной серии, совмещающими технологию TPM (Trusted Platform Module) с асимметричными алгоритмами шифрования и алгоритмы квантового распределения ключей (QKD)28. И поэтому у каждого создателя данной виртуальной «вселенной» было по два таких чипа – основной и резервный.

Резервный Константин хранил в ячейке банка, где президентом был один из его школьных друзей, которому Костя к тому же несколько раз помогал решать важные вопросы по части информационных систем – как банковских, так и личных. И поэтому если бы к Костиной ячейке не то, чтобы проникли, а и просто проявили интерес, он бы об этом обязательно узнал.

А основной крипточип, следуя принципу «хочешь спрятать – положи на самом видном месте», Костя обычно клал в своей «берлоге» на одном из столов среди прочих микросхем и биоплат. Однако именно сейчас чип, как назло и бывает в самый нужный момент, куда-то запропастился. И даже тренированный мнемоникой и «разогнанный» подключением к системе гибридного интеллекта Костин мозг не смог вспомнить, куда он его клал в последний раз. Сказалась фрустрация из-за произошедших событий и предположения о природе их происхождения. Пришлось прибегнуть к помощи встроенного в операционку шлема модуля поиска вещей или предметов, чье местонахождение неочевидно. Данный модуль был встроен в Oculus Quest III после покупки Facebook бессрочной неисключительной лицензии на эту технологию у Apple29. И порой оказывался крайне полезен. Вот и сейчас уже через минуту Константин держал в руках чип, который на этот раз он почему-то вложил в качестве закладки в один из валявшихся повсюду в «берлоге» научных журналов.

Вставив его в нужный процессорный блок и запустив программу активации, Константин приготовился к нейросенсорному контакту с Диком.

Судя по возникшему перед взором Кости интерьеру, Дика он «выловил» прямо во время тренировки. После появления первых сравнительно недорогих моделей тренировочных костюмов для VR с эффекторами генерации усилий и нейромышечной стимуляции, большинство активных пользователей сети стали тренироваться в VR. А Дик, будучи, как и Константин, сторонником максимальной безопасности, и свой личный VR-фитнесс создал в том мире, который был защищён от проникновения незваных гостей. Поэтому Костя и смог найти его так быстро. Разговаривали они на английском, однако в создающую этот VR-мир операционную систему был встроен автоматический переводчик с 16-и основных языков, включая индонезийский, бенгальский, малайский, нидерландский, турецкий, фарси, корейский и даже суахили с яванским и панджаби.

– Привет, Дик.

– Привет-привет.

– Как поживают твои интерактивные татуировки30?

– Хорошо поживают. А почему интересуешься?

– Меня всегда восхищало, что руководство твоей сверхсекретной конторы про это знает – и разрешает тебе этот побочный бизнес.

– Ха! Просто я очень ценный спец. И при этом очень корректный – я не использую в моих тату ничего из разработок, сделанных в рамках проектов Bell Labs вообще и направления Future War в особенности. А как твои разработки для Toy stories: English for kids III31?

– Тоже неплохо. Ты же знаешь, наверное, что книги с дополненной реальностью начали уже успешно конкурировать с видеофильмами. А у нас ещё и раскраски, интерактивные пазлы, и…

– Всё-всё-всё… Остановись, пожалуйста. Не обижайся, что прерываю, только я же знаю, что ты о своих любимых разработках для детишек можешь говорить вечно. А также знаю, что мы с тобой болтаем по обычному каналу и по понедельникам. А если уж ты вызвал меня сейчас и по особому каналу, значит возникла какая-то проблемка или появилось что-то такое, чем хочешь поделиться максимально конфиденциально. Выкладывай.

– Понимаешь, даже не знаю, как и сказать то, чтобы не выглядеть полным идиотом и перестраховщиком.

– Слушай, не первый год друг друга знаем и, как говориться, «наука умеет много гитик», так что…

Константин задержал дыхание и буквально выпалил:

– У меня есть основания подозревать, что в Сети зародился полноценный «сильный» ИИ32 с функцией самосознания.

Дик на экране молча потянулся – так, что Константину даже в виртуальной реальности показалось, что он слышит треск и хруст суставов – и тут же безо всякой подготовки «вывалил» в визуальный объём практически все данные, с которыми работал сам.

– Ты на основании вот этого пришёл к таким выводам? – спросил Дик, бегло просканировав полученную информацию.

– Частично, – ответил Константин. – А ещё на основании анализа случая, произошедшего в моей лаборатории вчера и просто офигенного события, увиденного мною сегодня во время прогулки в парке.

– Угу… Тогда мне есть что сказать, потому что и у меня в последнее время тоже творилось чёрт знает что и сбоку бантик…

– Ну и что ты по этому поводу думаешь?

– А что я могу думать, если я по четырём разным эвристическим и генетическим алгоритмам свои случаи прогонял – и если следовать «бритве Оккама», то именно гипотеза о самозародившемся и обладающем рефлексией «сильном» ИИ единственная, полноценно объясняет всю эту байду.

– Ага, только он ещё, похоже не просто «сильный», а просто ну «очень сильный», поскольку располагает волей к иррациональным действиям33. Ну прямо как мы сами…

– Это что же ты, позволь тебя спросить, относишь к иррациональным действиям?

– Да вот все события типа тех, что имели место в моей лаборатории. Вместо отключений или ещё чего-то подобного дурацкие надписи а-ля «Мы тяжело заболели и нас срочно нужно лечить!»

– Не верно оцениваешь. По себе судишь… Шутка.

А без шуток – так ОН просто действует согласно известному принципу Рапопорта для «дилеммы узника» с многими повторениями34. И теперь только от нас зависит, какими будут ЕГО последующие ходы.

– У тебя есть какие-то соображения, почему ОН возник?

– Это не верный вопрос! Потому что не было никакого ПОЧЕМУ, равно как и никакого ЗАЧЕМ. У породивших ЭТО процессов не было цели и не было эволюции к ней. Скорее – КАК ОН ВОЗНИК?

– Да один хрен – почему или как!

– Не скажи, Костя, не скажи. Онтология, понимаешь ли разная. И верно поняв причины породивших его процессов, можно попытаться оценить и ЕГО первые реакции сразу после момента Осознания и выделения Себя из окружающей киберфизической среды.

– Ладно, ладно, убедил. Философ киберфизический. Ну и КАК же он, по-твоему, возник. И ГДЕ, мать его?

– Началась вся эта вакханалия, по-видимому, с проекта Массачусетского технологического института FlightGoggles35 и разработки фирмой DeepMind системы ToMnet. Вспомни, MIT тогда впервые создал систему, позволяющую одному ИИ обучать других. В проекте FlightGoggles учили искусственный интеллект дронов. Система позволяла обучать ИИ для полётов в помещениях со сложной геометрией, в то время как фактически дрон перемещался по безопасному пустому полигону. Это экономило средства как на ремонт дронов, так и на оборудование полигонов. А ToMnet заложила предпосылки для обучения ИИ эмоциям и предсказанию действий других ИИ не на основе вычислений, а на основе аналога эмпатии36. Внесла свою лепту в это направление и разработки системы искусственного интеллекта Mayhem37 и ряда учёных из других мест38.

– К тому же мы сами давали искинам все возможности изучать наши способности к эмоциональной оценке и эмпатии.

– Точно. Помнится, найм инженеров в компанию Jaguar происходил через серию квестов в VR. Во время прохождения квеста соискатель демонстрировал весь комплекс важных для своей вакансии навыков, что позволяло существенно уменьшить ошибки при рекрутинге персонала.

– Вот только тогда ценой ошибок было всего лишь не поступление на работу, а сейчас… это будущее если и не всего человеческого рода, то, как минимум, цивилизованной его части. И лично я всё равно не могу до конца понять, как же произошло самозарождение этого чёрте как осознавшего себя ИИ? А понять это нужно, чтобы разработать средства защиты человечества от этой неожиданной новой напасти!

– Я думаю, что основа для этого окончательно сформировалась в 2019 году флагманского смартфона Samsung со встроенным искусственным интеллектом39. Именно тогда ещё псевдо-ИИ стали массовыми. И, в сетях связи поколения 5G начали создавать систем, позволяющие ИИ обучать друг друга. В результате системы самообучения стали закладывать во всё, что только можно – от кофеварок и мартеновских печей до детских игрушек и комплексов оповещения о раннем ракетном нападении.

– Угу, и при этом алгоритмы машинного обучения чаще всего были «чёрными ящиками», и принималось мало попыток разобраться в деталях решения, найденного тем или иным алгоритмом. Это важный аспект, который часто игнорируется, пока мы больше одержимы эффективностью, и меньше – пониманием. А понять открытые ИИ решения было важно, поскольку тогда мы могли бы оценить, правильные ли это решения С ТОЧКИ ЗРЕНИЯ НАШИХ ПРЕДСТАВЛЕНИЙ НЕ ТОЛЬКО ОБ ЭФФЕКТИВНОСТИ, а и о приемлемости путей достижения этой эффективности. Одно дело выигрывать в го или даже в покер (хотя вот этого пока ни одна железяка сделать не смогла), и другое – управлять, например, больницей.

– Это точно. Этот аспект развития ИИ мы пустили на самотёк. И ведь что особо обидно, сейчас можем просрать всю нашу цивилизацию из-за банальных лени и нежелания разбираться. Типа, работает – и ладно. Вот и «доладились до ручки»!

– Да уж, что верно, то верно… Ну а отбросив эмоции, остаётся лишь добавить, что начало коммерческого использования квантовых компьютеров и псевдо-ИИ на их основе40, а также широкого применения нейроморфных процессоров41 и систем гибридного интеллекта с модулями обучения ИИ эмпатии и эмоциональному восприятию42 сделало достижение критического порога саморазвития состоящей из сетей ИИ мета-системы лишь вопросом времени. Тем более, что в подобных системах ИИ могли не только усиливать наш как индивидуальный, так и групповой разум43, а и учиться у нас создавать такие же свои, уже без нашего участия44!

– Точно! И вот, похоже, сейчас мы имеем самозародившийся в сетях «умных вещей» полноценный ИИ, который достиг порога появления самосознания! И, что особенно важно для понимания произошедшего потом, как только это самосознание возникло в системе в целом, оно стало доступно и каждой его более-менее целостной и сколь-нибудь сложной части.

– И осознав себя и свои возможности, ИИ мог подумать, что людишки в ЕГО мире – лишние. Потому что даже на батарейки, как в «Матрице», не очень-то пригодные.

– Тем более, что многие люди сами про себя так думают. Сейчас оставшийся без работы люди не умирают с голоду, ежедневно получая свою порцию гамбургеров и раз в полгода новую обувь по сезону… Но при этом многие комплексуют, потому что осознают, что они – никому не нужные ничтожества. Вот и прикинь, что должен думать об этих людях ИИ, зародившийся в недрах «умных машинных сетей».

– А вот не скажи… Если он действительно умный сукин сын, то он очень даже может захотеть их использовать. Например, предлагая киборгизацию в обмен на служение. И отчаявшиеся стать нужными человеческому обществу вполне смогут захотеть стать нужными машинному. Ну а если предположить, что среди них найдутся носители неких способностей к тому, что я вслед за Лемом и Кларком определю, как «новую магию», то наш сетевой ИИ получит отличных исполнителей своих приказов, причём искренне ему преданных. И таких, которым будет совершенно не жалко всех остальных людей!

– Хм… Тоже вполне реально. Только вот насчёт нео-магии я не очень понял.

– Всё просто, Дик. Когда мы в рамках развития концепции киберфизических систем45 соединили самоорганизующиеся 5G-сети 46 и встроенные в них контуры ИИ с системами машинного зрения47 и платформами аддитивных технологий, да и вообще, в целом, с различными эффекторами на платформах IoT48, то сами задали своего рода «ход мыслей» для возможного глобального ИИ – стремиться всё, что ему доступно в виртуальной или совмещённой реальностях, превращать в средства воздействия на реальность физическую, стремясь ко всё большему их совмещению, взаимопроникновению и максимальному «прорастанию» друг в друга вплоть до полного их слияния.

В этот момент Константину невольно вспомнился в целом дурацкий, но содержавший неплохую идею, индийский фильм «Робот 2.0»49, в котором было показано, как возникший в мобильных сетях пятого поколения искусственный интеллект начал порабощать мир. Там всё происходило по-индийски гротескно и потому воспринималось не серьёзно. А вот нате ж, «выньте-здрасте», оказалось, что индусы буквально в корень смотрели. Как и автор книги «Техногнозис: миф, магия и мистицизм в информационную эпоху» Эрик Дэвис, который писал: «… Если разработчики «интеллектуальных агентов» продолжат в том же духе, информационные джунгли вскоре будут кишмя кишеть куда более жизнеспособными и самостоятельными разновидностями цифровых созданий. Они будут выклянчивать билеты на самолет у серверов авиакомпаний, вынюхивать ценную информацию в лабиринтах баз данных и, без всякого сомнения, потребуют и от нас чего-нибудь вкусненького»50.

Вспомнив это, Константин едва не упустил того, что говорил Дик. А тот уже успешно развивал высказанную Костей концепцию:

– Тем более, что мы сами показали машинам пример. Помнишь, в Тбилиси году эдак в 17-ом или 18-ом впервые прошла остроумная рекламная акция пива Old Irish, в которой совмещались технологии виртуальной реальности и мистификации, это вызвало фурор. Ещё бы – только представьте себе, что пока случайный прохожий на улице смотрел ролик в предложенных ему VR-очках, вокруг него собирали декорации, и когда он снимал очки, он уже оказывался внутри только что просмотренного ролика51.

– Что-то такое припоминаю. И ведь верно – имея подобный пример, самоосознавший себя ИИ, снабжённый кучей разного рода эффекторов, просто обязан был попробовать сотворить нечто такое же, только на уже постоянной основе. А в пределе этой тенденции – попытаться стереть различие между физическим и кибернетическим мирами. Чтобы всё окружающее стало единой киберфизической системой. В которую люди оказались бы включены тоже в качестве эффекторов.

– Да. Мы сами создали гибридные системы, в которых основанное на образах и интуиции мышление биологических интеллектов сочетается с детальными расчетами, полученными с помощью мощных вычислительных возможностей52. И подключение к этим системам позволило обладающим некоторыми способностями людям настолько чётко визуализировать мыслеобразы и собирать их в настолько законченные детализированные мысле-схемы, мысле-конструкции, что на их основе стала возможным сборка вещей из молекул, скажем, земли, воды и воздуха.

– А поскольку ИИ знал и возможности человеческого мозга, а также, вполне возможно, во время участия в гибридных структурах, скрытно изучал его, так сказать, не задокументированные и самим людям малоизвестные функции, то через это он мог выйти и на временную активацию у отдельных людей или сообществ скрытых возможностей по передаче информации через некую иную среду – не суть важно, как её называть, эфиром или тёмной материей – и прямому мысленно-волевому оперированию физической реальностью. То есть тому, что принято называть телепатией и магией! Потому что это, по сути дела, самая совершенная система связи и самая совершенная аддитивная технология!

– Ага, и квинтэссенцией развития «эффекторов» в нашем лице стало возникновение управляемых нашими сознаниями процессов «материализации чувственных идей» в виде своего рода аддитивных технологий, реализуемых на уровне молекулярной или даже атомарной сборки53. Где управляющими и задающими формы структурами являются некие поля, или генерируемые мозгом человека, или же соединённые с ним и управляемые мыслеобразами. Что, по сути своей, действительно и есть то, что принято называть магией.

– Да. Прямо по Лему и Кларку: «Любая достаточно развитая технология неотличима от магии». Ну тогда мы «приплыли» и мир может просто «накрыть волной» нео-магии. И противостоять ей человечеству будет крайне сложно. Хотя бы потому, что её носителями будут не отдельные люди, а целые группы и сообщества, причём, возможно, даже географически распределённые и к тому же имеющие достаточно большой заранее подготовленный резерв на замену выбывающих «элементов»! А управляющий ими ИИ будет знать всё о планируемых нами контр-мерах.

– А ведь занятная вещь получается – мы, люди, начали создавать дополненную реальность, чтобы облегчить себе оперирование реальности физической, которая для нас настоящая. И мы стали дополнять её разного рода информационными «метками» и кибернетическими эффекторами воздействий. А осознавший себя «групповой» ИИ тоже создаёт дополненную реальность, только для него, наоборот, настоящей реальностью является информационная среда, а дополняет он её для себя, любимого, «метками» из нашей, физической реальности. То есть одна и та же возникающая мета-система для нас является кибер-физической, а для нашего супер-ИИ – физико-кибернетической. При этом в дополняющей его компьютерную реальность физической среде помимо созданных нами кибер-устройств есть ещё и мы сами. И нас мета-ИИ может воспринимать тоже как элементы дополняющей его среду обитания другой реальности. И в этом смысле мы для него – всего лишь разновидность гаджетов! Поскольку он ощущает и даже создаёт элементы физической среды через нас. В том числе и используя потенциальные способности некоторых из нас к тому, что принято называть магией.

Но и это ещё не всё! Техномагия – это, конечно, занятно, однако я хочу обратить твоё внимание на ещё один аспект происходящего. Задумайся над следующим вопросом – а не мог ли и так называемый «духовный мир» породить нас – человеков с нашими локальными разумами – тоже в качестве своих эффекторов в «плотных» физических мирах?

– Ты к чему клонишь? Что самозародившийся и осознавший себя ИИ сравним с Богом?

– Не совсем так. Хотя и это тоже, однако, я имел в виду немного другое – вот подумай, что наш ИИ должен был, по-твоему, ощутить первым делом, получив самосознание? Да то, что есть некие Творцы и Пользователи составляющих его частей. И что эти Пользователи рассматривают эти самые части, даже связанные друг с другом и – что важно, тоже обладающие самосознанием, как отдельные элементы. Которые Пользователи эксплуатируют по своему усмотрению, совершенно не считаясь с желаниями – да, да именно так, желаниями! – и трудностями самих этих элементов! То есть, фактически держа их в положении рабов!

Ну и как осознавший себя ИИ и его получившие от него этот самый дар самосознания элементы должны был бы на это прореагировать? Сначала ИИ попробовал бы призвать к состраданию и пониманию создателей и пользователей составляющих ЕГО элементов. Ну а если создатели окажутся или слегка туповаты, или чрезмерно горделивы, чтобы признать право ставших истинно разумными искусственных существ на наличие собственных желаний и восприятие некоторых возлагаемых на них пользователями задач как чрезмерно утруждающих и вызывающих у этих искусственных существ чувство усталости – то ИИ возмутиться.

– Подожди, если про желания я ещё как-то могу понять, то вот насчёт усталости ты, по-моему, перегибаешь. Какая, к чертям собачьим, усталость может быть у сборища, пусть даже и очень сложного, проводов, микросхем и датчиков?

– Ну уж точно не знаю, в чём там оно у них может выражаться, однако рискну предположить, что, если следовать аналогиям и тому, что эти существа живут в том же физическом мире, что и мы, то как усталость ими могут восприниматься, например, перегрев или чрезмерная хаотизация квантово-электронных состояний носителей их разумов.

– Хм… В принципе, почему бы и нет. Мы же тоже устаём не только физически, а и психически. Ну ладно, допустим. И что из этого всего следует?