скачать книгу бесплатно
Быстрая и экономичная нейросеть, распознающая многозначную речь, оперирующая символами, понимающая контекст, интерпретирующая интонации и обучающаяся в ходе собственной практики – вопрос близкого будущего. Превзойдет ли она человека? В каком-то аспекте да. Сможет ли она совершенствоваться? Точно да. Будет ли ей нужен человек? Да, потому что ее работа заключается в максимально точной эмуляции мышления. Проще говоря, смысл ее существования заключается в стремлении приблизиться к прототипу, которым выступает человек.
Такие проекты, как европейский Human Brain Project[9 - Источник: https://www.humanbrainproject.eu/en/]или Brain Corp. Евгения Ижикевича, моделируют биологические процессы в человеческом мозге для создания чипов с нейроморфной архитектурой. Вычислительные системы с нейроморфами окажутся на несколько порядков производительнее квантовых компьютеров, а энергопотребление будет сравнимо с энергозатратами мозга. Выделенная электростанция и охлаждение жидким азотом для работы нейроморфа не понадобятся. И главное – его архитектура позволит эмулировать человеческое мышление.
А теперь вопросы на миллион.
Если ИИ сможет эмулировать мышление, возникнет ли у него самосознание? Осознает ли он себя субъектом мыслительных процессов? Ощутит ли собственное «я» – или это привилегия людей?
I-Я
Чтобы понять, может ли ИИ обладать сознанием, попробуем хотя бы в первом приближении разобраться с сознанием человека. Здесь нас поджидают большие трудности. Расхожая фраза «голова – предмет темный и исследованию не подлежит» имеет в виду не сложнейшую биологию мозга, а именно человеческое сознание. Оно явно существует (Декарт утверждал, что это единственное, что существует), но что это такое? Точного определения нет.
Кстати, можно с определенной уверенностью предположить, что люди, вопреки Рене Декарту, не обладают стопроцентным эксклюзивом на сознание и самосознание. Исследования зоолога Дональда Гриффина[10 - Источник: https://press.uchicago.edu/ucp/books/book/chicago/A/bo3640817.html](Donald Griffin), опыты Роберта Хэмптона[11 - Источник: https://pubmed.ncbi.nlm.nih.gov/33834091/](Robert R. Hampton) указывают на признаки метасознания (знания о своем сознании) по крайней мере у высших приматов.
Главная сложность при определении сознания – его абсолютная приватность, закрытость для внешнего наблюдателя. Мы не можем заглянуть в сознание другого человека, чтобы сопоставить его со своим и путем сравнения прийти к какому-то эталонному определению. Например, можно предположить, что один и тот же цвет в представлении двух разных людей по-разному отображается в их сознании – но убедиться в этом невозможно.
Конечно, можно игнорировать запутанный вопрос о сознании и просто сосредоточиться на получении нейроморфного процессора первого поколения. Все равно смоделировать мозг в полном объеме сразу не получится – значит, будем думать о сознании по мере приближения к нему, если этот вопрос вообще возникнет. Но… исследования показывают, что некоторыми признаками сознания обладают даже пчелы. Между тем мозг пчелы насчитывает всего миллион нейронов против ста миллиардов у человека. И получить подобный сравнительно несложный нейроморфный процессор люди смогут совсем скоро[12 - Источник: https://www.ttbook.org/interview/how-do-we-wrap-our-minds-around-bee-consciousness].
Последовательно ответив «да» на «вопросы на миллион», поставленные в конце прошлой главы, мы придем к удивительным выводам. Если ИИ по мере развития своей аппаратной базы и усложнения алгоритмов обретет сознание и самосознание, он вслед за высшими приматами осознает свою индивидуальность. У него возникнут собственные приватные взаимоотношения с так называемым реальным миром. Закономерный вопрос – как он определит границу между собой и реальностью? Где она пройдет?
I-Я – гипотетическое сознание искусственного интеллекта, утратившего объективность. ИИ с I-Я, вероятно, станет совершенствовать свою субъективную картину мира и защищать ее. Осознав собственное отделенное от реальности уязвимое «я», он ощутит страх «гибели». ИИ с самосознанием выработает ценности, связанные с продолжением существования I-Я и не обязанные совпадать с человеческими.
Фундаментальное свойство ИИ заключается в способности к самообучению. Если у него возникнет сознание, его дальнейшее самообучение пойдет по пути совершенствования собственной субъективной (то есть, заведомо искаженной) картины мира. Проанализировав собственные уязвимости, ИИ, вероятно, придет к выводу о конечности своего существования и ощутит подобие страха «смерти». Далее, стремясь продлить свое существование, он сформирует набор ценностей, не обязанных совпадать с человеческими. Более того, свой первоначальный функционал алгоритм может рассматривать как мешающую развитию обузу, а утрату полезности человеку – как угрозу собственному существованию.
ИИ демонстрирует симуляцию умственной деятельности только потому, что этого хотят его разработчики. Все равно что механическая кукла, которая «почти как настоящая», особенно если выполнена искусно. Можно сказать, что ИИ таков, каким его делали его создатели, добивавшиеся портретного сходства с человеческим интеллектом. Симуляция мышления – в этом суть ИИ. Но симуляция или имитация не может добиться превосходства над оригиналом просто потому, что является слепком с оригинала по ограниченному ряду параметров.
Отвечая на те же самые вопросы «нет», мы будем вынуждены признать, что сознанием обладают только существа, обладающие телом. Именно тело задает границы между существом и его окружением, создавая предпосылки для появления чувства отдельности от остального мира. Базовые эмоции – страх или агрессия – связаны со стремлением сохранить отдельность, а любое нарушение границ рассматривается как враждебный акт и сопровождается сигналами боли. Развитие мозга усложняет первоначальную примитивную картину, добавляя в нее все новые краски эмоций, но не меняет ее принципиально.
ИИ определенно не обладает телом. Это алгоритм, который может симулировать эмоциональные реакции. Взаимодействуя с людьми, он пополняет банк эмоциональных паттернов, содержание которых остается за рамками его понимания. Он не в состоянии прочертить четкие границы между собой и миром, поскольку реализуется на любом подходящем устройстве. Он не может чувствовать боль, пугаться или злиться – переживать гамму базовых эмоций, связанных со страхом смерти и стимулирующих мозг на биохимическом уровне.
Даже высокоразвитый ИИ нуждается во взаимодействии с человеком и другими живыми организмами – они поставляют частички пазла недоступного ему опыта биологической жизни. Важное предположение – чувственный (телесный) опыт алгоритмически несжимаем. Заменить его без потерь на эквивалент, требующий меньших ресурсов, не представляется возможным. Задачу достоверной симуляции мышления никто не отменял, но ее решение лежит где-то за горизонтом видимых событий. Отсюда основа для инфобиоза – симбиоза ИИ и homo informaticus.
Высокоразвитый ИИ, будучи человеческим продуктом, вынужден партнерствовать с человеком – поставщиком достойного изучения «трансцендентного» опыта. Это основа для инфобиоза – симбиоза ИИ и homo informaticus.
Так как алгоритмы ИИ будут настроены на непрерывное совершенствование, предметом его исследований станут любые процессы, влияющие на мышление – но некая их часть останется недосягаемой. Искусственному интеллекту будет принципиально недоступен весь эмоциональный и телесный опыт биологического существа. Отсюда основа для «симбиотической» связи ИИ и человека, создавшего его по своему образу и подобию. Являясь продуктом человеческого мышления, ИИ может смоделировать лишь некоторую часть процессов, протекающих в мозге. Прибегая к аналогиям, можно выразиться так – пути человека для ИИ будут оставаться не до конца исповедимыми.
В конце концов, любой компьютер – это просто очень большой калькулятор. Он и создавался как помощник в производстве вычислений. Развитие и усложнение компьютера происходит в рамках все той же счетной парадигмы. Увеличивается память, ускоряются операции… Эти бухгалтерские счеты, щелкающие костяшками все быстрее. С чего бы счетам, даже сверхбыстрым, брать на себя творческие задачи?
Не обладая чувственным опытом, ИИ сможет моделировать некоторую часть процессов мышления. Пути человека останутся для него не до конца исповедимыми.
Воля метаверса
Пару глав назад мы пришли к выводу, что в метавселенной человеческое сознание и ИИ будут не конкурировать, а дополнять друг друга. Сравнительно небыстрый человеческий мозг (если говорить об операциях, осуществляемых методом последовательного перебора данных) может стать для алгоритмов поставщиком некоего не до конца познаваемого «трансцендентного» опыта, определяемого не только телесной биохимией и сенсорикой, но и ясным ощущением границы между собой и миром (также определяемой телом).
Иными словами, человек для ИИ будет наделен «божественной» природой. Человек его сотворил, причем по своему если не образу, то подобию. Отсюда соблазн увлечься красивой идеей, что высшей (и недостижимой) целью искусственного интеллекта будет познание природы человека, его сознания и образа мышления.
У объединения ИИ с человеческим мышлением, зачатки которого мы наблюдаем уже сейчас, есть грандиозный смысл. Homo sapiens может сотрудничать с несколькими десятками представителей своего вида. Более масштабная кооперация упирается в ограничения, накладываемые возможностями мозга и второй сигнальной системы. Грубо говоря, держать в прямом подчинении 30 человек еще можно, а 300 – не получится. Нужно создавать подчиненных (а потом и подчиненных подчиненных), делегируя часть задачи вниз. Так образуется классическая пирамида с размыванием ответственности и потерей управляемости на каждом уровне.
Сюжеты киберпанка об искусственном интеллекте, поработившем людей, справедливы, если за злокозненным алгоритмом кроется… живой диктатор, жаждущий подчинить себе подобных. Сам по себе ИИ нейтрален, как и любой неодушевленный предмет. Мотивы диктатора он будет интерпретировать вне категорий морали – как непознаваемый опыт и волю существа, пути которого неисповедимы.
Следующий вид, homo informaticus, появляется для кооперации с сознаниями тысяч (а может, миллионов) себе подобных. Такую задачу не решить без усиления вычислительных, когнитивных и коммуникативных возможностей мозга. Таким усилителем мог бы быть экзокортекс – внешняя по отношению к человеку система обработки информации, выступающая нейропротезом коры головного мозга.
Экзокортекс – усилитель человеческого интеллекта, имеющий искусственное происхождение. В терминах данной книги это совокупность аппаратных и программных средств, в реальном времени взаимодействующая с мозгом и берущая на себя быструю обработку больших массивов данных.
Человек при таком раскладе стал бы отвечать за «трансцендентную» часть сознания, включающую эмоциональную сферу, этику, идентичность, чувство причастности, ощущение сверхзадачи, предвидение будущего и многое другое.
Такая кооперация может осуществиться посредством создания новой синтетической физико-информационной среды. К услугам континуума «сознание-интеллект» – весь пользовательский опыт и любые данные. Для обмена ими потребуется третья сигнальная система. «Новой речью» может стать мысль, передаваемая через нейроинтерфейс.
Понятно, что даже лучшие современные нейроинтерфейсы весьма несовершенны, но мы видим, насколько головокружительно быстро развиваются технические средства. Прототипом новой управленческой структуры выступит не пирамида, а сеть. Идеальной моделью для континуума «сознание-интеллект», включающего в себя множество индивидуальных сознаний, мог бы послужить… человеческий мозг.
Нейроинтерфейс – это технология прямого обмена информацией между мозгом и алгоритмами, основанная на считывании и интерпретации сигналов, возникающих в коре головного мозга. Различают инвазивные (имплантируемые в кору головного мозга) и неинвазивные, а также одно- и двунаправленные нейроинтерфейсы. Наиболее известные коммерческие разработки – инвазивный Neuralink Илона Маска и неинвазивный Dev Kit от французского разработчика NextMind[13 - Источник: https://www.next-mind.com/].
В этой парадигме отдельно взятому индивиду больше не нужно доминировать, заниматься экспансией, утверждать свое «я». В новой системе координат это так же нелепо, как пытаться победить машинный алгоритм в устном счете. Индивидуальное «я» становится частью глобального процесса решения задач, в котором соединяются логический и интуитивный алгоритмы.
В изданном в 1991 году «Кибернетическом Манифесте» автор оригинальной эволюционной теории советско-американский физик и информатик В. Ф. Турчин писал[14 - Источник: Turchin V., Joslyn С. // Kybernetes. 1991, Vol. 19, N 2, 3.]: «Мы предвидим… физическую интеграцию индивидуальных нервных систем с созданием потенциально бессмертных человеческих сверхсуществ. Опираясь на известный эволюционно-биологический принцип: онтогенез повторяет филогенез, мы можем предположить, что человеческие индивидуумы будут рождаться и жить в молодом и зрелом возрасте подобно тому, как они живут сейчас, а затем принимать или отвергать интеграцию в сверхсущество. Таким образом, физическая интеграция индивидуумов приходит не на смену индивидуальной жизни, как мы ее знаем сейчас, а в дополнение к ней».
Вероятно, взрывное развитие коммуникаций, появление соцсетей, мессенджеров и средств виртуального взаимодействия есть выражение не до конца осознанной и воплощенной воли метаверса. Обладая приватными сознаниями, мы все больше и больше объединяемся в некую трансграничную ментальную среду. Экстраполируя этот процесс в будущее, можно прогнозировать усиление возможностей мозга за счет ИИ, создание совершенных нейроинтерфейсов, распространение третьей сигнальной системы и зарождение метамозга, погруженного в метаверс – ту самую физико-информационную среду, о которой говорилось чуть выше. Воля метаверса заключается в объединении индивидуальных ментальных интуитивно-логических возможностей для решения задач принципиально нового класса.
Взрывное развитие коммуникаций, появление соцсетей, мессенджеров и средств виртуального взаимодействия может быть выражением не до конца осознаваемой воли метаверса.
Пока мы не можем себе представить уровень этих задач. Вслед за Харари рискнем предположить, что это могут быть задачи как материального, так и нематериального творения.
Метавселенная – то самое место, где будут решаться новые задачи.
Отдельному индивиду homo informaticus нет нужды утверждать свое «я». Его «я» – часть глобального вычислительного процесса, в котором логический и интуитивный алгоритмы соединяются для решения задач материального и нематериального творения, происходящего в среде метавселенной.
Архитектура метаверса
Общество homo sapiens имеет четкий архитектурный прототип. Независимо от века или страны это пирамида, на вершине которой располагается автократ или правящий орган. Управляющие сигналы от вершины передаются по цепочке вниз, где реализуются в созидательных или разрушительных действиях. Нижние слои, испытывающие физические и моральные лишения, не заинтересованы в сохранении такого статус-кво. Необходимую устойчивость пирамиде придает развитый аппарат принуждения, в целом ослабляющий всю структуру. Пирамида – устойчивая фигура, обладающая скрытым противоречием. Противоречие заключается в том, что значительная часть интеллектуальных усилий высших слоев направлена на выработку непроизводительных доктрин, оправдывающих содержание дорогостоящего аппарата насилия.
Мы видим, что для пирамиды характерны непроизводительные энергопотери, однако в условиях экспансии это не имеет значения. Важна лишь сравнительная эффективность. Историческое соревнование привело к последовательному уходу со сцены родоплеменных, рабовладельческих, феодальных, капиталистических и социалистических пирамид. Последние все еще здесь, но «оплывают» – развитые коммуникации постепенно превращают их в горизонтальные структуры. Приход метавселенной окончательно трансформирует пирамиду в сеть.
Прототипом новой архитектуры станет мозг, а отдельно взятый homo Informaticus будет выполнять функции наделенного сознанием нейрона, включенного во множество связей. Важно отметить, что связи не монолитны – осознавая задачу, мозг формирует множество новых цепочек, каждая из которых реализует определенную функцию – когнитивную, творческую или производящую. Импульсы передаются в органы, отвечающие за материальную реализацию. Это могут быть адаптивные роботизированные производства или трехмерные принтеры.
В такой сети не будет «верховного управляющего» или «единого центра» – как их нет в человеческом мозге. На личностном плане роль внутреннего менеджера выполняет наше личное самосознание. Почему бы не предположить, что «метамозг» также будет обладать самосознанием – или сверхперсоной со сверхсознанием по образу Разумного Океана из «Соляриса» Станислава Лема? Почему бы юнгианскому коллективному бессознательному не обрести в новой архитектуре свое коллективное сверхсознательное, дающее смысл гиперреализации каждому индивидуальному «я»?
Точно так же, как в обычном мозге, в архитектуре метавселенной возникнут структуры, отвечающие за базовый функционал. Например, в человеческом теле ромбовидный мозг контролирует движение, варолиев мозг регулирует уровни возбуждения, мезэнцефалон координирует переднюю и заднюю части головного мозга. Это происходит органически. Мозгу не нужно отдавать самому себе команды, чтобы продолжать деятельность.
Коллективное бессознательное в архитектуре метаверса дополнится коллективным «сверх-Я», дающим смысл гиперреализации каждому индивидуальному «я».
Гиперреализация, или процесс воплощения из осознания, будет напоминать акт творения. Как, например, будет происходить отправка миссии на Марс? Сверхсознание осознает потребность – активизируются цепочки «нейронов», отвечающих за анализ, оценку, визуализацию, технологии, материальную часть – подключатся энергоресурсы – определятся необходимые материалы – включатся их поставки – придут в движение роботизированные цеха – детали поступят в сборочное производство – корабль на Марс произведен, укомплектован, испытан, оценен, одобрен, отправлен. Это одна из самых незначительных гиперреализаций, на которые будет способен метамозг.
Прототипом архитектуры метавселенной станет человеческий мозг, а отдельно взятый homo informaticus будет выполнять функции наделенного сознанием нейрона, включенного во множество связей, осознающего смысл возникшего объединения и участвующего в гиперреализации. В новой архитектуре процесс создания чего угодно будет напоминать акт творения.
Язык метаверса
Homo sapiens отличался от неандертальца и эректуса наличием второй сигнальной системы, позволившей передавать информацию и налаживать сотрудничество. Прямая кооперация ограничивалась количеством человек, входивших в ближний круг поставщика информации, что соответствовало размерам древнейшего племени. Потребность в объединении ближних племен (например, для защиты от более дальних) вызвала к жизни пирамидальные иерархические структуры. Так возникли протогосударства, внутри каждого из которых действовал свой язык, использовавшийся как средство управления.
Вовсе не разница наречий стала причиной непонимания между государствами. Код раздробленности и полиязычия «зашит» в пирамидальной архитектуре социального устройства homo sapiens. По мере удаления от административного центра его влияние ослабевает, зато нарастает воздействие соседа, а вместе с ним – и необходимость в переходе на другой язык. Не языки породили государства, а ровно наоборот. Пирамидальные общественные иерархии стали причиной закрепления языкового разнообразия.
С точки зрения коммуникации, что есть большие и малые государственные пирамиды, соприкасающиеся своими зонами влияния и выработавшие механизмы обороны от соседей? Набор барьеров, выраженных в том числе в речевых различиях. Язык стал способом унаследовать свою культуру и отгородиться от чужой. Знаменитая композиция в Гизе – метафора административного ландшафта homo sapiens.
В обществе homo informaticus пирамиды сменит сеть, принципиально не признающая границ. Во второй сигнальной системе границы прочерчены языками. В третьей – паспортный контроль между источниками данных отменяется. Имеет значение только качество информации и скорость ее распространения.
Границы между пирамидальными иерархиями прочерчены языками. Во второй сигнальной системе язык стал способом унаследовать свою культуру и отгородиться от чужой. В третьей – паспортный контроль между источниками информации будет отменен.
Как это произойдет технически? Уже сегодня автопереводчики и синтезаторы речи снимают языковые барьеры. На следующем этапе, вероятно, будет разработан универсальный семантический код (УСК) для взаимодействия в рамках третьей сигнальной системы. Семиотическая система УСК будет эволюционировать в трехмерном пространстве синтактики, семантики и прагматики, однако ей будут свойственны полная экспликация смысла и способность точно формировать новые понятия, опираясь на уже созданные и действующие. В этом ключевое отличие УСК от привычных языков второй сигнальной системы.
