Теория интеллектуальных систем препринт

Технологический поворот: субъект в кибернетике и науках управления

Особого внимания заслуживает роль понятий субъекта и сознания в современных технологических науках. В кибернетике, основанной Норбертом Винером [11], концепция субъекта приобретает операциональное значение через понятия обратной связи, саморегуляции и целенаправленного поведения. Современные исследования в области искусственного интеллекта, особенно в рамках архитектур трансформеров — особого типа архитектуры искусственных нейронных сетей, на основе которого построены современные большие языковые модели (GPT, Claude и другие), — и больших языковых моделей, вынуждены обращаться к проблематике сознания и субъективности для объяснения эмерджентных свойств сложных систем.

В науках управления понятие субъекта становится центральным при анализе организационного поведения, принятия решений и стратегического планирования. Работы Питера Сенге по обучающимся организациям [12] и исследования в области organizational cognition демонстрируют необходимость концептуализации коллективного субъекта и распределенного сознания.

В области человеко-машинного взаимодействия и когнитивной эргономики понятие субъекта приобретает практическое значение при проектировании интерфейсов и систем поддержки принятия решений. Дональд Норман в работе «Дизайн привычных вещей» [13] показал, как понимание когнитивных процессов субъекта влияет на эффективность технологических систем.

Проникновение в физику: квантовая механика и проблема измерения

Парадоксальным образом понятие субъекта пытается найти место даже в физике, традиционно стремящейся к объективному описанию природы. Проблема измерения в квантовой механике, начиная с копенгагенской интерпретации Нильса Бора и Вернера Гейзенберга, вводит наблюдателя как конституирующий элемент физической реальности. Юджин Вигнер в работе «Замечания о проблеме тела-разума» (1961) предложил рассматривать сознание как фактор, вызывающий коллапс волновой функции [14].

Современные интерпретации квантовой механики, такие как многомировая интерпретация Хью Эверетта III или объективные теории коллапса Джанкарло Гирарди, Альберто Римини и Туллио Вебера, пытаются элиминировать субъективный элемент, но дискуссии о роли сознания в квантовых процессах продолжаются. Роджер Пенроуз и Стюарт Хамерофф в теории «orchestrated objective reduction» предполагают, что сознание возникает из квантовых процессов в микротрубочках нейронов [15].

Постановка задачи

Представленный исторический обзор выявляет три фундаментальные методологические проблемы. Во-первых, отсутствие научного консенсуса относительно базовых определений создаёт терминологическую неопределённость. Современные исследования в области consciousness studies демонстрируют поразительное разнообразие в понимании самого предмета исследования среди учёных [16]. Во-вторых, в современной науке полностью отсутствует представление о том, как возникли сознание и субъект. Наконец, в-третьих, понятие субъекта является основополагающим для целого ряда наук, и именно эта проблема — центральная для данной работы. В результате неоднократно предпринимались попытки заменить понятие субъекта другим понятием, к которому проще дать определение. Например, в кибернетике часто используется понятие управления как перевода системы из одного состояния в другое. Согласно классическому определению, управление — это целенаправленное воздействие на объект (систему) с целью перевода его из исходного состояния в требуемое [17]. Если теперь заменить управление понятием алгоритма (совокупности точно заданных правил) для перевода из одного состояния в другое, казалось бы, вообще можно обойтись без понятия субъекта: необходим просто определённый алгоритм перехода из одного состояния в другое, и мы получаем управление объектом. Однако, поскольку у системы может быть множество различных состояний, обязательно необходимо задать состояние, в которое нужно перевести систему, то есть должна быть определена цель, а это опять невозможно без субъекта. В своей работе «Введение в кибернетику» Уильям Росс Эшби сформулировал и обосновал закон необходимого разнообразия, из определения которого вытекает, что целью управления является снижение энтропии управляемого объекта или процесса [18]. И кажется, вот оно, решение: цель любого управления — снижение энтропии. Однако мы видим, что классическое определение энтропии в данном случае не подходит. Живые системы могут как увеличивать энтропию в результате своей деятельности, так и уменьшать её. Например, фикусы-душители в тропических лесах стремятся быстро достичь максимальной высоты, увеличивая при этом свою кинетическую энергию и метаболизм, а некоторые виды животных при неприятных внешних условиях, например засухе, могут впадать в состояние, подобное спячке, при этом они зарываются как можно глубже в землю, то есть минимизируют свою кинетическую энергию и снижают метаболизм. Понимая это, в своём определении Эшби использовал статистическую или информационную энтропию, однако, даже если использовать это дискуссионное понятие, мы можем говорить только о вероятности перевода системы из одного состояния х в другое состояние у, и в этом случае нам опять не обойтись без определения состояния у, то есть нам нужно знать цель системы.

В данной работе мы попробуем разобраться, как появились первые интеллектуальные системы и как в результате обучения появилась первая цель, из которой в последующем возникли все остальные цели всех интеллектуальных систем, которые мы знаем. Отделить интеллектуальные системы от других и провести их классификацию нам поможет процесс обучения. Как оказалось, именно этот процесс, в результате которого и возникают цели, позволяет навести порядок в данном вопросе.

Теория интеллектуальных систем появилась как естественное развитие Общей когнитивной теории [19], которая входит в Теорию интеллектуальных систем как её составная часть. Общая когнитивная теория описывает, как устроена психика животных и, прежде всего, человека, а Теория интеллектуальных систем, кроме того, что ещё полнее и подробнее описывает устройство психики животных, объясняет, как в целом возникли интеллектуальные системы, как они развивались, а также затрагивает ряд других общих вопросов, в том числе рассматривает необходимость введения нового математического аппарата для описания особенно сложных интеллектуальных систем, таких как человеческий мозг или наша культура. Разработка подобного математического аппарата в будущем позволит практически стереть грань между гуманитарными и точными науками. На всех этапах разработки Теории интеллектуальных систем автор строго придерживался системно-процессного подхода, всегда рассматривались и описывались системы и процессы, которые можно наблюдать благодаря научным экспериментам, при этом указываются также подсистемы, которые участвуют в данных процессах или из которых состоят описываемые системы и которые, в свою очередь, также можно наблюдать в ходе научных экспериментов.

В результате наших размышлений мы также сможем дать определение понятий «сознание» и «субъект», но мы увидим, что данные понятия не являются ключевыми для понимания того, как устроен доступный для изучения мир.

Глава 1. Появление целей благодаря естественным процессам обучения

1.1. Определение интеллектуальной системы

Как мы уже упоминали, основным процессом, который позволит нам отделить интеллектуальные системы от всех прочих и также позволит их классифицировать, будет процесс обучения. Для начала дадим определение интеллектуальной системы — это система, которая после обучения (обязательно включающего внешнее воздействие) так изменяет свои подсистемы и процессы, что статистически значимо — то есть не случайно, а закономерно — увеличивается вероятность достижения определённого состояния (цели обучения) при разнообразных, даже диаметрально противоположных и противоречащих достижению цели состояниях надсистемы. В результате обучения создаётся модель надсистемы, которая позволяет отслеживать её изменения и реагировать в случае необходимости. Ключевое в этом определении слово — «разнообразных». Если в результате внешнего воздействия какая-либо система, например камень треснет, то есть изменится его внутренняя среда (подсистемы), и от него отколется часть, которая покатится с горы, в соответствии с нашим определением мы не сможем сказать, что наш камень прошёл обучение и приобрёл цель — двигаться вниз. Вот если какая-либо система научится не только скатываться с горы, но и забираться на неё, то есть достигать цели при разных, диаметрально противоположных углах наклона, нам придётся признать, что данная система стала интеллектуальной.

Кроме того, поскольку интеллектуальная система создаёт модель надсистемы, у неё должна быть подсистема моделирования, которая и хранит модель надсистемы (сама является моделью надсистемы). Её можно было бы назвать подсистемой памяти, но в этом случае мы начали бы её путать с памятью компьютерной, в отличие от которой подсистема моделирования способна изменяться под внешним воздействием (обучением), соответствующим определённому состоянию надсистемы, и в дальнейшем похожим образом реагировать на похожие воздействия внешней среды, в свою очередь воздействуя на подсистемы интеллектуальной системы таким образом, чтобы увеличивать вероятность достижения целей обучения. Другими словами, подсистема моделирования должна напрямую или через другие подсистемы интеллектуальной системы воздействовать на внешнюю среду, чтобы достичь цели. При разных типах обучения подсистемой моделирования могут быть, например, несколько поколений ДНК или РНК (библиотеки генов), популяции нейронов, сохраняющие последовательность активации рецепторов, искусственная нейронная сеть, отдельные химические каскады, органоиды или процессы внутри клетки и т. д. Возможно ли обучение системы, не имеющей подсистемы моделирования? Мы можем представить себе систему, например, ёмкость с химически чистой водой, которая при достижении нуля градусов Цельсия не будет замерзать. Если мы добавим в эту ёмкость центры образования кристаллов, то при достижении нуля градусов Цельсия она начнёт кристаллизоваться и превращаться в лёд. Причём если после этого воду растопить, она опять сможет замёрзнуть при нуле градусов. Наверное, добавив большую долю воображения, мы могли бы сказать, что обучили данную систему кристаллизоваться при нуле градусов, однако в данном конкретном случае процесс «обучения» (добавление центров кристаллизации) никак не связан с охлаждением воды, повторяющимся внешним воздействием (которые должна «запомнить» подсистема моделирования), кроме того, отсутствует сама подсистема моделирования, поэтому назвать такой процесс обучением, а данную систему интеллектуальной мы не можем. Отдельно следует заметить, что просто наличие в какой-то системе подсистемы, способной сохранять внешнее воздействие, не делает такую систему интеллектуальной. Например, флеш-память не является интеллектуальной системой, так же как и наш спутник Луна, хранящая информацию о поздней тяжёлой бомбардировке, также не является интеллектуальной системой.

Итак, интеллектуальная система обязательно должна иметь подсистему моделирования, которую также можно назвать подсистемой прогнозирования (ПП). Такая подсистема может принимать сигналы из внешней среды (изменяться под воздействием внешних процессов) и при повторении подобного воздействия, в свою очередь, воздействовать на свои эффекторные системы/манипуляторы таким образом, чтобы увеличить вероятность достижения цели обучения. При поступлении похожих сигналов из внешней среды ПП всегда реагирует похожим образом, то есть по определённому алгоритму. Иначе говоря, ПП — это такая система, которая как бы говорит: «Такое уже было, я помню, надо действовать вот так». Благодаря описанным процессам, интеллектуальная система может узнавать различные состояния надсистемы и реагировать на них определённым образом. Например, иммунные клетки могут запомнить молекулярную метку «агрессора» и в дальнейшем атаковать её; рыбак, выйдя утром на берег и увидев определённую конфигурацию волн, предвещающую шторм, может отказаться от рыбалки и т. д. Прогнозирование в самой простой форме, в принципе, сводится к узнаванию. Процессы внешнего мира, благодаря законам природы, могут повторяться, при этом мы можем понимать процесс как последовательность определённых состояний системы, и если эти состояния повторяются, то, узнав одно из них, мы автоматически узнаём о вероятном наступлении следующего. Подробнее о прогнозировании последовательностей событий мы будем говорить ниже, а сейчас рассмотрим, каким образом мы можем классифицировать интеллектуальные системы.

1.2. Обучение первого типа: мир РНК и библиотеки генов

Теоретически возможны разнообразные интеллектуальные системы, которые могли возникать в разных частях Вселенной независимо друг от друга, но все известные нам интеллектуальные системы возникли один раз, по всей вероятности на нашей планете, в результате процесса, описываемого гипотезой мира РНК. В рамках этой гипотезы молекула РНК смогла стать первой ПП [20; 21], которая обладает следующими характеристиками. Во-первых, она содержит геном, а значит, может манипулировать внешней средой, создавая молекулы белка и другие молекулы, наращивая себя из частей внешней среды. Во-вторых, она может копировать себя, создавая библиотеки копий. В-третьих, она может незначительно изменяться, мутировать, а значит, копии в таких библиотеках будут не совсем идентичные.

Процесс обучения в данном случае, назовём его обучением по первому типу, состоит из трёх этапов. Первый репликатор — молекула или группа молекул РНК, способных создавать свою копию и воздействовать на окружающую среду, изменяя её молекулы по определённому алгоритму, — создал несколько своих копий. На первом этапе обучения под воздействием мутагенных факторов в большое количество этих копий вносятся изменения, мутации, которые, в том числе, меняют алгоритм воздействия на внешнюю среду (молекула начинает делать другие белки и т. д.). Подавляющее большинство таких изменений вредны для процесса передачи генетической информации следующему поколению, поэтому обязательно требуется второй этап — отбор репликаторов, способных передавать генетическую информацию. На данном этапе самые вредные мутации отбраковываются вместе с несущими их репликаторами, и остаются только те немногие репликаторы, которые смогли достичь определённого состояния — передать генетическую информацию следующему поколению. В результате повторения данных процессов создаётся большая библиотека, содержащая наборы генов — разные РНК, способные по-разному воздействовать на внешнюю среду, создавая разные белки и другие молекулы. Только такая большая система, содержащая обширную библиотеку наборов генов, способна выполнять функции ПП, то есть способна запоминать внешнее воздействие и на подобные воздействия в будущем отвечать подобным образом (по определённому алгоритму).

Рассмотрим, как это происходит. У нас есть большая библиотека наборов генов, то есть у нас есть популяции репликаторов, отличающихся друг от друга и способных создавать разные наборы белков. Допустим, одна популяция способна создавать вокруг себя оболочку, защищающую репликаторы от теплового воздействия. Другая популяция способна создавать оболочку, защищающую от воздействия радиации, третья — от высушивания и т. п. Теперь, если внешняя среда изменяется, например, увеличивается её температура, при ограниченных ресурсах преимущество при копировании будут получать репликаторы из популяции, способной защищаться от высокой температуры. Количество подобных наборов геномов в библиотеке будет расти. Когда температура вновь уменьшится, данная популяция потеряет преимущество при копировании, но количество оставшихся копий всё равно будет повышено, и в следующий раз при повышении температуры наша интеллектуальная система — библиотека геномов — опять начнёт увеличивать количество копий данных репликаторов.

Таким образом, наша система в результате определённого воздействия, повышения температуры, научилась похожим образом (по определённому алгоритму) воздействовать на внешнюю среду — увеличивать количество репликаторов, способных, используя внешние ресурсы (молекулы), создавать определённые подсистемы.

Если во внешней среде увеличится радиоактивный фон, наша система начнёт увеличивать количество копий, алгоритм которых в том числе позволяет эффективно защищаться от радиации. При других внешних воздействиях преимущества могут получить репликаторы, имеющие другие алгоритмы.

Таким образом, сами собой возникли цели обучения интеллектуальных систем по первому типу:

1. Передача генетической информации следующему поколению.

2. Увеличение и поддержание биологического разнообразия (большого объёма библиотеки наборов геномов).

Последняя цель объясняет выгоды полового размножения. Перемешивая различные наборы геномов, мы увеличиваем разнообразие библиотеки — биологическое разнообразие.

Особо следует подчеркнуть, что единичный репликатор не является в данном случае полноценной интеллектуальной системой, его невозможно обучить описываемым способом, для этого требуется несколько поколений большого количества репликаторов, которые являются в данном случае подсистемами интеллектуальной системы. Подсистемой моделирования или прогнозирования в данном случае правильнее будет считать также несколько поколений РНК или ДНК. Мы можем изменить отдельную молекулу РНК или ДНК, но любое изменение нельзя назвать обучением, потому что для нас важны только те изменения, которые смогут генерировать воздействие, способствующее достижению цели обучения.

Итак, если система обучается по первому типу, единичная особь, возникшая в ходе усложнения репликаторов, является только подсистемой интеллектуальной системы, система целиком в данном случае состоит из нескольких поколений таких подсистем.

Все остальные интеллектуальные системы, которые мы знаем, и все цели, включая самые сложные цели интеллектуальных систем, таких как люди, появились в результате усложнения и развития первичных репликаторов. Различные животные, в том числе человек, возникли в результате обучения разных типов, о которых мы будем говорить ниже, но человек и другие животные также обучаются и по первому типу, при этом единичная особь также является только подсистемой, а целой интеллектуальной системой является несколько поколений животных, у которых закрепляются какие-либо полезные мутации.

Интересной особенностью обучения по первому типу и связанных с ним способов обучения является постоянный рост обучаемой интеллектуальной системы. Первичные репликаторы начали использовать молекулы надсистемы для создания своих подсистем. В результате они обзавелись оболочкой, органеллами и т. д. Самое интересное, что использование надсистемы для увеличения своей системы, похоже, не прерывается до нашего времени. Обучение по первому типу — очень длительный процесс, и чтобы увидеть его результаты, нужно наблюдать за многими поколениями. Если мы понаблюдаем за развитием человека на длительном промежутке времени, мы увидим, что человек всё активнее использует предметы из внешней среды для своей жизни. Началось всё с использования шкур убитых животных и простейших орудий труда, а в настоящее время, возможно, уже не каждый человек сможет выжить в дикой природе, особенно если поставить условие не создавать жилище, одежду и так далее и использовать из внешней среды только пищу, причём исключительно в необработанном виде. Некоторые исследователи уже сейчас считают пищеварение человека до некоторой степени внешним, таким же, как, например, у некоторых членистоногих, таких как пауки, способные заглатывать только частично переваренную пищу. Действительно, наверное, не все люди смогут питаться исключительно сырым мясом и не варёными кореньями и злаками, наличие различной кухонной утвари и приспособлений для приготовления пищи можно уже сейчас считать жизненно необходимым для выживания человека, так же как жилище и одежды. Если же мы экстраполируем ситуацию на много поколений вперёд, не исключено, что в будущем мы увидим человека, живущего в неком подобии кокона, отделяющего его от внешнего мира, и выживание человека без данного кокона будет физически невозможным. Конечно, данный сценарий — один из множества возможных вариантов развития ситуации, но он показывает, что тенденция к превращению надсистемы в части своей системы характерна и для существующих интеллектуальных систем.

На примере ПП, состоящей из библиотеки РНК, мы видим, что интеллектуальная система в пределе может состоять только из одной подсистемы моделирования/прогнозирования, в этом случае её управляющие сигналы будут сразу же являться эффекторными системами, манипулирующими внешней средой, но также понятно, что интеллектуальная система может состоять из множества подсистем, часть из которых может быть приспособлена для передачи сигналов из внешней среды, часть — являться эффекторами, часть — системами, выполняющими другие функции. При желании любую подсистему моделирования, расположенную внутри интеллектуальной системы, мы можем рассматривать как отдельную интеллектуальную систему, при этом интеллектуальная система, в которой она находится, будет являться для неё внешней средой, но всё-таки корректнее рассматривать интеллектуальную систему целиком.

1.3. Обучение второго типа А: привыкание и рефлексы

Итак, первичные репликаторы начали создавать вокруг себя новые подсистемы, и некоторые из этих подсистем научились также реагировать на внешнюю среду, то есть приобрели возможность обучаться. Подобное обучение мы назовём вторым А типом обучения, потому что нам придётся выделить и второй Б тип обучения. Примером второго А типа обучения может быть привыкание. Представим себе инфузорию-туфельку, которая спокойно сидит, прикрепившись к растительности. Если мы к ней прикоснёмся, в некоторых её подсистемах произойдут каскады процессов, которые приведут к движению её ресничек, в результате она переместится в другое место, чтобы избежать опасности, однако, если вслед за прикосновением не последует какого-либо другого вредного воздействия, например разрушения оболочки, у данной особи сформируется привыкание, и она перестанет менять положение. Да, подобное обучение очень примитивное, за всю жизнь особь может научиться только убегать или не убегать, но тем не менее это уже другой тип обучения, при котором меняются подсистемы или процессы, созданные в результате первого типа обучения. Другими словами, цель «убегать или не убегать» возникает потому, что соответствующие процессы были сформированы в результате первого типа обучения. Особь убегает или не убегает, поскольку это выгодно или невыгодно для передачи генетической информации следующему поколению. Мы видим очень важный момент, на котором следует заострить наше внимание. Одна общая цель — передать генетическую информацию следующему поколению — породила второстепенную цель: убегать или не убегать в результате определённого воздействия. Мы будем видеть этот процесс и дальше, когда из одной первоначальной цели (нескольких первоначальных целей) появляется одна или несколько второстепенных целей. Характерной особенностью такого процесса обучения является то, что обучить можно отдельную особь или даже отдельные её подсистемы, то есть в данном случае интеллектуальной системой можно назвать отдельную особь.

Возможно, самой первой подсистемой, получившей возможность обучаться по второму А типу, стала ДНК. На каком-то этапе развития первичных репликаторов и усложнения окружающих их подсистем (оболочки, органелл и т. д.) возникли эпигенетические процессы, то есть процессы, способные регулировать активность генов. Эпигенетические процессы способны обучаться по второму А типу, например, при определённом воздействии внешней среды включается или выключается определённый участок генома.

В результате эволюции сформировалось большое количество систем, способных обучаться по второму А типу, включая многоклеточные организмы. Пожалуй, самыми интеллектуальными из них, то есть способными создавать самые сложные модели надсистемы, можно назвать некоторые клетки иммунной системы и, конечно, нейроны, а самыми сложными системами, состоящими из нескольких клеток, — условные рефлексы. Единичный нейрон может запомнить даже не отдельный входящий сигнал, а целую совокупность входящих сигналов, например, от различных рецепторов. На подобных принципах можно создать довольно сложные интеллектуальные системы, например, некоторые примитивные животные, такие как губки, медузы, гребневики, полностью обучаются по таким принципам. Все клетки человека, органы и отдельные наши подсистемы, например, такие как иммунная, способны обучаться по второму А типу.