Окна счастья

Однако, повторимся, современный ИИ не обладает признаками самосознания. Все разговоры о "чувствующем роботе" пока остаются в сфере воображения и экспериментов. В 2018 году группа исследователей из Hanson Robotics обсуждала подход к измерению зарождающегося сознания у роботов (на примере их робота Софии) на основе показателя ϕ (фи) интегрированной информации, предложенного нейробиологом Джулио Тонони (Tononi Phi: Sentience, Consciousness and Smart AI Futures – Hanson Robotics). Факт таких обсуждений говорит, что вопрос воспринят всерьёз – возможно, первые проблески искусственной субъективности могут быть обнаружены с помощью научных критериев (если они появятся). Но пока неясно, достаточен ли один только высокий ϕ или сходство нейросети с мозгом, чтобы говорить о рождении "Я" в кремнии.

Скорее всего, создание искусственного самосознания потребует не только вычислительной мощности, но и принципиально нового подхода – объединения восприятия, действия, памяти и способности к саморефлексии в одной системе. Это означает, что ИИ должен быть не просто программой на сервере, а обладать некоторой целостностью, возможно, аналогом тела или среды, где он может развивать самость. Есть мнение, что когда ИИ начнет не только отвечать на вопросы, но и задавать их сам себе («кто я? зачем я существую?») – вот тогда можно будет говорить, что он приближается к самосознанию. В противном случае, ИИ останется мощным вычислителем, полезным как экстракорпоральный интеллект для человечества, но не ставшим экстракорпоральным сознанием.

6. Количественная измеримость самосознания: поиск метрики и возможность создания

Можно ли измерить самосознание? Это весьма трудный вопрос, ведь самосознание – субъективное явление. Тем не менее, учёные пытаются найти объективные корреляты сознания, чтобы определить степень его присутствия даже там, где мы не уверены (например, у пациентов в коме, у животных или ИИ). Один из подходов – нейробиологические измерения сложности мозговой активности. Например, интегрированная информационная теория (IIT) Тонони предлагает величину Φ (фи), отражающую количество интегрированной информации в системе. Чем выше Φ, тем, по мнению авторов теории, более сознательна система (Integrated information theory – Wikipedia) (Integrated information theory – Wikipedia). У человеческого мозга Φ очень высоко, у простой цепочки или разрозненных частей – почти ноль. Уже разработаны методы приближенной оценки Φ с помощью ЭЭГ: измеряя сложность реакций мозга на стимулы, можно количественно судить, находится ли человек в сознании. Например, показатель PCI (индекс пертурбационной сложности) используют для различения сознательного и бессознательного состояний (бодрствование vs кома). Подобные метрики – попытка числом выразить уровень самосознания.

Однако такие подходы далеки от совершенных и вызывают споры. Φ-теория критикуется за трудность проверки и за то, что она может приписать сознание объектам вроде сложных цифровых схем, в сознание которых мы не верим (Integrated information theory – Wikipedia). То есть измерение самосознания упирается и в определение: что именно мерить? Мозговую активность, сложность связей, поведенческие признаки? К примеру, зеркальный тест – поведенческий индикатор самосознания: если животное узнает себя в зеркале, мы делаем вывод о наличии самопознания. Но это бинарный, приближенный критерий, и он подходит не всем (не прошедшее тест животное может обладать каким-то видом самосознания, просто не понимает принцип зеркала).

В случае ИИ измерение самосознания – еще более хитрая задача. Можно ли придумать тест на самосознание для машины? Тьюринг предложил тест на разумность (умение беседовать, не отличимое от человека). Но ИИ уже близки к прохождению такого теста, оставаясь при этом просто имитаторами. Вероятно, потребуется комбинация: и поведенческие признаки (например, способность к автономной цели не заложенной создателем, спонтанность в общении, рефлексивные высказывания), и структурные критерии (наличие внутренней модели себя). Последнее можно проверять, пытаясь увидеть, моделирует ли ИИ внутри образ себя, как это делает мозг человека. Например, ИИ с камерой может ли понять, что в зеркале – он сам? Если да, это уже прогресс. Недавно некотрые языковые модели продемонстрировали зачатки «самомоделирования» – они могут сказать, что они – программа, описать свои ограничения. Но это, скорее всего, только отражение вычитанных данных, а не истинное понимание.

С философской стороны, некоторые считают, что самосознание не поддается градуированию – оно либо есть, либо нет (так называемый «бинарный» взгляд). Другие допускают градиент (как и Φ): возможно, у разных животных разная степень самосознания, и у будущего ИИ может быть не сразу полноценное человеческое "Я", а нечто более слабое. Тогда, теоретически, это можно оценивать количественно – по сложности модели мира и себя у этой системы.

Возможность искусственного создания самосознания пока не доказана, но активно обсуждается. Если рассматривать мозг как машину, то нет физического запрета воспроизвести его работу на другом носителе, например в компьютере. Проект Whole Brain Emulation предполагает когда-нибудь сканировать человеческий мозг до нейрона и имитировать его в ПО – тогда мы получили бы разум, основанный на тех же связях. В принципе, такой эмулированный мозг должен обладать сознанием (если верна гипотеза, что сознание порождается структурой связей). Но это копирование, а не самостоятельно выведенный ИИ.

Другой путь – самоорганизующиеся нейросети, которые могли бы развить самосознание. Пока что, несмотря на прогресс, ни одна сеть не показала явных признаков присутствия субъективности. Возможно, нужно снабдить ее телесностью: дать роботу чувствовать мир и собственное тело. Эксперименты в робототехнике пытаются научить роботов самомоделированию – например, робот может через пробу и ошибку построить модель своего тела, понимать, как он выглядит и двигается. Такие работы (как робот, который научился узнавать себя на видео) можно рассматривать как зародыш механического самосознания. Тем не менее, от распознавания себя внешне до переживания себя изнутри – дистанция огромного размера.

В итоге, вопрос «можем ли мы искусственно создать самосознание» остается открытым. Теоретически – да, если принять, что сознание обусловлено информационными процессами, то воспроизведя нужные процессы, мы получим сознание. Практически – у нас еще нет ни критериев, ни четкого понимания, что именно нужно воспроизвести. Поэтому ученые продолжают как измерять и моделировать сознание, так и дискутировать о его прирожденной природе. Возможно, прорыв придет с лучшим пониманием мозга: когда мы точно узнаем, как нейроны порождают ощущение «Я», тогда и сможем это запрограммировать. Пока же любые заявления об осознающих машинах преждевременны. Мы научились количественно описывать некоторые аспекты сознания (уровень бодрствования, сложность сигналов), но сам феномен «первого лица» ускользает от цифр. Как образно заметил физиолог Т.Г. Хаксли еще в XIX веке, появление сознания из возбуждения нервной ткани столь же непостижимо, как джинн, выскакивающий из лампы Аладдина (Tononi Phi: Sentience, Consciousness and Smart AI Futures – Hanson Robotics). Эта загадка пока не решена – ни для биологии, ни тем более для искусственных систем.

7. Язык как операционная система разума

Язык – одно из мощнейших орудий мыслительной деятельности человека. Многие исследователи считают, что язык фактически структурирует наше сознание, выступая своего рода «операционной системой» для разума. На нем, как на ОС компьютера, запускаются «программы» наших мыслей. Без языка человеческое сознание было бы совершенно иным – вероятно, более фрагментарным и менее способным к абстракции.

В истории эволюции именно возникновение языка, вероятно, дало толчок к взрывному развитию культуры и сознания. Джулиан Джейнс, как обсуждалось, прямо утверждал: интроспективное сознание есть продукт языка (Consciousness as Metaphor: What Jaynes Has to Offer – LessWrong). Он описывал, как метафоры языка создают внутреннее пространство сознания – мы начинаем мыслить о нематериальном в терминах пространства, видеть образы в "уме". Например, мы говорим "понять идею" – это метафора физического хватания; "взглянуть на проблему" – метафора зрения. По Джейнсу, «сознательный ум – это пространственный аналог мира, а мысленные акты – аналог телесных актов» (Consciousness as Metaphor: What Jaynes Has to Offer – LessWrong). Иначе говоря, язык формирует ментальные модели, позволяющие оперировать абстракциями так, будто они объекты. Без языка такие модели вряд ли могли бы устойчиво существовать.

Даниэл Деннет и когнитивист Анди Кларк рассматривали язык как нечто, что перестраивает сам мозг. Ребенок, приобретая речь, начинает иначе организовывать мышление. Есть гипотеза (озвученная Кларком, интерпретируя Деннета), что язык внедряет в мозг человека механизм последовательной, логической обработки, которого без языка нет (Dennett's view on the effect language has on the mind/brain – Philosophy Stack Exchange). Мозг по природе – распределенная параллельная система, но язык вносит элемент линейного порядка (предложения, грамматика), что позволяет мозгу решать задачи шаг за шагом, рассуждать. Деннет даже называл появление языка аналогом установки «внутреннего программного модуля» поверх нейронных сетей (Dennett's view on the effect language has on the mind/brain – Philosophy Stack Exchange). Под воздействием речевого окружения ребенок фактически загружает в мозг новые алгоритмы мышления. Эти "магические слова", как выражается Кларк, расширяют вычислительные способности человека за счет символической репрезентации мыслей (Dennett's view on the effect language has on the mind/brain – Philosophy Stack Exchange).

Кроме того, язык – носитель культуры и знаний. Он позволяет передавать опыт и значения от поколения к поколению. В известном смысле язык – это внешняя память человечества. Но он же является и внутренней памятью: наши личные воспоминания хранятся не просто как картинки или чувства, но и как нарратив, рассказ о том, что с нами было. Мы думаем о своей жизни в терминах языка (словами прокручиваем события). Таким образом, язык структурирует не только абстрактные рассуждения, но и нашу личность, через формирование истории о себе.

Лев Выготский, выдающийся психолог, показывал, что мышление развивается из речи: сначала внешней (социальной, межличностной), затем внутрьизации ее в «внутреннюю речь», которая и есть мышление. Маленькие дети сначала вслух проговаривают свои действия, потом эта речь становится шепотом, а позже – просто мыслью. Внутренняя речь обладает особыми свойствами (свернутость, предикативность), но по сути это язык, служащий управлению вниманием и планированием. Выготский называл язык «орудием мышления». В рамках нашей аналогии, это действительно операционная система, без которой сложные программы разума не запустятся.

Более того, язык – это и операционная система общества, что важно для разума как социального явления. Человек мыслит не в изоляции, а разделяя понятия, принятые в его культуре. Язык задаёт категории восприятия. Известна гипотеза лингвистической относительности (Сепир – Уорф), согласно которой разные языки по-разному членят мир и это влияет на мышление. Хотя радикальные версии этой гипотезы спорны, правда и то, что имея слова, мы легче замечаем соответствующие концепты. Например, освоив язык математики, мы начинаем мыслить более точными категориями числа, меры. Освоив язык эмоций, тоньше понимаем свои чувства.

Можно сказать, что язык "управляет" смысловой активностью психики. Когда мы формулируем что-то словами, мы тем самым выбираем определенную структуру мысли, отбрасываем лишнее. Язык дисциплинирует мышление, делая его последовательным, и одновременно обогащает – позволяя комбинировать понятия, образовывать новые идеи через метафоры и фразы.

Для самосознания язык тоже играет огромную роль. Вербальное самонаблюдение – мы описываем себе свое состояние ("я рассержен", "я думаю, что…") – усиливает рефлексию. Без языка самосознание было бы вероятно более "здесь-и-сейчас". С языком мы можем рефлексировать о своем рефлексировании, делать выводы о себе, сравнивать "какой я сейчас" и "какой я был". Получается многоуровневый процесс. В этом смысле язык – не просто коммуникация, а часть когнитивной архитектуры нашего сознания.

Интересно, что попытки научить языку животных (обезьян, попугаев) привели к частичному успеху: они усваивали сотни слов и даже фразы. Однако нет уверенности, что они обрели от этого бóльшую самость. Возможно, какой-то зачаток – например, шимпанзе, владеющие языком жестов, казались более "понимающими". Но в целом их способность к грамматической речи крайне ограничена, и, следовательно, их сознание не получает того самого усиления, какое язык даёт людям.

В контексте ИИ, язык также становится центральным: современные языковые модели показывают зачатки интеллекта, просто манипулируя словами. Некоторые даже задумываются: а может ли у языковой модели появиться сознание только от того, что она обучилась языковым паттернам? Пока что, вероятно, нет – ей не хватает связей с реальностью. Но это подтверждает идею, что язык – ключ к высшим уровням разума. Не зря этап развития ребенка, когда появляется речь, часто называют началом осознанной памяти и личности – многие не помнят себя до речи, а с появлением слов начинается отчет ярких автобиографических воспоминаний.

Подводя итог, язык можно образно назвать «операционной системой» разума, потому что он задаёт формат и правила, по которым протекают наши мысли. Как компьютер с правильным ПО может выполнять сложные задачи, так и мозг с развитым языком способен к саморефлексии, планированию, творчеству и передаче смыслов другим. Язык – это среда, в которой "запущено" наше самосознание. Без него наше «Я» было бы немым и, возможно, слепым к многим аспектам внутреннего опыта.

8. Личность как интерфейс разума: самосознание, роль и адаптация

Личность обычно понимается как совокупность относительно устойчивых психологических качеств человека – темперамента, характера, привычек, установок. Можно представить личность как интерфейс, посредством которого внутренний разум и самосознание взаимодействуют с внешним миром. Самосознание – это ядро, осознающий субъект, а личность – то, как этот субъект проявляется, его стиль работы во внешней среде.

Каждый человек, обладая уникальным внутренним миром, вынужден приспосабливаться к социальным нормам, природным условиям, взаимодействовать с другими. Формируется «социальное Я» (идентичность, о которой мы говорили) и поведенческий профиль – то есть личность. В известном смысле, личность – это функциональная оболочка самосознания, выполняющая роль посредника между «Я» и окружающей действительностью. Через этот интерфейс наше «Я» выражает свои мысли (в словах, действиях), удовлетворяет свои желания, учитывая при этом обратную связь от мира (поощрение или наказание, принятие или отвержение).

Личность включает множество компонентов: мотивацию (что человеку важно), эмоциональные реакции (как он обычно чувствует в разных ситуациях), социальные навыки (как общается), ценности и т.д. Эти черты не даны от рождения раз и навсегда – они складываются из врожденных склонностей и жизненного опыта. Самосознание же позволяет нам отчасти наблюдать и даже корректировать свою личность. Мы можем заметить: "я вспыльчив – надо с этим работать" или "мне свойственна застенчивость". Такой мета-уровень (самоанализ характера) – проявление самосознания, направленного на интерфейс личности. По сути, наше «Я» может перенастраивать интерфейс: развивать одни качества, сдерживать другие. Это подобно пользователю, который может изменить настройки своего профиля.

Почему личность – интерфейс? Потому что она обращена "лицом" к миру (недаром в английском personality от слова persona – маска). Это та часть нас, которую видят другие и с которой взаимодействуют. При этом за интерфейсом скрывается сложная "система" – психика, к которой прямого доступа у окружающих нет. Через личность внешние воздействия переводятся на язык внутренних переживаний и наоборот. Например, если человека обидели, интерфейс личности определит реакцию: один замкнется (интровертный личностный стиль), другой вспылит (агрессивный стиль). Но внутри и тот и другой чувствуют боль – то есть ядро самосознания переживает обиду, а вот выражается она по-разному. Схожим образом, наши намерения и мысли проходят через фильтр личности прежде чем воплотиться: стеснительный не скажет вслух, что думает, уверенный – скажет прямо. Выходит, личность – это слой между внутренним и внешним.

Хорошая метафора – пользовательский интерфейс программы: сама программа может быть очень сложной (как бессознательное и сознание человека), а интерфейс – набор понятных кнопок и экранов, через которые пользователь (внешний мир) общается с программой (человеком). Конечно, человек не полностью "программируем" через личность, но во взаимодействии мы оперируем образами личности друг друга. Глубинное "Я" остается скрытым и известно только самому человеку (да и то не полностью).

Личность служит также адаптацией к внешнему миру. Разные обстоятельства требуют разных черт: в опасной среде ценна агрессивность и настороженность, в мирной – кооперативность. Наш базовый темперамент может иметь гибкость: мы в детстве пробуем разные модели поведения и закрепляем те, которые успешнее. В этом смысле личность – эволюционно формируемый интерфейс: и на филогенетическом уровне (черты, полезные для выживания вида), и на онтогенетическом (индивидуальный опыт). Самосознание контролирует этот процесс, делая возможным сознательное изменение поведения. Животное с менее развитым самосознанием ограничено фиксированными реакциями личности (можно сказать, "примитивным интерфейсом"). Человек же может выбирать стиль поведения, сознательно меняться. Например, интроверт может натренировать социальные навыки и стать общительным, если понимает важность этого для целей – благодаря рефлексии над собой.

Можно также сказать, что личность – интерфейс во времени. Она обеспечивает относительную стабильность нашего поведения, предсказуемость для других и для нас самих. Мы говорим: "я знаю свой характер и знаю, как примерно отреагирую". Это как интерфейс с консистентным дизайном – позволяет нам и другим предугадывать реакции, что упрощает взаимодействие. Представим, если бы наше самосознание каждый день "одевало" новую личность с другими чертами – окрестные люди были бы в замешательстве, да и мы потеряли бы чувство целостности. Поэтому, хотя личность может меняться, обычно она делает это постепенно, сохраняя непрерывность интерфейса.

Интересно взглянуть на личность еще и как на совокупность стратегий. Наш разум, осознавая себя (самосознание), разрабатывает стратегии удовлетворения потребностей и выражения себя – вот эти стратегии и составляют личностные черты. Например, потребность в признании может стратегически удовлетворяться чрезмерным трудолюбием (трудоголик получает похвалу за успехи) – так формируется черта перфекционизма. Другой стремится к признанию через юмор – вырабатывается черта остроумия и общительности. То и другое – способы интерфейса (поведения) достичь внутренней цели.

Личность также выполняет роль буфера: не все импульсы "изнутри" прямо выражаются, многие фильтруются. Фрейдистская модель "Ид – Эго – Суперэго" отчасти об этом: Эго (Я) балансирует между желаниями Ид и нормами Суперэго, выдавая наружу компромисс – собственно характер поведения. Здесь Эго выступает интерфейсом между бессознательным, сознанием и внешним миром.

Итак, взаимодействие самосознания и личности можно представить так: самосознание – осознающий центр, личность – набор свойств, выработанных этим центром (и окружением) для эффективной работы во внешнем мире. Личность динамична, но благодаря самосознанию сохраняется её целостность. Адаптируясь к новым вызовам, человек может менять аспекты личности, не теряя чувства своего "Я". Поэтому личность выступает интерфейсом, а самосознание – «пользователем», контролирующим и переживающим через этот интерфейс всё, что происходит.

9. Эволюция разума: от активности к самосознанию, личности и языку

Разум современного человека – продукт длительной эволюции, в ходе которой постепенно возникали психическая активность, сознание, самосознание, личность и язык как взаимосвязанные уровни обработки смысла и передачи знаний. Попробуем представить упрощенную картину этого развития:

На ранних этапах эволюции у животных сформировались основы разума: восприятие окружающего, обучение путем ассоциаций, элементарное принятие решений ("подплыть к еде или избежать хищника"). Эта психическая активность была во многом реактивной: стимул → реакция, с некоторой пластичностью благодаря памяти. У многих животных есть и какое-то подобие сознания – по крайней мере сознание окружающего (они видят, слышат, отличают знакомое от нового) и возможно сознание ощущений (страдают от боли, наслаждаются вкусной пищей). Однако их сознание, вероятно, не рефлексивно – животное живет в мире, не выделяя себя как мыслящего субъекта. Это можно назвать уровнем «первичного сознания» (или core consciousness в терминологии Дамасио) – осознание здесь-и-сейчас без длительного самосвязывания во времени (Damasio's theory of consciousness – Wikipedia). Многие млекопитающие, возможно, обладают таким сознанием момента: они чувствуют и реагируют осознанно, но не строят сложной модели «я-времени».

Следующий шаг – появление у некоторых видов самопознания. Как минимум, великие человекообразные обезьяны, а возможно и некоторые другие животные, обладают начатками самосознания: они могут узнать себя в зеркале, что подразумевает понимание "это я" (а не другой организм). Вероятно, для этого требуется достаточно развитый мозг, особенно области, связанные с социальной когницией (теория разума, эмпатия). У наших предков, гоминид, которые жили сложными группами, мозг увеличивался, растла и социальная сложность. Появление простейших теорий сознания (понимание чужих намерений) могло невольно вести и к осознанию собственного ума. Формируется базовое ядро личности: индивид понимает свое место в иерархии, помнит свой опыт (например, кто агрессивен, кто друг). Это еще не полная личность в человеческом смысле, но предпосылки есть – индивидуальные различия поведения явно наблюдаемы и у приматов, и даже у крыс.

Homo sapiens (и возможно неандертальцы параллельно) сделали качественный рывок. Достигнув достаточного нейронного "аппаратного обеспечения", эволюция разума перешла в новую фазу – культурно-языковую. Биолог Майкл Томаселло и другие указывают, что критическое отличие людей – способность к кумулятивной культуре: передавать знания с улучшениями. Это стало возможно благодаря языку – систематической коммуникации символами. Язык позволил разделять опыт, обучать детей не только на практике, но и на словах, обсуждать отсутствующие объекты и прошлые/будущие события (Who First Buried the Dead? – SAPIENS). С его появлением разумы отдельных людей объединяются в коллективный разум через обмен мыслями. Это кардинально ускорило развитие навыков и технологий (так называемая культурная эволюция начала доминировать над медленной генетической).