Боты среди нас

Само по себе осмысление тоже является комбинаторным, только в обратную сторону, и, схлопывая пространство, оно создаёт настоящую вилку:

Если у тебя мало комбинаторики, но сильное осмысление, то твоё мышление шаблонное и банальное. Если много комбинаторики, но слабое осмысление, то получается хаос и бессмыслица. И только много комбинаторики вместе с сильным осмыслением даёт нам полноценное мышление — ключи от вселенной абстракций. А вот если и того, и другого мало, то это и есть классический бот.

Можно ли натренировать синтез в школе или в университете? Честно говоря, часть параметров, скорее всего, поддаётся некоторой тренировке — можно учиться абстрагировать (будет тяжко, если ты бот...) и критически мыслить (что бы это ни значило...). Можно создать для себя внешнюю опору, то есть вести дневники, делать заметки, записывать мысли на диктофон. Это, конечно, не «прокачает» твоё мышление, но, по крайней мере, ты сможешь работать с большим пространством, чем если бы держал всё в голове. Боту это в любом случае не поможет, ведь дневник не сможет за него мыслить.

Однако самое важное натренировать не выйдет, как, например, ширину ассоциативного доступа, не-догматичность (когда ты мыслишь элементами, а не блоками) и способность проявлять «несовместимые» структуры.

К сожалению, ни одна книга (ни даже 1000 книг), ни десять высших образований, ни «духовные гуру» не смогут этому научить. Это просто должно быть. Как зрение или слух.

Мегаструктура

Симфонию структур, прошедших через синтез, я определяю как Мегаструктуру.Если же чужеродные структуры воспринимаются без синтеза, то они становятся блоками, а из них, в свою очередь, формируется стартер-пак (совокупность блоков без прямого доступа на уровень элементов). Блоки внутри стартер-пака не лежат отдельно, они сцеплены в цепочки, которые я называю скриптами. Блок А запускает блок Б, тот — блок В. Бот не выбирает, какой блок взять, поскольку просто исполняет скрипт.

Другими словами, либо структура проявляется через тебя (а это уже включает всматривание), либо ты разворачиваешь чужую структуру до элементов, осмысляешь и сворачиваешь заново, но с некоторыми правками (какими захочешь). Только в таком случае другая структура может перестать быть чужеродной. Я это называю реквизицией, а структуру, развёрнутую до элементов и свёрнутую обратно, определяю как трофейный смысл.

Им может быть любая внешняя осмысленная структура: ты можешь реквизировать Платона, а его «Мир Эйдосов» станет твоим трофейным смыслом, можешь реквизировать Ницше, да кого угодно. Это как поднять меч поверженного врага с поля боя и принести в свою обитель. Разве это не магия — способность взять и проявить у себя в комнате прирученного Шопенгауэра (без собак...)?

Важно лишь, чтобы это не стало арендой смысла, как у ботов, поскольку в этом случае ты не получаешь трофей, а скорее скачиваешь jpeg-изображение меча из интернета, печатаешь его на принтере и вешаешь на стену, довольно улыбаясь новому карго-смыслу в интерьере. То есть боты, неспособные реквизировать чужое, просто его арендуют. Это и есть аренда смыслов — потребление ботом карго-смыслов. Бот вешает у себя даже не меч (он-то не воевал, а прятался в тылу), и даже не реплику меча, а картинку чужого меча.

Можешь представить ситуацию: интернет-даваатчик, с козлиной бородой и безумными глазами, впаривает тебе «истинную религию мира и добра». Ты можешь её взять в качестве стартер-пака (суммы блоков) и стать верующим без мышления, либо ты можешь её развернуть, рассмотрев каждый элемент абстрагированно. После этого можешь свернуть обратно, но, скорее всего, тебе эта структура покажется примитивной и рассчитанной на ботов, тогда ты просто её выбрасываешь на смысловую помойку в компанию к остальному мусору.

Любые термины, понятия или факты, данные в виде готовых блоков, я определяю как пустые, то есть бессмысленные(точнее, лишённые смысла), поскольку они не прошли через синтез. Изнутри, для самого бота, пустой термин ощущается как карго-смысл: бот действительно убеждён, что владеет смыслом, что он умный, что он что-то «знает». Но на самом деле всё, что у него есть — пустые термины, данные в виде блоков.

Совокупность этих пустых блоков — и есть стартер-пак, упомянутый ранее. Это как огромный рюкзак убеждений, который бот таскает на себе всю жизнь. Чтобы вскрыть стартер-пак и посмотреть, что внутри (а там часто могут быть противоречащие друг другу и вредные блоки, отравляющие существование бота), нужно снять рюкзак и опустить его на почву независимого мышления.

Это представляется невозможным в случае с ботом, так как он отчаянно держится за свой рюкзак убеждений (я «христианин», я «мусульманин», я «феминистка» и т. д.). Если же стащить с него рюкзак силой, то бот потеряет остатки разума, поскольку не умеет функционировать в режиме направленного безумия. Безумие бота всегда настоящее и обычно требует вмешательства специалистов.

Но недостаточно просто развернуть определённый термин или тему до элементов, важно, чтобы это к чему-то вело, чтобы это во что-то вытекало. Другими словами, недостаточно развернуть персонажей мультфильма «Смешарики», сделать из них айсберг типа «почему Копатыч является перипатетиком, а Лосяш — научным рационалистом». Это само по себе ни к чему не ведёт, поскольку является очередной карго-смысловой жвачкой для имитирующего мышление мозга.

И наоборот, например, данная книга является моей личной Мегаструктурой, раскрытием термина «Бот» и разворачиванием сокрытых в нём структур и множества элементов с последующим проявлением. И пока я осмысливал Мегаструктуру, Мегаструктура осмысливала меня, так что, по сути, я стал немного другим человеком в процессе написания этой книги.

Идея, которую я осмыслил, вмешалась в причинную цепочку и стала причиной меня в настоящем.

Концепция свободы

Вето

Даже если мозг генерирует импульсы автоматически (как в экспериментах Либета), это не отменяет свободы, потому что у человека есть право вето: способность заблокировать импульс прежде, чем он перейдёт в действие. В эксперименте Либета у человека нет возможности выбрать, возникнет тот или иной импульс, но у него есть возможность заблокировать его в последний момент. Именно поэтому тюрьмы построены не для тех, у кого возникли плохие мысли и побуждения, а для тех, кто не наложил вето и воплотил их в действие.

«Вето» можно считать одним из самых сильных инструментов в арсенале человека, потому что оно сильнее импульса. Хотя вето и не может предотвратить его появление, оно способно отменить импульс. Чем чаще человек пользуется правом вето, тем сильнее оно становится. Человек использует вето как механизм формирования будущего «Я», так как вето становится не просто отказом от импульса, а выбором траектории. Другими словами, человек не просто «не делает что-то», а в прямом смысле строит себя завтрашнего.

Например, если сегодня у тебя возник импульс нагрубить в ответ (или съесть вредную еду, отложить важное дело, ударить в гневе, посмотреть аниме), то ты можешь пропустить импульс, тогда он станет действием и тем самым ты закрепишь поведение, становясь тем, кто «всегда так делает». Либо ты можешь наложить вето и прервать автоматизм, создавая новую нейронную связь.

Дальше запустится эффект накопления. Если ты сегодня подавил гнев, то завтра тебе будет легче подавить его снова. Если ты сегодня не съел вредную еду, то завтра тебе будет легче отказаться, потому что для твоего мозга уже существует прецедент: ничего страшного не произошло, ты не умер от того, что не съел роллы у вокзала.

У бота нет вето, у него есть что-то наподобие переключения. Он, к примеру, может бросить курить, потому что появился более сильный скрипт (например, страх смерти или новый стартер-пак — ЗОЖ), но это нельзя считать вето, поскольку переключение является заменой одного скрипта другим. Бот не может наложить вето, потому что оно требует паузы, а пауза требует того, чтобы ни один скрипт не воспроизводился. У бота же всегда играет какой-нибудь скрипт. И тем самым будущее бота становится предсказуемым, поскольку траектория «выборов» постепенно сужается, как горлышко бутылки.

Но даёт ли вето свободу воли? Чтобы ответить, сперва нужно дать определение свободе воли.

Свобода воли

Какая может быть свобода у секундной стрелки, что правильно тикает каждую секунду?

Я формулирую свободу воли как эмерджентную способность системы регулировать и перепрошивать себя на основе внутренних моделей. Свобода воли не требует магического нарушения законов природы. Она требует только одного: чтобы человек мог действовать в соответствии с собственными мотивами.

Представь себе три системы:

Диск с игрой. Компьютер. Игрок.

Диск не действует. Он лишь хранит код, но сам по себе ничего не запускает и не меняет.

Компьютер действует по заданным правилам. Он реагирует на нагрузку, на температуру, на команды, но сам принцип его работы неизменен, поскольку он исполняет то, что в него заложено.

Игрок отличается тем, что способен не только реагировать на игру, но и менять собственные правила реагирования на неё: ставить цели, выбирать стратегию или вообще выбросить диск в мусорную корзину.

Например, я могу заметить, что игры мне вредят. Могу представить себе будущее: если я продолжу так проводить время, то даже за пять лет не смогу дописать свою книгу. После этого я начинаю сознательно вырабатывать новые привычки. Причиной моего будущего поведения становится не непосредственный внешний стимул, а внутренняя модель будущего, которая встраивается в причинную цепочку. Именно так проявляется способность системы использовать представления о будущем для изменения собственного поведения.

Детерминист может возразить, что всё это в конечном счёте определяется генами, гормонами, воспитанием и средой, но такое объяснение оказывается слишком общим. Компьютерная игра тоже полностью состоит из электронов, однако объяснять действия игрока движением электронов бессмысленно.

То же самое и с личностью. Да, на низшем уровне есть нейроны, но на высшем уровне существуют убеждения, ценности, планы, цели, самоконтроль. И именно на этом уровне возникают причины, через которые человек изменяет собственное поведение, используя вето и реализуя свободу воли.

Свобода воли — это не свобода от причинности и не метафизика, а следствие происходящего синтеза. Как, например, влажность возникает при взаимодействии множества молекул воды с поверхностью, так и свобода воли рождается при взаимодействии множества нейронов в работающей нервной системе. Влажность реальна, хотя состоит из молекул, но и свобода воли тоже реальна, хотя состоит из нейронов. Разница лишь в том, на каком уровне описания мы находимся.

И главное: феноменально я переживаю свободу именно как свободу. Это несомненно и не отменяется даже нейробиологией. И это переживание само становится частью причинной цепочки: феномены, ощущаемые мною как свобода, меняют моё поведение, независимо от того, «истинна» она или нет на нейронном уровне.

Свободен не тот, у кого нет причин.

Свободен тот, кто способен превращать идеи в причины.

Парадокс Гитлера — Витгенштейна

Свобода воли — это способность, которая в полной мере возникает только там, где есть синтез, то есть независимое мышление: мозг способен абстрагироваться, строить и пересматривать модели, а затем перестраиваться на их основе.

Бот такой способностью не обладает, ведь его поведение — это цепочка реакций, предопределенных архитектурой мозга, средой и эволюционными программами. Он не может «превращать идеи в причины», потому что у него нет идей, только блоки.

Является ли всё это врожденным? И могут ли образование и окружающая среда изменить бота? Может быть его спасёт нейропластичность?

Чтобы понять, есть ли у человека свобода, нужно сначала понять, есть ли у него выбор. Этот мысленный эксперимент я называю «Парадокс Гитлера — Витгенштейна».

Возьмем три фигуры. Людвиг Витгенштейн — гениальный интеллект и редкая способность к абстрактному мышлению. Адольф Гитлер — средний ум и жажда доминирования. «Вася» — собирательный образ бота с низким врожденным интеллектуальным потенциалом и неблагоприятными условиями развития.

Рассмотрим их развитие от рождения до зрелого возраста.

Раннее развитие: 0–3 года.

В этот период мозг не «обучается» в привычном смысле этого слова, а скорее формирует сам себя. Нейроны, которые не нашли применения, уничтожаются, и этот процесс можно считать физическим строительством фундамента всей системы. Оно необратимо. Генетика же определяет базовую архитектуру: количество нейронов, скорость обработки информации, восприимчивость к обучению и качество дофаминовой регуляции.

Витгенштейн появляется на свет с высокой нейрокогнитивной эффективностью и попадает в среду, насыщенную сложной речью. Его мозг получает большое количество входных сигналов, что способствует формированию сложных нейронных сетей.

Гитлер получает средний биологический потенциал, эмоционально нестабильную среду и ограниченную когнитивную стимуляцию.

Вася получает низкий потенциал и среду, в которой когнитивная стимуляция минимальна или заменена хаотичными и часто даже вредными воздействиями.

Детство: 6–12 лет.

На этом этапе проявляется то, что заложено в человеке. Пластичность, конечно, есть, но фундамент уже залит, и ты уже не сможешь перестроить здание, если он кривой.

Витгенштейн испытывает удовольствие от обучения. Математика, язык, логика становятся почвой, на которой взращивается его способность к мышлению. Обучение усиливает само себя: успех даёт дофаминовое подкрепление, а оно, в свою очередь, закрепляет интерес к сложным задачам.

Гитлер учится с ненавистью. Его когнитивная система хуже справляется с абстракциями, что компенсируется альтернативной стратегией: эмоциональным упрощением и интерпретацией мира через доминантность.

Вася практически необучаем. Постепенно у него формируется поведение, систематически избегающее сложных задач. Его мозг выживает в режиме экономии: минимизирует усилия, ищет простые стимулы, и это закрепляется как устойчивый поведенческий паттерн.

Подростковый возраст: 13–18 лет.

К шестнадцати годам заканчивается формирование базовых нейронных сетей. Дальше могут быть только количественные изменения, но не качественные: ты всё ещё можешь научиться играть на гитаре, но уже не можешь стать «другим человеком».

Витгенштейн углубляется в абстрактные дисциплины. Его мышление становится всё более структурированным и рекурсивным. Он не просто изучает идеи, а выстраивает целые системы идей.

Гитлер переходит в сферу, где доминируют эмоции, риторика и социальное влияние. Его поведение становится линейным, идеологически жестким, а сложность мира он подменяет упрощенными схемами и лозунгами.

Вася переходит к поведенческим формам, которые дают быстрый дофаминовый отклик. У него формируются устойчивые зависимости. Префронтальная регуляция ослабевает, а способность к долгосрочному планированию деградирует.

Взрослая жизнь.

Витгенштейн реализует свой мыслительный потенциал в полной мере. Его мышление становится инструментом для создания философских систем, влияющих на интеллектуальную историю человечества.

Гитлер реализует себя через политическую власть. Его сильной стороной является не мышление, а способность к массовому эмоциональному воздействию на ботов.

Вася впадает в состояние хронической умственной деградации. Его поведение становится таким же биологичным, как и у других зверей. Он уже даже и не пытается мыслить.

Но что, если бы Вася оказался в идеальной среде? Он бы выбился в люди?

Если проследить каналы развития до конца, становится ясно, что Гитлер не мог стать Витгенштейном, а Вася не мог стать Гитлером. И даже в идеальных условиях Вася не стал бы Витгенштейном. Их каналы индивидуальной изменчивости различаются не только «усилиями» или «обстоятельствами», но и самим качеством исходного материала. Это результат мозговой лотереи.

Среда может сдвинуть Васю в пределах его канала развития: он мог бы стать хорошим мастером, добросовестным работником, может быть, даже инженером среднего уровня, но он никогда не стал бы Витгенштейном.

По тому же принципу, гениальный ребёнок в трущобах может стать бандитом, но он будет гениальным бандитом, поскольку его интеллект так или иначе пробьет себе дорогу даже в маргинальной среде. А вот тупой ребёнок, закончивший Оксфорд, станет тупым профессором, который просто зубрит материал, получив место по блату.

Среда не превращает идиотов в гениев и не превращает гениев в идиотов, она лишь смещает человека в пределах его собственных возможностей — иногда ближе к верхней границе, иногда к нижней. Ты можешь двигаться быстро или медленно, но ты не можешь направиться туда, где нет дороги.

Итог, конечно, неприятен, но логически неизбежен: ты не выбираешь ни ширину канала, ни скорость течения, ты лишь выбираешь, как двигаться внутри него. Бот — это тот, кто внутри канала не выбирает. Более того — он его даже не видит, и просто продолжает двигаться по инерции.

А парадокс заключается в том, что общество требует, чтобы каждый отвечал за свой выбор, хотя сам диапазон возможных выборов определяется мозгом ещё до того, как человек научится выбирать. Свобода воли же не отменяет канал, только позволяет двигаться внутри него и перестраивать себя в его пределах.

*

И вот что здесь особенно интересно. Витгенштейн, построив одну из самых влиятельных философских систем XX века, потом просто взял и опроверг её. Сам. Не улучшил, не уточнил, а отменил собственную главную идею. Он отказался от собственной картины языка и построил на том же месте другую. Это и есть предельная форма того, о чём я говорю. Свобода мышления — не только способность строить модели, а ещё и способность их пересматривать, вплоть до сноса собственных.

Тот, кто дерзнул отменить себя прежнего, сделал весомую заявку на звание человека.

Остров пятидесяти слов

Предлагаю ещё один мысленный эксперимент. Он чище, чем «парадокс Гитлера — Витгенштейна», потому что убирает социальные и культурные переменные. Вместо того чтобы сравнивать людей с разной средой и образованием, мы помещаем их в абсолютно одинаковые условия и смотрим, как работает разница в мышлении на практике.

Поместим двух людей на необитаемый остров с одинаковым словарным запасом в пятьдесят слов. Оба видят одно и то же: волны, пальмы, песок. Но у одного есть предрасположенность к независимому мышлению, у другого нет.

Как они будут общаться?

Сначала оба говорят одинаково: «Вода», «Еда», «Иди», «Опасно», «Палка».Это язык как набор ярлыков.

Через неделю первый начинает комбинировать слова в конструкции, которых прежде не существовало: «Камень убивает», «Палка — длинная рука», «Вода приходит после луны», «Дым — значит огонь», «Если птицы кричат — может быть зверь». Он не просто говорит, а создаёт модели, с помощью которых пытается объяснить мир. Второй всё ещё говорит: «Вода там», «Еда есть», «Иди сюда». Он не комбинирует, потому что не может. А если бы даже и мог, то всё равно бы не захотел.

Первый начинает замечать закономерности: «Если сушить рыбу на ветру — она не гниёт», «Если копьё длиннее — рыба бьётся быстрее», «Если оставить кокос в тени — он дольше держится». Это идеи, которые становятся причинами для новых действий. Он строит и проверяет новые модели, меняя затем на их основе собственное поведение.

Второй это видит, но может только сказать: «Хорошо», «Делай», «Работает».Он пользуется готовым, но не создаёт нового. Он — прирождённый исполнитель.

Постепенно первый сталкивается с дефицитом — ему становится тесно в пятидесяти словах. Он начинает придумывать старым словам новые значения, создавать составные конструкции: «палка-рыба», «камень-дом», «вода-луна». Затем он придумывает жесты с фиксированным смыслом. Его язык эволюционирует, потому что он служит ему инструментом мышления. Со временем он переходит к созданию более абстрактных категорий: «дерево у воды — мягче», «дерево у ветра — крепче».

Второй доволен тем, что есть. Ему не нужно больше слов. Он говорит: «Есть», «Нет», «Ок».

Через год первый уже придумал счёт времени и солнечные часы, классифицировал виды рыб, создал календарь по фазам луны, изобрёл копьё с наконечником. Возможно, даже пришёл к чистому творчеству: вымышленным историям, рисункам на песке, рифмосложению.

Второй соорудил лачугу из листьев и веток, ест кокосы, говорит теми же пятьюдесятью словами. Он повторил принцип создания копья и научился добывать с его помощью рыбу.

В итоге мысленный эксперимент показывает разницу в мышлении при прочих равных. Первый изначально видел мир как систему связей. Второй — как набор объектов. Один смог создать новые причины, другой просто реагировал на старые.

Среда не дала никому из них преимущества, потому что исходные условия были одинаковыми. Разница заключалась лишь в мышлении. Один был способен выходить за пределы данности, другой стал её рабом. Это и есть тот самый канал, о котором я пишу в книге.

Человек остаётся человеком даже с пятьюдесятью словами. Даже на острове, будучи отрезанным от всех знаний цивилизации. Он строит будущее, превращая представления о будущем в причины настоящего.

Иными словами, пока человек строит будущее через будущее, бот реагирует на прошлое.

Животное++

Важно понять одну простую вещь: я не редуцирую человека (и даже бота) к животным, хотя так могло показаться на первый взгляд.

Я определяю всех людей как модифицированных животных. Если обычный зверь — это просто животное, то бот — это животное+. Соответственно, человек с независимым мышлением — это животное++.

В бота обществом загружается стандартный стартер-пак культуры, языка, табу, традиций, некоторых негласных норм (причём у многих ботов возникают трудности с усвоением даже этого базового набора — ими полны тюрьмы).

Без такой базы получаются лишь дети-маугли. Они, выросшие вне человеческой культуры, так и остаются просто животными. Животным+ можно стать только во взаимодействии с обществом. Это надстройка. А животное++ — это надстройка над этой надстройкой, получившая эмерджентное свойство разворачивать себя и предыдущие слои до элементов.

Я вот думал, с чем можно сравнить существование бота, может быть, с рекой? Или с домом? А потом вспомнил, что есть одна древняя игра, которая воплощает в себе ботское мышление. Эта игра называется шахматы. Это буквально чистый скрипт на скрипте. Всё выучено заранее, комбинации — тупо перебор блоков, и узнавание знакомых позиций. Именно так и мыслит бот.

Представь, что ты такой шахматист, играющий в унылые шахматы: старательно запоминаешь дебюты, тактики, эндшпили. Твой рейтинг растёт, ты становишься сильнее, даже начинаешь видеть на три хода вперёд вместо одного. Ты бот-шахматист.

А эмерджентность — это когда ты сидишь над доской и вдруг задаёшься вопросом: а зачем я вообще в это играю? Ты перестаёшь думать о том, «как бы выиграть эту партию», а начинаешь спрашивать себя: «зачем мне эта игра вообще? Она имеет смысл? Мне это надо? Или я просто играю в неё, потому что меня записали в кружок шахматистов в пятилетнем возрасте?». Вот как раз в этом состоянии и может произойти эмерджентный скачок с утилитарного мышления к независимому. И ты можешь смело выйти из игры, даже не добившись «почётного» звания гроссмейстера.

Становление животным++ происходит уже после того, как ты перестал называть себя шахматистом и отошёл от доски. Что после этого происходит? Всё. Потому что полноценное мышление, может дать тебе способность к пониманию всего сущего. Да, субъективный опыт возможен и без мышления, но такой уровень базовых переживаний, скорее всего, доступен и другим животным. Осмыслить явленность может только человек.

Явленность невозможна нигде, кроме пространства явленности, то есть самого субъективного опыта. Она не может быть ни в чём другом, поскольку само пространство — это и есть место, где что-то является. Оно задаёт границы и глубину того, что в принципе может явиться. Поэтому так важно независимое мышление — оно, по сути, может количественно увеличить явленность в самом сущем. А сам этот процесс представляется мне потенциально бесконечным.

Сущее без явленности и её осмысления видится мне даже не как «ничто», а как то, о чём нельзя даже сказать, что оно есть или его нет. Потому что «есть» и «нет» — это уже сами по себе категории явленности. И если явленность может произойти только в пространстве субъективного опыта, то из этого следует, что без явленности сущее и не присутствует, и не отсутствует одновременно. Поэтому оно не просто бессмысленно и недостойно обсуждения, оно по определению не может быть обсуждено.