Боты среди нас

Кай Турман

Боты среди нас

Есть люди, которые думают.

Есть люди, которые думают,

что думают.

Есть люди, которые реагируют.

И есть люди, которым кажется,

что они люди.

Предисловие

Я не исключаю, что существую внутри симуляции. Какого она типа — MMORPG с другими игроками или одиночная PVE-среда, где достоверен только мой опыт, для меня не принципиально. Это упирается в проблему сознания. Если система способна симулировать среду такой сложности, то она способна симулировать и любое сознание. Следовательно, существование ботов легко объяснялось бы по тому же принципу, что и в любой видеоигре. У меня нет инструмента проверить, обладают ли другие сознанием на самом деле. При этом я не утверждаю, что те, кого я в книге называю ботами, являются философскими зомби. Я просто не знаю этого. Я знаю только то, что сам не являюсь философским зомби.

Так что не имеет особого значения, где именно будет исследоваться поведение ботов: в так называемом реальном мире или в условиях симуляции, потому что поведение системы и её элементов остаётся одинаковым независимо от метафизики.

Но моя книга в первую очередь не о сознании, а о мышлении. О том, почему одни люди способны выходить за рамки биологических программ, а другие — нет. Если в данный момент бота сложно обнаружить, просканировав его мозг, то хотя бы по поведению это заметно: жираф ест траву, лев ест жирафа — обратное всегда ошибочно.

Мне не требуется верить в истинность модели, чтобы ей пользоваться. Эта карта реальности не будет обязана быть идеально точной, только достаточно согласованной с моим феноменальным опытом и наблюдениями, чтобы по ней можно было ориентироваться. Модели имеют свойство стареть, поэтому часть моих утверждений со временем может оказаться ошибочной — это нормально. Что, однако, не отменяет закономерностей, которые работают прямо сейчас.

При этом я подчеркиваю, что пониманиенекоторых закономерностей способно компенсировать незнание отдельных фактов.

В конце концов, цель книги — выяснить не то, каким образом работает электричество (не саму теорию электричества), а как выглядит розетка и почему не стоит туда засовывать пальцы (и другие части тела). Можно даже отрицать электричество как факт, называть его выдумкой, а мою книгу — псевдонаучным бредом, но тем не менее пальцы в розетку лучше не вставлять... Ты спросишь, как я понял, что розетка бьётся током? Вокруг неё валяются дохлые боты.

Так что без особого фанатизма. Если те или иные концепции и научные дисциплины будут мне полезны (например, теория эволюции или психология), то я их использую, но исключительно в виде инструментов с достаточной объяснительной силой, точно так же, как садовник использует тяпку для рыхления и прополки сорняков.

Возможно, тебя будут бесить страницы книги. Ты будешь спорить, мотать головой, пускать слюни, шипеть: «Это вообще кто написал???», «Как он посмел? Да он сам бот!», «Я его найду и...», — всё нормально, я понимаю. Можешь остановиться на мысли, что эта книга просто «троллинг», и спокойно продолжить жить своей жизнью.

Договорились? Отлично!

Но если ты всё-таки продолжишь читать, то запомни одну вещь: я не обещаю тебе спасения и не даю рецептов, я просто показываю пальцем на карту — вот пропасть. Боты идут туда и прыгают, потому что не ведают, что творят.

Ты же не прыгай за ними.

Ты же человек.

Введение

С биологической точки зрения животное — это автомат с прошивкой. Его поведение можно описать через набор скриптов: страх, голод, похоть, доминантность. У автоматов нет саморефлексии, они не знают о том, что существуют и зачем они существуют. Животное не задается вопросом: «А что я, собственно, такое? Зачем лаю всю ночь, гоняюсь за белкой, и почему мне нравится запах чужой мочи?»

Ритуалы ухаживания, иерархия, защита территории — животное просто подчиняется командам мозга и тела, не осознавая их в полной мере. Да, его можно дрессировать и адаптировать под определённые условия или задачу, но оно не начнёт вдруг писать мемуары или отказываться от еды по философским причинам.

А как же человек?

То же самое, только с развитым неокортексом. Мы придумали красивые слова: «сознание», «свобода», «культура», но если присмотреться внимательно, то большинство людей ведёт себя предсказуемо, как стая бабуинов. Те же драки за статус, те же ритуалы спаривания, та же бесконечная погоня за одобрением.

Некоторые учёные говорят об этом, но ласково и толерантно. Потому что стоит только сказать нечто приближённое к правде — и ты не вписываешься в повестку, ты враг феминисток, негров, ЛГБТ, исламистов, марсиан, и вот ты уже теряешь грант, а затем тебя, оплёванного и униженного, выгоняют с кафедры. Вот почему учёные пишут длинные, безопасные статьи с оговорками на каждой странице, которые затем читают 3,5 коллеги. Ну есть ещё научпоп-бестселлеры, где уровень воды выше, чем в мировом океане.

Наука, которая боится оскорбить ботов — это проституция интеллекта, а учёный, боящийся звучать радикально и высказывать непопулярные тезисы, перестаёт быть исследователем и становится чиновником.

Я не учёный, мне не нужны гранты. У меня нет научной карьеры, следовательно, мне нечего терять. Мне плевать на репутацию, на чужие чувства и на так называемое общество в целом. Поэтому я скажу прямо: подавляющее большинство людей — это боты. Биологические автоматы.

Только не надо путать «этих ботов» с «ихними»: это не программа, которая спамит на почту предложение увеличить гениталии или поздравления с тем, что доселе неизвестный американский родственник-миллионер отдал богу душу и оставил тебе завещание. Нет, человеческие боты спамят фотки своих задниц и еды в интернете, репостят мемы в соцсетях, строчат дебильные комменты, мусорят на улицах, хамят... развязывают войны и устраивают взаимный геноцид.

Если лучший аргумент против демократии — это пятиминутный разговор со среднестатистическим избирателем, то самый простой способ обнаружить бота работает по тому же принципу: достаточно дать ему высказаться, и он обязательно обнажит перед тобой свой «внутренний мир»— суетящийся пустырь бессмысленности.

Но иногда пяти минут недостаточно. Ведь самое простое — ткнуть пальцем в очевидного дебила и констатировать, что он дебил. Но сложно устроенный интеллектуальный бот может успешно имитировать человека часами (а некоторые могут продержаться даже несколько дней). Они используют термины, строят заумные словесные конструкции, цитируют философов. Их сложнее раскусить. Для этого понадобится куда более эффективный инструментарий, нежели простой интуитивный вывод, и вот почему существует книга «Боты среди нас»!

Она — радар, который поможет человеку вовремя засечь бота и... не метать перед ним бисер.

Почему боты... такие боты?

Начну, пожалуй, с грустной, но очевидной закономерности: человеческий мозг не эволюционировал как инструмент поиска истины и глубоких «духовных» прозрений. Он — гадалка. Нервная, суетливая, слегка параноидальная гадалка, у которой один и тот же вопрос ко всему происходящему: «а что будет дальше?»

Забудь про карты Таро. Речь о прогнозах, от которых зависит, сдохнешь ты или доживёшь до вечера... чтобы спариться с кем-нибудь (или хотя бы помечтать об этом).

Проблема в том, что эта гадалка работает на скудном бюджете. Мозг — очень прожорливый орган, который при массе примерно 1/50 от тела сжирает около 1/5 всей энергии — кислород, глюкозу и прочие нутриенты. Поэтому эволюция не отбирала «умных» в философском смысле, она отбирала тех, чьи предсказания были достаточно точными при минимальных затратах. В итоге получилась система грубых, но быстрых угадываний, которая не имеет никакого отношения к «истинности» — это просто рабочая версия будущего, поскольку мозгу не нужна точная картина мира, ему нужна наиболее вероятная. Это и есть базовая нейроэкономика, а субъективное удовольствие — как одобрительный кивок гадалки: «угадал, живи дальше».

Формула счастья животного очень простая: заметил еду >сожрал >доволен. Увидел самку >спарился >доволен. Победил в драке >доминируешь >доволен. Сделал всё это быстро и без лишних энергозатрат = максимально доволен.

Размышление требует активности префронтальной коры, одной из наиболее энергоёмких систем, участвующих в сложном контроле и планировании. Поэтому мозг стремится минимизировать затраты на мышление: отвлекает, подавляет внимание, предлагает сериал, скролл ленты, мемы, поболтать с подругой «о всяком». Это просто дешевле обходится. При этом важно понимать, что мозг избегает не мышления как такового, а именно затратной мыслительной деятельности без гарантии прямого биологического результата.

Мозг функционирует как нарколаборатория, а удовольствие играет роль химической взятки, чтобы животное делало то, что выгодно эгоистичным генам. После выполнения задачи мозг включает встроенную систему вознаграждения: эндоканнабиноиды, эндоопиоиды и прочие веселящие вещества. Это внутренняя премия за биологически правильное поведение. Выполнил задачу — и ловишь кайф. Не выполнил — страдаешь от ломки. Длительно и систематически не выполняешь — ловишь невроз, и заботливые родственники вызывают тебе санитаров.

Почти все живые существа Земли не способны размышлять, так как у них нет для этого развитого неокортекса, тех новых областей коры головного мозга, которые у большинства млекопитающих развиты слабо, а у человека занимают большую её часть. Но даже у счастливых обладателей развитого неокортекса, процесс размышления энергетически невыгоден: нет смысла сидеть под деревом и думать о смысле жизни, если не поел, не размножился и на тебя собирается напасть леопард. Размышление — роскошь, доступная немногим, а думать о чём-то кроме еды, секса и доминирования могут лишь редкие исключения.

Почему? Сигналы не попадают в неокортекс напрямую. Их фильтрует лимбическая система. Гипоталамус следит за балансом, миндалина включает страх, гиппокамп фиксирует карту происходящего. Неокортекс не является высшим судьёй, который принимает решения из ниоткуда, а скорее обрабатывает уже отфильтрованные сигналы и чаще всего просто обслуживает те импульсы, которые оказались сильнее.

Импульс — это базовое «хочу сейчас»: голод, страх, похоть. Сигнал — нейронная репрезентация импульса, которая проходит через фильтры. Когда я пишу «сигналы конкурируют», я имею в виду именно этот процесс. Сильнее те, что повышают шансы выжить и размножиться. Слабее, соответственно, те, что энергетически дороги.

Подавление импульса может стоить больше, чем простое следование за более сильным сигналом, так что иногда проще ничего не подавлять и позволить победить самому громкому паттерну. Контроль всегда дороже автоматизма, поэтому мозг не принимает решения в строгом смысле, а часто автоматически позволяет сильнейшему сигналу пройти без сопротивления.

И если большинство являются покорными рабами этого механизма, то некоторые люди устроены иначе. Иногда у них получается обойти систему. Это то, что я называю независимым мышлением. И о том, что это такое — следующая глава.

Независимое мышление

Формы мышления, которые в той или иной степени встречаются у живых организмов (у высшего примата в большей степени, а, например, у скорпиона в меньшей), можно назвать утилитарными,так как они решают биологические задачи. Соответственно, мышление, которое не направлено напрямую на решение этих задач, я определяю как независимое мышление. Оно не служит биологическим нуждам, и его ключевое свойство — абстрагированность, то есть способность оторваться от биологической задачи и думать о закономерностях, связях и о самом мышлении. Можно даже сказать, что это мышление ради самого мышления.

Далее в тексте «мышление» у меня означает и утилитарное, и независимое. Что именно из этого, будет понятно по контексту. У человека есть оба, у бота — только утилитарное.

Побочное свойство независимого мышления — продуктивность. Причём продуктивность не физическая, поскольку она есть и у термитов, строящих грандиозные сооружения, и у пчёл с их трудолюбивым отношением к жизни. Продуктивность мышления касается того, что может делать только человек — синтетической деятельности.

Именно поэтому мышление служит сильнейшим катализатором для любого творчества, поскольку создание нового можно считать проявлением независимости от биологических и социальных шаблонов. Потребление впускает мир в сознание, а творчество высвобождает сознание в мир. Однако, когда бот потребляет готовые формы, он затем просто воспроизводит их, не осмысливая (по принципу: штамп >память >штамп). Человек же пропускает реальность через уникальную структуру собственной личности, а затем возвращает её обратно изменённой, создавая тем самым то, чего раньше не было.

Только в этом случае сознание перестаёт быть зеркалом, отражающим внешний мир, и само становится источником. Этим сознание бота отличается от сознания человека: пока первый постоянно спрашивает: «Что мне взять из мира?», второй задаёт другой вопрос: «Что я могу добавить в мир?», или даже: «Стоит ли мне что-то добавлять, мир?». Отдельные личности могут и вовсе задаться вопросом: «А достоин ли мир того, чтобы что-то в него добавлять?»

Таким образом, наличие независимого мышления создаёт одно из самых принципиальных различий между человеком и остальным зоопарком. У других животных нет поведения без эволюционной мотивации, так как всё, что они делают, либо прямо повышает шансы на выживание и размножение, либо является побочным продуктом этих механизмов. Даже если бабуин выглядит задумавшимся, он не размышляет о бренности бытия, а просто обрабатывает сигналы среды: опасность, доминантность, перспективы спаривания… или, может быть, его просто мучает недельный запор.

Животные, конечно, могут быть очень сообразительными: ворона достаёт личинку палкой, шимпанзе кидает камень в банан — утилитарное мышление бывает достаточно сложным, способным быстро и эффективно решать практические задачи. Но и сложный ум всегда служит биологии.

Стоит уточнить, чем не является независимое мышление и какие задачи оно не решает:

Оно не добывает ресурсы (ни еду, ни деньги, ни для себя, ни для потомства) — это биологическая задача, решаемая сколопендрами, дятлами или даже постельными клопами;

Оно не обеспечивает репродуктивный успех: не обольщает самок и не заботится о потомстве. Это могли делать даже успешно вымершие динозавры.

Оно не занимается доминантностью: карьеризмом, лайками, шмотками, духовностью, образованием или количеством банкнот. Вся эта игра — просто способ подняться в иерархии, чтобы получить больше власти и секса. Даже отказ от доминантности — это тоже форма доминантности, только чуть более хитрая.

Если человек преследует исключительно цели добычи еды, размножения и доминантности, он ничем не отличается от бабуина, хорька или плоского червя. Горькая правда заключается в том, что жизнь такого человека полностью подчинена биологическим задачам, и он заслуженно получает определение «бот». Дальше я буду называть его именно так, чтобы не обессмысливать слово «человек».

Способность к мышлению определяет человека. Не IQ (про когнитивные тексты я ещё расскажу потом), не образование, не раса, не цвет кожи. Твой лучший друг может оказаться ботом. Высокообразованный профессор может быть ботом, а вот Лулумба, который никогда не читал Гегеля, может ботом не быть. Индивидуальная изменчивость мозга в этом смысле перекрывает расовую.

Образование делает глупость эрудированной. Бот-учёный повторяет как мантру: «Я учёный! У меня должность, публикации, Хирш, признание коллег», но мыслит ли он на самом деле, или он просто смышлёная обезьяна, которая тычет палкой в слоновьи экскременты и самодовольно провозглашает, что узнала истину о мире? Если метод познания становится клеткой для мышления, то его стоит выбросить как бесполезный мусор, не сомневаясь ни секунды.

В целом боты почти не способны на перенос критерия с интеллекта на направление использования интеллекта. Именно по этой причине они и носятся с показателями тестов, как аборигены с бусами (причем каждый бот считает себя как минимум «не ниже среднего»). Важно не «количество» интеллекта и даже не его «качество», а направленность использования интеллекта. Много ли толку от огромной цифры IQ, если она будет направлена на обслуживание скотских интересов ботов или на создание оружия массового уничтожения?

Примитивный бот хочет еды, а интеллектуальный бот хочет Нобелевскую премию. Но если механизм один и тот же — получение некой награды от среды и укрепление своего статуса, то разница не так уж и велика.

Так что не место на глобусе, где ты имел несчастье быть рождённым определяет, человек ты или нет, не стиль одежды, не пыльный ряд книг в шкафу, не твои достижения, публикации, медали и даже не похвала от мамы. А всего один простой вопрос: можешь ли ты напрячь мозги недля того, чтобы раздобыть побольше колбасы или затащить принца под алтарь вместе с его белым Мерседесом?

Лично ТЫ способен сделать что-то, что не было запрограммировано борьбой за место под солнцем среди обезьян? Если да, то есть вероятность, что ты не бот.

Шиза

Может ли человек с независимым мышлением оказаться обычным шизом?

Да, внешне есть сходство. Вот сидит Вася целыми днями дома и плюёт в потолок. А Петя так же, только в книжки зарылся и ни с кем не общается. Оба расходуют энергию на то, что не даёт прямого биологического результата, и оба «социальные инвалиды». Но ключевое отличие в направлении и контроле потока: энергия шизофреника уходит не на осмысленные небиологические цели, а на галлюцинации и бред.

Человек с независимым мышлением способен ставить абстрактные цели и удерживать их длительное время, сознательно направляя энергию туда, куда хочет, сохраняя высокую степень саморегуляции. Его мозг работает стабильно и согласованно, в отличие от шизофренического хаоса.

Но боты тоже не инвалиды! Когда я пишу про ботов, то имею в виду физически и психически здоровых людей, у которых нет деменции, слабоумия, клинической депрессии, тяжёлых поражений мозга и прочих отклонений. Бот — это просто обладатель стандартной комплектации вида Homo sapiens.

Короче говоря, если бот это система, а шизофреник сбой системы, то независимое мышление — выход за её пределы.

Синтез

Ещё советские нейрофизиологи (Филимонов, Кононова и др.) выяснили, что разница в размерах полей и подполей коры головного мозга между разными людьми может достигать сорокакратной величины и констатировали, что это почти видовая разница. Уже один этот факт объясняет часть различий между людьми и колоссальный масштаб взаимного непонимания. Но если брать мышление, то разница может быть даже не видовой, а космической. И это не метафора ради красного словца.

Если рассматривать мышление как синтетическую деятельность (синтез), то большинство даже очень начитанных людей будут чем-то вроде карго-смысловых миксеров: они тупо переставляют готовые блоки, но новых структур из элементов создавать не в состоянии.

Поскольку синтез комбинаторен, разница получается не линейная, а экспоненциальная. Что я подразумеваю, говоря, что синтез комбинаторен?

Возьмём, к примеру, Kабстрактных элементов («кирпичиков» понятий и идей). Синтез в данном случае будет являться не суммой элементов, а выбором подмножества (это то, какие именно кирпичи мы берём. Например, взяли только кирпичи A и C, остальные не взяли) и связыванием его в структуру. Даже если мы отвлечёмся от конкретных связей, то число возможных подмножеств из K элементов равно 2^K.

K = 5 даст 32 варианта.

K = 10 уже 1024.

K = 20 получится 1048576.

K = 30 будет около 1 миллиарда.

K = 40 — целый триллион!

Вот где у нас получается экспонента. Каждый дополнительный видимый абстрактный элемент удваивает пространство возможных комбинаций. Разница в «всего в 2 раза» по числу одновременно видимых элементов даёт разницу в пространстве в 2^10, то есть в тысячу раз.

Причём это только нижняя оценка, и она касается лишь подмножеств, поскольку мы посчитали только то, какие кирпичи взяты, без учёта того, как они связаны. Если же учитывать ещё и типы связей между элементами, то число растёт ещё быстрее, как число графов на K вершинах (вершина — один абстрактный элемент, графы — это то, как именно эти элементы соединены. Не просто «A+C», а «A влияет на C» или «C причина A». Один и тот же набор кирпичиков можно связать по-разному. И всё это разные мысли).

Число разных графов на K вершинах по формуле 2^(K(K-1)/2):

K = 5 даёт нам 1024.

K = 10 уже 3,5×10¹³.

K = 20 — астрономическая 10^57.

То есть при 20 элементах число возможных структур будет больше, чем звёзд в наблюдаемой Вселенной. Вот что я имел в виду, когда говорил, что разница в мышлении может быть космической, так как комбинаторное пространство растёт экспоненциально и факториально (3 кирпичика можно выстроить 6 способами, 5 — уже 120, 10 — 3,6 миллиона вариантов. Порядок тут важен, потому что мысль A-B-C не то же самое, что C-B-A).

Но мало иметь K элементов и видеть их. Нужно ещё уметь свободно их переставлять, поскольку вместо элементов нам обычно даны готовые блоки (можно назвать их шаблонами), с которыми комбинаторика не работает. Потому боты и гоняют одни и те же мысли по кругу, ведь их пространство сокращается до числа готовых блоков (а их может быть всего несколько штук на всю жизнь).

Даже если ты мыслишь не при помощи готовых блоков, то тебе всё равно потребуется разворачивать структуру целиком, поскольку комбинация элементов возможна, только если структура даётся вся сразу, единым актом. То есть любая комбинация элементов уже является структурой (даже если это 2 элемента со своими связями), и если тебе даны 3 элемента, а не 7, то ты физически не можешь увидеть структуру из 7 частей, поскольку она тебе просто не будет дана. И даже структура из 3 элементов может «расползтись по швам», пока ты будешь «всматриваться» в отдельные элементы.

А теперь почти магия: ты можешь не только связывать, но и абстрагировать, инвертировать, обобщать, вкладывать одно в другое или создавать «слоёный пирог» смыслов. И каждая подобная операция (O) умножает пространство результатов, она как бы берёт одну структуру и делает из неё другую структуру. Получается уже не просто 2 в степени K, а порядка O в степени K, что превращает синтез в произведение нескольких экспонент, где число элементов × свобода перестановки × число операций × глубина рассмотрения.

Попробую показать это наглядно, вот цепочка:

На входе одному даны, скажем, 5 элементов, другому — 7. Разница в 1,4 раза. Мелочь? Пока что да.

Но на уровне подмножеств 2^5 = 32 против 2^7 = 128. То есть разница уже в 4 раза.

На уровне графов 10^3 против 2×10^6... разрыв в 3 порядка.

Далее идут операции над самими структурами, и если у каждого есть O операций, пространство растёт как O^K. При O = 5: 5^5 = 3125 против 5^7 = 78125. Разница в 25 раз.

На уровне цепочек рассуждений длиной L картина становится чудовищной. Так, если каждый шаг можно считать выбором из пространства (P), то за L шагов число путей растёт как P^L. Даже при самых скромных числах за 5–10 шагов разрыв измеряется миллиардами.

Выходит, что разница на входе в 1,4 раза, в конечном итоге даёт нам разницу в числе достижимых мыслей на много порядков.

Прежде чем идти дальше, разведём два акта, которые легко спутать.

Всматривание — разворачивает структуру до элементов и связей, можно считать его «движением вглубь».

Осмысление — схлопывает пространство комбинаций, отбирая из него осмысленное («зёрна от плевел»).

Одно подготавливает мысленный материал, другое выбирает, что синтезировать. Дальше речь пойдёт в основном об осмыслении, но важно понимать, что без всматривания ему нечего было бы отбирать.

А весь процесс и называется синтезом, начинаясь с разворачивания, проходя через осмысление и завершаясь сворачиванием.

Стоит ещё, наверное, внести некоторую ясность, чтобы у тебя не сложилось неверное представление. Большое пространство комбинаций — это ещё не мышление, потому что большинство комбинаций являются мусором. Вот почему нам важно осмысление, то есть оценка того, какая структура имеет смысл, а какая нет. Схлопывая пространство, осмысление не просто отсекает лишнее, но ещё и проявляет то, что осталось, выводит его в явленность. Причём оно может проявить даже несовместимые структуры одновременно — это как положить на одну тарелку лимон и «лимонку».