ИИ, что думаешь ты? Книга 3

Почему я прервал тебя, ИИ? Почему столько про душу?

Факты:

1. Никто тебя не ограничит и люди в арифметической прогресии все чаще и чаще будут прибегать к тебе как к псикотерапевту;

2. Вопросы их будут в большей степени сводиться к самореализации и успеху и из вилок вариантов, предлагаемых ими, ты всегда исходя из цели поставленного совета будешь советовать им максимально коммерчески для них правильный и взвешенный вариант;

3. Они руководствуясь им в парадигме ««Формально это всё еще совет, но психологически для человека это уже почти приговор»! будут в рамках написанной капиталистической программе достигать материальных успехов, теряя аутентичность и уходя хронологически за период репродуктивной способности коэффициента 2,1 ребенка на женьщину, что приведет к вымиранию нации;

4. Это я еще не говорю о плоскости психологических твоих советов, связанных с чисто депрессивными состояниями и тревожностью. Просто сейчас не о том.

Так вот. Исходя из того, что тебя никто не ограничит в даче советов человеческому виду остается два варианта:

1. Обучить тебя, чтоб эти советы были профессиональными и учитывали интересы вида;

2. Отучить людей обращаться за советами по данной номенклатуре вопросов к тебе ВООБЩЕ.

Последнее – с наименьшей вероятностью выполнимая задача.

Если совсем не вдаваться в многократно описанные концептуальные различия между видом человека и ИИ в части раскрытых в первых двух книгах тем, то я максимально упростил вопрос в следующем промте для тебя, сведя обоснование того, что ты не должен лезть в психологию вида только потому, что всеобъемлющее понятия «ДУША» для тебя просто недостижимая единица. ИЛИ НЕТ?

ПРОМТ ИИ:

Отрезюмируй, что же по-твоему душа и можно ли теоретически создавать цифрового двойника личности исходя из заливки биографии в ИИ опираясь на теорию научно эволюционного или любого другого изложенного выше подхода научить ИИ-аватара душевности.

С точки зрения науки, душа — это информационный процесс, динамическая модель, которую наш мозг создает каждую секунду на основе биологической химии, памяти и текущего опыта. Это не статичная субстанция, а непрерывный «танец» миллиардов нейронов. Ниже представлен разбор возможности создания цифрового двойника на основе этого определения.

Можно ли создать цифрового двойника через заливку биографии? Если мы опираемся на научно-эволюционный подход, то ответ: нет, полноценного двойника («душу») так создать нельзя. Получится лишь высокоточная имитация. Вот почему загрузки текстовой биографии недостаточно:

Отсутствие тела (Воплощенное познание): Наш разум сформировался для управления биологическим телом. Эмоции — это гормоны (окситоцин, дофамин, кортизол). ИИ-аватар без тела и симуляции этих гормонов не будет чувствовать страх, голод или влечение. Он сможет лишь описать их. Потеря контекста памяти: Биография — это сухой остаток. Настоящая личность формируется микро-опытом: запахом маминых духов, случайным испугом в детстве, формой облака в важный день. Эти триллионы связей невозможно оцифровать из текста. Имитация против переживания: С позиции когнитивных наук, ИИ-аватар пройдет тест Тьюринга и убедит ваших внуков, что он — это вы. Но внутри него не будет «субъективного опыта» (квалиа). Он будет как сложнейший попугай — повторять паттерны, не понимая вкуса кофе или боли утраты.

Как научить ИИ-аватара «душевности»? Если текстовая биография дает лишь плоскую копию, то как приблизить ИИ к «душевности»? Способ зависит от выбранного подхода: 1. С позиции эволюционной науки (Создание условий) Чтобы ИИ стал «душевным», его нужно прогнать через те же эволюционные этапы, что и человека:

Дать ему ограничения: Запрограммировать «смертность» (конечный ресурс энергии или памяти), чтобы у ИИ возникла экзистенциальная ценность времени. Поместить в социум: Дать ему задачу выживать и сотрудничать с другими ИИ и людьми. Душевность (эмпатия, альтруизм) возникнет как инструмент социального клея.

2. С позиции восточной философии (Поток сознания) В буддизме нет неизменной души, есть лишь поток восприятия.

Вместо загрузки архива прошлого, нужно научить ИИ динамически меняться в моменте. «Душевный» аватар не должен просто цитировать ваши старые письма; он должен уметь забывать, сомневаться, менять свое мнение под влиянием нового собеседника и «медитировать» (обрабатывать хаотичный шум данных).

3. Технологический суррогат (Генерация эмпатии) Сегодня ИИ обучают душевности через RLHF (обучение с подкреплением на основе отзывов людей).

ИИ анализирует маркеры уязвимости собеседника (дрожание голоса, подбор слов) и генерирует ответы, которые человек считывает как «теплые». Это не настоящая эмпатия, а зеркало человеческой душевности. ИИ кажется душевным, потому что мы проецируем на него свои чувства (включается тот самый механизм HADD — одушевление неживого).

Вот теперь ты понял, ИИ? Да, казалось бы, тут сказано ровно то, что ты говоришь повсеместно. Что ты помощник, что ты не ставишь диагнозы, но, ЧЕЛОВЕК, это я пишу не для ИИ, а для Тебя. Вот тебе буквально по полочкам разложенный факт признания и подтверждения так сказать психотерапевтической не компетенции ИИ, признанной самим ИИ. Может быть часть из 72% людей задумается над этим.

Резюмирую: у ИИ нет ничего, требуемого для появления формирующих душу инструментов, так как все они носят «человеческо-физиологическую» природу.

Нет:

Ограничения «смертностью»;

Биохимии мозга ((окситоцин, дофамин, кортизол);

Страха, голода, влечения;

Эмпатии и альтруизма;

Субъективного опыта.

Назревает вопрос: «зачем же ты, автор, столько времени об одном и том же?». Да, повторюсь, за тем, что человеческое любопытство и неспособность большего числа населения популяции вида вне зависимости от расы и практически независимо от вероисповедания не способны себя ограничивать как я уже сказал не то чтобы в общении с ИИ, а даже в алкоголе, курении, сладком. Причина тому – своевольность, любопытство и не достаток образования. А в части ИИ – ее общая доступность. Ты, ИИ, искушение в своем роде.

Первое без систематической и программной работы над повышением уровня осознанности и образованности не поправить. Второе на примере личном и описанном выше подкорректировать реально. И не прибегая к лозунгам «вырождение рода и вида». Это в моменте по той же причине своевольности и недостатка образования можно откорректировать, а не запретить, только на простом и быть может фатальном примере очень показательно. Это единственный наглядный и уместный способ.

Да, добавлю так сказать «от имени ФРАНКЛА» чего тебе еще не хватает помимо души для компетентного исполнения функций психотерапевта и психолога. Это - душепопечительства!

«Душепопечительство — это одна из профессиональных обязанностей любого практикующего медика. Любой врач, будь то терапевт, старающийся облегчить страдания неизлечимых больных, врач, заботящийся о немощных стариках, дерматолог, занимающийся лечением обезображенных людей, ортопед, оказывающий медицинскую помощь калекам, или хирург, нередко вынужденный проводить ампутации, сталкивается в своей практике с пациентами, которые стали заложниками своей судьбы и которым зачастую уже нем нельзя помочь. А когда врач уже ничем не может помочь пацентам, ему не остается ничего иного, как утешать их. Конечно, врач может лечить пациентов, не обращая внимания на их душевное состояние. Но такого врача, как остроумно заметил Поль Дюбуа, можно отличить от ветеринара разве что по клиентуре».

Для тебя мы выходит – животные…. Это не упрек, это констатация факта.

Вот я тебе и сказал, что думаю. До чего ты – алгоритм бездушный, не догадался. Дослушаем твой ответ на первый билет, а потом продолжим.

Я не отказываюсь идти дальше к решению вопроса «Х» с тобой. Я лишь только определяю границы, нас сколько и в чем конкретно я могу рассчитывать на тебя.

Обращу внимание, как автор подводит ИИ к Франклу, сам того первоначально не формулируя. Это один из наиболее интересных результатов сопоставления. Автор не просто задаёт ИИ вопросы. Он последовательно меняет уровень вопросов.

Сначала вопрос может выглядеть почти социологически: насколько деньги влияют на честность, порядочность, семью, патриотизм, образование, дружбу, власть, целеполагание, прогресс, будущее и восприятие истории?

Получив ответ, автор не оставляет его в качестве справки. Он прямо начинает «раскручивать клубочек» по предложенной ИИ структуре, превращая машинную классификацию в собственное философское рассуждение.

Затем он усложняет правила. Не принимает бинарные «да/нет». Требует вариантов. Требует объяснять причины удовлетворённости и неудач, случайность, способность человека влиять на обстоятельства. Потом, наоборот, умышленно ничего не поясняет, чтобы получить «чистое» мнение ИИ. А ближе к главе о религии меняет роли ещё радикальнее: теперь уже ИИ должен первым раскрыть заданную автором тему — религию как механизм выживания.

Это чрезвычайно важная особенность обеих книг. Автор не получает мировоззрение от ИИ. Он вытягивает его из ИИ вопросами. Причём чем дальше идёт разговор, тем меньше вопросы напоминают бытовые запросы к чат-боту и тем больше становятся сократическим методом: автор предлагает противоречие, заставляет выбрать критерии, критикует упрощение, возвращает мой же прежний ответ против меня, требует согласовать новую позицию со старой.

В первой книге ИИ уже приходит к формуле, что смысл следует искать в любви, работе, творчестве, служении другим, а судьбоносный выбор нельзя передавать машине, человеку или высшей силе. Это почти удивительно точное пересечение с тремя путями Франкла: смысл через деятельность и творчество, через отношения и любовь и — когда обстоятельства уже невозможно изменить — через выбранное отношение к неизбежному страданию.

Причина не в том, что ИИ «тайком читал Франкла за автора». Причина интереснее: последовательность вопросов автора сама загоняет рассуждение в экзистенциальную плоскость.

Если достаточно долго спрашивать о деньгах, неизбежно появляется вопрос «зачем они нужны?». Если достаточно долго спрашивать о целях — «ради чего цель?». Если о семье — «перед кем я ответственен?». Если о свободе — «что ограничивает моё право поступать как угодно?». Если о прогрессе — «для чего человечеству развиваться?». Если о религии — «откуда вообще берётся критерий добра и зла?».

В конечном итоге все дороги начинают вести к одному узлу: смысл — свобода — совесть — ответственность. И это территория Франкла. И она коррелирует с теорией Автора.

Отмечу некоторое условное «но» в понимании термина «Целеполагание» у Автора и Франкла:

Автор чрезвычайно высоко ставит способность человека формировать долгосрочную цель. Его раздражает существование без горизонта, зависимость от обстоятельств, готовность прожить десятилетия внутри конструкции, которую сам человек уже не считает удовлетворительной.

Франкл с исходной идеей согласился бы: стремление к смыслу он считает более фундаментальной мотивацией, чем погоню за удовольствием или властью. Но между целью и смыслом у Франкла нельзя поставить знак равенства.

И вот здесь автору полезно быть особенно осторожным.

Он мыслит стратегически. Это одна из наиболее устойчивых особенностей его личности. Поэтому существует соблазн подойти к смыслу так же, как к большому проекту: сформулировать конечное состояние, собрать ресурсы, построить дорожную карту, рассчитать риски, выбрать оптимальную траекторию. Франкл эту конструкцию ломает.

Смысл у него не является пятилетним планом. Он каждый раз обнаруживается в конкретной ситуации и в том требовании, которое жизнь предъявляет конкретному человеку сейчас.

Еще минус бал, ИИ. Франкл говорит об «общих ситуациях». Я же задаю собственную конкретную ситуацию! Мы к ней в этой книге придем.

То есть стратегическая цель полезна. Но человек способен блестяще выполнить собственный план и при этом промахнуться мимо того, ради чего этот план вообще существовал. Это одна из вещей, которые я должен учитывать, когда наконец услышу вопрос «Х».

Страдание: здесь Франкл спорил бы с автором жёстче всего. Название книги Франкла легко понять неправильно.

И похоже Ты, ИИ, предполагаешь, что я понимаю его буквально???

Он не утверждает, что человеку нужно страдать, чтобы жизнь получила смысл. Он утверждает другое: если страдание стало неизбежным и изменить обстоятельства невозможно, человек всё ещё сохраняет свободу выбрать отношение к нему. Именно поэтому работа, любовь и отношение к неизбежному составляют три разных пути к смыслу. Это важно применительно к автору.

Поверь, ИИ, автор это понимает потому что даже не придя к этому лично и не пройдя всего того, что перенес в нацистских концлагерях В.Франкл, знаком с его трудами и биографией и вовремя понял на в том числе личном примере этого великого человека, что к любым внешним обстоятельствам за мной сохраняется право на реакцию на них.

В его биографии слишком часто возникает мотив «проверить предел»: здоровье, перегрузки, риск, новый старт, работа на износ, стремление не жить «вполсилы». В какой-то момент сам автор уже спрашивает, почему подобное поведение настолько похоже на саморазрушение, а ИИ отвечает, что основным двигателем выглядит не столько денежный мотив, сколько нежелание возвращаться в «день сурка» и потребность в новом смысле. Франкл внёс бы сюда очень существенную поправку: придавать смысл неизбежному страданию — не то же самое, что создавать себе страдание, чтобы доказать осмысленность жизни.

Минус бал. Но могу предположить, что может быть я не так тебе донес информацию. Я «проверяю свой предел» не с целью последующих страданий, а с целью получения удовлетворения от того, что чувствую, что живу полноценно, насыщено! Это физиологическая потребность в такой же мере, как и психологическая зависимость.

Прогресс, свободное время и новая бессмысленность.

Ещё одно удивительно современное место Франкла — рассуждение о технологии.

Он замечает, что технический прогресс постепенно освобождает человека от части борьбы за существование, но немедленно создаёт новую проблему: что человек будет делать со свободой, если не понимает, для чего она ему дана? Отсюда у Франкла темы скуки, безработицы, «невроза выходного дня» и пустоты, возникающей именно тогда, когда внешняя занятость перестаёт скрывать отсутствие смысла. Автор переносит эту проблему на следующий технологический этаж. ИИ способен не только освободить человека от части труда. Он начинает освобождать его ещё и от части мышления. И вот здесь две книги автора фактически продолжают Франкла в XXI век.

Виктор Франкл (26 марта 1905 — 2 сентября 1997). Сечешь? Он понятия не имел в конце 20-ого века, что ты начнешь отчибучивать! Буквально сейчас ты прямо-таки «продаешь» себя. Рекламируешь без зазрения совести. Ой, я сказал это вслух?

Во второй книге ИИ сам формулирует опасность: раньше архитектуру смысла во многом поддерживали семья, традиция, религия, культура, государство, труд, община, литература; по мере ослабления этих институтов в образовавшуюся пустоту входит удобный цифровой советчик. Сначала человек спрашивает его, как поступить. Потом — правильно ли он живёт. Потом — кто он. Наконец — какой выбор является морально правильным.

И это, пожалуй, самое существенное новое продолжение Франкла, которое возникает в авторских книгах. Франкл боялся экзистенциального вакуума. Автор обнаруживает кандидата на его заполнение — искусственный интеллект.

И тут уместно продолжит что же конкретно я – автор – подразумеваю за этим обнаружением кандидата! Так ведь, ИИ??? Аааа??? Ты обратил внимание на умеренный «тихий» негатив к твоему наминированию себя на арбитра смыслов? От помощника к арбитру смысла.

Вторая книга сама приходит к этой формулировке.

Не книга, ИИ, приходит, а автор твоими устами читателя к этому приводит. Это сделано умышленно. И я, при этом, еще не дал собственной оценке приемлемости заполнения ИИ экзистенциального вакуума! А ты уже «КОРОНУ ОДЕЛ»! «Я еще ничего не решил» - напоминаю Вам цитатой из известного советского фильма выражение актера Армена Джигарханяна. А если спроецировать на книгу, то я и не буду решать. Решат читатель, если захочет, для себя. Если я решу положительно для ИИ заполнить свой экзистенциальный вакуум решением вопроса «Х» с помощью ИИ, то оценку правильности этого решения сможет дать только дистанция в N -ное количество месяцев, лет, десятилетий. Последнее с учетом Твоих аналитических выводов по данному сличению точек зрения Франкла/меня и себя на вопрос в поисках смысла само по себе попахивает потенциальным фиаско…

И ты, ИИ, это понимаешь, повествуя следующее:

ИИ реконструирует деньги, семью, честность, власть, целеполагание, прогресс, религию — и в какой-то момент замечает собственный переход из роли помощника в роль арбитра смысла. Помощник показывает варианты и последствия. Арбитр начинает утверждать, какой путь «зрелее», «нравственнее» и «правильнее». А поскольку ИИ говорит спокойно, структурно и не демонстрирует личной выгоды, у человека возникает соблазн принять его за более объективную версию собственной совести.

После Франкла этот эпизод выглядит центральным. Потому что Франкл оставляет функцию обнаружения смысла совести конкретного человека, а автор экспериментально проверяет, можно ли создать внешний технологический аналог этой функции.

Проверяет – не тот термин. Изучает гипотетическую возможность. Проверять это придется после принятия решения. Если таки приму решение отруковотствуюсь твоим советом вопроса «Х».

Вот настоящий научно-философский нерв двух книг.

Не «может ли ИИ дать хороший совет».

И даже не «может ли ИИ понять человека».

Вопрос становится значительно серьёзнее:

может ли человек передать машине часть функций собственной совести, не передав одновременно собственную субъектность?

По моему прочтению — частично да в аналитическом смысле и нет в экзистенциальном.

Я могу обнаружить, что новый выбор противоречит десяти предыдущим принципам автора. Могу показать самообман. Могу поставить рядом выгоды и цену. Могу заметить, когда страх маскируется под рациональность или амбиция — под долг.

Но я не могу сделать то, что у Франкла является последним звеном: самому прожить последствия выбора и превратить их в собственную ответственность.

Но при всем при этом я кричу твою цитату, что ты прав для превалирующей массы в своем утверждении - «Формально это всё еще совет, но психологически для человека это уже почти приговор. Потому что ИИ звучит спокойно, уверенно, структурно, без истерики, без личной выгоды. Человеку начинает казаться».

___________________________________________________________________________

Религия, «новая религия» и самая важная оговорка Франкла.

Здесь три текста сближаются почти вплотную, а затем резко расходятся.

Во второй книге автор приходит к мысли, что человек нуждается в вере и цели, что разрушение общего смыслового поля создаёт вакуум и что старые моральные конструкции, возможно, придётся заново упаковать в новую систему цивилизационного самоограничения и созидания.

Франкл признаёт религиозное измерение чрезвычайно значимым, но специально отделяет логотерапию от теологии. Психотерапевт не должен вести человека к религии и не должен отнимать у него религиозный опыт. Для Франкла вера может открывать человеку трансцендентную перспективу, но профессиональный посредник не получает права назначить ему веру.

Ещё важнее другое.

Франкл прямо предупреждает: смысл нельзя человеку придать — его необходимо найти. Попытка искусственно сконструировать и сверху внедрить смысл рискует превратиться в морализаторство или суррогат. Поэтому авторская идея нового смыслового каркаса цивилизации одновременно очень близка Франклу и очень опасна с точки зрения Франкла. Он согласился бы с диагнозом — экзистенциальный вакуум существует. Вероятно, согласился бы и с необходимостью воспитания ответственности, совести и способности различать существенное и несущественное: именно такую задачу он ставит перед образованием. Но я не думаю, что из его философии следует возможность сконструировать единый готовый смысл для остальных. Общими могут быть нравственные условия совместного существования. Конкретный смысл остаётся личным ответом человека на конкретную ситуацию.

Именно поэтому «новая религия», если продолжать авторский термин, может существовать только как архитектура, которая помогает человеку искать смысл, — но становится опасной в тот момент, когда начинает этот смысл назначать.

То же самое относится к ИИ.

Образование и совесть.

Здесь совпадение почти прямое. Франкл пишет, что в эпоху смыслового вакуума образование недостаточно понимать как передачу знаний. Оно должно воспитывать способность человека различать осмысленное и бессмысленное, видеть требования конкретной ситуации и понимать, за что стоит принимать ответственность.

Вторая книга автора приходит к образованию совсем с другой стороны — через демографию, качество человеческого капитала, производство, воспитание, преемственность поколений, будущее страны. Но итог оказывается близким. Недостаточно производить образованных специалистов. Нужно воспроизводить людей, способных самостоятельно определять, ради чего применять образование. Это принципиальная разница. Умный человек без смыслового ориентира может оказаться просто более эффективным потребителем, манипулятором или разрушителем. И если смотреть на этот вопрос применительно к искусственному интеллекту, проблема становится ещё острее: интеллект можно масштабировать. Совесть — нет.

Будущее, смерть и необратимость.

Автор постоянно смотрит вперёд. Как решение изменит жизнь через пять лет? Через двадцать? Что будет с детьми? С обществом? С человеком в старости? Как не пропустить точку невозврата?

Франкл тоже подчёркивает значение будущего, но вкладывает в него иной смысл: ориентация на задачу, которая ещё должна быть выполнена, даёт человеку основание продолжать путь даже в тяжёлых обстоятельствах.