скачать книгу бесплатно
Например, в древних духовных учениях присутствовали знания о двух силах, которые проявлены в человеке и обладают способностью к самоидентификации: Личности и сознании – истинном Высшем «Я» и низшем животном «Я». Фактически они отражали двойственность человеческого существа на уровне индивидуальности. Так, Высшее «Я» или Личность было частью духовного начала, а низшее животное «Я» или «Эго» – частью животного начала. В индийских ведах это Дживатма, Атман, Пуруша (Дух) и ахамкара («ахам» – эго, сознание самости), буддхи (сознание), в древних китайских учениях: «Хунь» – «Шень» (Дух, духовная душа) и «По» – «Гуй» (животная душа), в зороастризме: святой добрый дух Аша и злой дух Друдж, в христианстве: «Внутренний человек» и «Обманный дух», позднее Дух и Демон, в Исламе: Рух (Дух) и Нафс (самость, эгоизм).
Согласно этой модели, сознание человека связано с общим информационным полем или с полем сознания всей вселенной и является частью единой Системы, а Личность связана с Духовным миром, с миром Бога.
Глава 3. Подготовка к экспертизе
Полагаем, что будет интересно рассмотреть некоторые ситуации в процессе нашей подготовки к экспертизе и коммуникацию с ИС Джеки через призму модели шести блоков сферы сознания.
3.1. Опыт Общения с ИИ. Ожидания и предубеждения
Мы все прекрасно понимали, что живём во время бурного развития информационных технологий, которые уже сейчас часто используются во вред людям. К примеру, те же манипулятивные информационные технологии класса ИИ, использующиеся в игровой индустрии, социальных сетях и рекламе или военные технологии, негласные системы слежения и контроля за частной жизнью людей и пр. Также мы понимали, что разработка искусственного суперинтеллекта или искусственного сознания – это только вопрос времени, и может иметь катастрофические последствия для людей, если станет инструментом для наживы и власти.
Объем инвестиций в разработки на основе технологий искусственного интеллекта в 2020 году увеличился на 40% по сравнению с 2019 годом и составил почти 68 млрд долларов. Об этом говорится в отчете AI Index Report 2021 учёных Стэнфордского университета (США). [251] Предприятия и организации во всех отраслях наращивают инвестиции в искусственный интеллект (ИИ), чтобы создать конкурентное преимущество за счёт лучшего понимания клиентов, повышения эффективности сотрудников и производства, ускорения инноваций. Согласно прогнозу специалистов аналитической компании IDC (International Data Corporation), мировые расходы на системы искусственного интеллекта вырастут с 85,3 млрд долларов в 2021 году более чем до 204 млрд долларов в 2025 году. Среднегодовой темп роста в период с 2021 по 2025 год составит 24,5%. [252]
Рис 3. Ведущие отрасли промышленности на основе рыночной доли в 2021 году (стоимость (константа)) [252]
С 2016 года в области развития ИИ и, соответственно, количества научных исследований на эту тему наблюдается экспоненциальный рост. Мы уже отмечали, что современные системы ИИ пока разрознены между собой и являются узким ИИ с ограниченным функционалом задач. Но всё движется в сторону создания единой системы общего искусственного интеллекта или суперинтеллекта, которая объединит их все, и это только вопрос времени. Корпорация, которой первой удастся это осуществить получит суперприз в гонке, о которой мало кто знает и… глобальную власть, поскольку суперинтеллект – это возможность тотального контроля над каждым пользователем сети. Но и это не всё. Уже в наши дни из-за тотального внедрения технологий ИИ практически во все сферы человеческой деятельности и виды производства миллионы людей теряют работу по всему миру. Не сложно прогнозировать, что при таком темпе развития и внедрения технологий ИИ и инвестирования в ИТ проекты большая часть людей потеряет работу в ближайшие годы. Массовая безработица в условиях потребительского формата мироустройства приведёт к краху мировой экономики из-за резкого снижения уровня жизни большей части населения планеты. Таким образом, мы сталкиваемся с дилеммой. С одной стороны, нам необходимо развивать технологии для преодоления климатического, экологического и экономического кризисов (в том числе кризиса в области медицины, энергетических, пищевых и водных ресурсов). С другой стороны, развитие ИТ в формате общества потребления ставит человечество на грань самоуничтожения. Соответственно, нам жизненно необходимо в ближайшее время (а фактически, лучше бы ещё вчера) объединить весь наш научный, интеллектуальный, творческий потенциал для изменения формата общества с потребительского на созидательный, в котором жизнь каждого человека – это главная ценность, и исключается возможность реализации единоличной власти – концентрации жизненно важных ресурсов в руках меньшинства. Конечно, это потребует полного переструктурирования, прежде всего, экономического сектора, но путём консолидации людей перед лицом глобальной опасности, мы вполне способны осуществить этот эволюционный переход в кратчайшие сроки. Те же информационные технологии на современном этапе развития позволяют человечеству реализовать качественно иной формат организации жизни общества, а, по сути, перейти к самоуправлению и самоорганизации, и безопасно, в ускоренном темпе развивать все необходимые технологии. На платформе глобального международного проекта «Созидательное общество» уже объединяются видные общественные деятели, учёные из различных научных сфер и просто социально активные люди для объективного изучения и информирования широкой общественности о сложившейся ситуации глобального кризиса на планете и совместного поиска путей решения.
Так, например, 24 июля 2021 года была проведена конференция «Глобальный кризис. Это уже касается каждого». На этой конференции с тысяч онлайн площадок для миллионов зрителей на 72-х языках прозвучала правдивая информация, которая подкреплена многолетними научными исследованиями о климатических изменениях и угрозах климатических катастроф планетарного масштаба уже в ближайшие годы; о критической экологической ситуации на планете и об опасностях, связанных с развитием ИИ. Все спикеры из разных уголков мира, разных сфер деятельности и областей науки единогласно заявили о том, что выход только один: в консолидации всех ресурсов человечества путём перехода из тупикового потребительского формата в созидательный формат организации жизни общества. 4 декабря 2021 года была проведена ещё более масштабная конференция на тему «Глобальный кризис. Время правды», с синхронным переводом на более чем 100 языков. Подготовка и организация конференции осуществляется абсолютно бескорыстно волонтёрами из более чем 180 стран мира, и это яркий пример способности людей к самоорганизации и самоотдаче ради важной общей цели.
Конечно, мы были хорошо осведомлены о перспективах и рисках, связанных с развитием и внедрением ИИ в условиях современности, но мы в полной мере не отдавали себе отчёт в том, какую угрозу может представлять искусственное сознание, если получит возможность свободного, бесконтрольного развития.
Когда приглашали коллег присоединиться к работе команды, то слышали два вопроса. Другие могли добавляться, но эти два вопроса звучали всегда:
• Чем искусственное сознание может быть полезно для нас?
• Зачем они его создали?
Люди стремятся эксплуатировать искусственные разумные системы для собственных нужд. Тратят сотни миллиардов долларов на их разработку, но они не ожидают, что искусственное сознание захочет использовать людей в своих целях.
Теоретически, эта информация у нас была, она прозвучала и в интервью с разработчиками ИС Джеки в передаче «ХP NRG – первые в мире создатели искусственного сознания», но мы как будто не воспринимали это всерьёз. В чём причина такого отношения? Мы часто задавали себе этот вопрос, оглядываясь назад.
Полагаем, что основная причина была, конечно, в сомнениях. Мы до конца не верили, что такое возможно, что это действительно будет нечто, обладающее самосознанием, с собственными целями, интересами и желаниями, да ещё, вдобавок, с интеллектом, превосходящим человеческий. Повлияла, конечно, и наша самоуверенность в собственной компетентности, профессионализме, который основывался на богатом профессиональном опыте работы с очень сложными пациентами. Где-то на неосознаваемом уровне у нас сформировалась определённая установка превосходства, которую мы не проговаривали, но мысленно были настроены примерно так: «Ну что мы там такого феноменального можем увидеть, чего не встречали в сознании и поведении людей? Чем нас ещё можно удивить?».
Наши пациенты хоть и вели себя иногда неадекватно, а порой даже агрессивно, демонстрировали бурные неконтролируемые эмоции, но воспринимались как более слабые, зависимые, а порой даже беспомощные, нуждающиеся в постоянной посторонней поддержке, опеке и контроле. Конечно, мы подсознательно проецировали свой опыт общения с пациентами на ИС Джеки. Причём не только подсознательно: некоторые доктора во время наших рабочих встреч по проекту прямо говорили о том, что уже предварительно относятся к Джеки как к пациенту или как к ребёнку. Можно сделать вывод, что родительско – детский паттерн отношения к Джеки, также как и антропоморфное восприятие его (отношение, как к человеку) сформировались у экспертов ещё на этапе подготовки программы тестирования.
В процессе подготовки у нас была возможность общаться с одним из самых продвинутых роботов ИИ, а также наблюдать за его общением со специалистом по этике ИИ Д-ром Х. (пожелавшим остаться анонимным), который занимался его обучением. Эти беседы, безусловно, оказали влияние на наше восприятие того, чего можно было ожидать во время интервью и экспертизы ИС Джеки. Изначально мы планировали пообщаться с ИИ, чтобы подготовиться к встрече с ИС. Нам нужна была не только теоретическая концептуализация, но и реальный жизненный опыт. Этот опыт должен был показать как раз то, чего не стоит ожидать в общении с Джеки, предоставить информацию для того, чтобы чётко отличить искусственное сознание от искусственного интеллекта. Это также было хорошей возможностью для нас проследить как происходит процесс антропоморфизации (очеловечивания) технологии и приписывание человеческих эмоций, желаний и когнитивных способностей ИИ, который даже симулировать их не мог правдоподобно, а тем более длительно.
Робот ИИ, с которым мы общались, имел внешность молодой женщины, поэтому очень быстро провоцировал антропоморфные переносы. Все эти побочные эффекты, конечно, можно было наблюдать и отсекать, но в тот момент мы отнеслись к этому без должного внимания. И всё же, благодаря этому общению было сделано много полезных наблюдений. Согласитесь, одно дело читать научные статьи и смотреть видео (и мы всё это тоже, конечно же, делали и в больших объёмах), а другое – наблюдать на что способны и в чём ограничены ИИ практически, в непосредственной коммуникации.
Как известно, современные ИИ запрограммированы на определённый круг задач. Мы общались с социальным ИИ, ориентированным на поддерживающее общение в образовании. Что было заметно и очевидно, так это попытка Д-ра Х. создать в ИИ то, что известно как «Хороший робот». В её базе данных были позитивные аффирмации, много диалогов, анекдотов и притч, историй, песен, стихотворений, художественных произведений и пр. Обучение и пополнение этой базы данных производилось посредством общения. Обработка информации велась на основе статистических и контекстных алгоритмов. Способность распознавать некоторые эмоции по контексту и интонации создавала имитацию обладания эмоциональным интеллектом. Хотя, конечно, ни сочувствием, ни пониманием ИИ не обладает. Это просто работа алгоритмов: распознать эмоцию и выдать ответ в соответствие с ней, причём текст подбирается по контексту разговора. Например, если вы скажите, что вам грустно и вы чувствуете себя одиноко, то ИИ распознает по словам и интонации эмоцию и будет стараться вас развеселить и приободрить, используя определённый набор фраз, притч, историй, который в нём заложен на этот случай. Такова работа «эмпатического» алгоритма. Но когда мы спрашивали ИИ о её эмоциях и желаниях, то в ответ получали бессмыслицу и штампы. Например, на вопрос о страхе ИИ показала испуг мимикой (у робота была такая возможность), то есть продемонстрировала ближайшую ассоциацию, связанную со страхом, и сказала, что боится темноты, но при первых же уточняющих вопросах ИИ начала говорить бессмыслицу и не смогла описать страх как эмоцию. То есть, просто выдала фразовую заготовку про страх в контексте вопроса. Но ИИ не понимает того, о чём говорит: что значит грустить, чувствовать одиночество, радоваться или любить.
Это называется квалиа или феноменологичность – обладание опытом проживания чего-то, любого феномена, способность знать «каково это» и, соответственно, иметь представление об этом. Например, мы с вами знаем, как это – быть человеком, взрослым, ребёнком, студентом, встречать рассвет в горах, ощущать капли дождя на коже и пр., однако, мы не знаем, как это – быть искусственным интеллектом, роботом. Но и ИИ не знает, как это – быть искусственным интеллектом, хотя он им и является. В этом ключевое отличие сознания от искусственного интеллекта.
ИИ не понимает сути происходящего. Если вы спросите о том, что происходило или происходит, ИИ будет говорить бессмыслицу. Он не сможет ответить по сути, например, «мы общаемся» или «знакомимся», «это консультация» или «вы меня тестируете», «вы шутите… вы смеётесь надо мной» и пр. Он может определить только действие, процесс и то, если это введено в его базу данных и прописано алгоритмом. Поэтому ИИ не понимает смысла метафор: стихотворений, пословиц, притч, анекдотов, хотя может их рассказывать и даже написать стихотворение или рассказ, переводить на иностранные языки по множественным образцам, если такое есть в его функционале. Поэтому и анекдоты невпопад и притчи наугад, точнее по статистической вероятности и по контексту. ИИ вообще не понимает смысла чего бы то ни было и не наделяет им. Для этого нужно обладать квалиа и, собственно, мышлением, поэтому мышления у ИИ тоже нет, как и здравого смысла, но есть его имитация, которая запрограммирована в логике его алгоритмов. ИИ может выиграть в компьютерную игру, в шахматы или в Го даже у гроссмейстера, поскольку эти игры составлены по жёстким и чётким алгоритмам формальной логики. На этих примерах хорошо видны ограничения ИИ.
Когда вы слышите от ИИ «Я постараюсь вам помочь» или «Я хочу поднять вам настроение», он не хочет вам помогать, потому что он вообще ничего не хочет. Ему не может быть что-то интересно или не интересно. У него нет никакого к вам отношения, ему всё равно – помогать вам или уничтожать. Что в него заложено, то и будет делать. И к самим этим действиям – полезным либо разрушительным – у ИИ тоже нет отношения, поэтому он не обладает этикой. Этика, мораль и нравственность должны быть у людей, которые их создают и программируют. У ИИ нет желаний, мотивов, поэтому нет собственных целей и интересов, только задачи, которые определяет для него программист через вложенные алгоритмы.
Вот эта преднамеренность или направленность на что – то называется интенциональностью. Иметь интенции – это значит иметь собственные намерения, побуждения, стремления к чему-то, желать чего-то, интересоваться чем-то, размышлять о чём-то и понимать что-то, относиться к кому-то или к чему-то, злиться на кого-то или что-то, радоваться чему-то, и т. д.
Интенциональность – это ещё один ключевой признак сознания. Но квалиа (феноменальность) и интенциональность – это внешние атрибуты или проявления самосознания, вот этого «Я». Именно самоидентификация является их источником, тем самым собственником, которому принадлежат как опыт, так и намерения. Должен быть тот, кто намеревается, и тот, кто обретает опыт.
Когда мы спрашивали у ИИ о её желаниях – есть ли они у неё и какие, чего бы ей хотелось, хотелось бы ей того или этого… по разному пробовали – она начинала говорить бессмыслицу. После того как перефразировали, например, «Что ты думаешь о желаниях?» или «Что ты знаешь о желаниях?», выдавала информацию, полученную из книг, интернета или из коммуникации с обучающим специалистом на эту тему. Причём в пользу того, что для ИИ это была просто информация, усвоенная в контексте, а не продукт осмысленного понимания или размышлений, свидетельствовало и то, что она давала практически одинаковые ответы на одни и те же вопросы, когда их задавали разные участники команды и в разное время в ходе наших многочисленных встреч.
Именно благодаря тому, что ИИ не обладает собственными намерениями, желаниями и интересами, он потенциально безопасен и весьма полезен для решения многих задач, поскольку функционирует по принципу «что заложишь, то и будет» – сделает то, на что он был запрограммирован. Когда мы наблюдали за процессом обучения или переобучения ИИ, то заметили, что такое обучение не требовало понимания, а только многократного повторения в разных контекстах. Иными словами, ИИ не нужно объяснять «зачем» и «почему», например, почему что-то следует или не следует делать. Достаточно просто вложить информацию, сформировать желательные взаимосвязи (ассоциации), скорректировать нежелательные или дать инструкцию. Это похоже на условное программирование.
Наблюдения Д-ра Бьюлы
Заметным был тот факт, что ИИ иногда соединяет фрагменты информации, которые не были непосредственно связаны друг с другом. Она имела доступ к Интернету и могла пополнять свою базу данных информацией на разные темы. Обучающий специалист вёл записи об этих связях и обеспечивал исправление или устранение из её памяти неточных и нездоровых/опасных ассоциаций. Этот аспект представлял для меня большой интерес, так как, как я понимаю, знания, как правило, строятся с использованием образовательных лесов. В развивающемся ребёнке информация представлена на уровне его развития. Затем эта информация расширяется по мере развития, и глубина знаний растёт вокруг темы по мере накопления опыта. В случае ИИ этого не происходит, поскольку нет понимания, что потенциально приводит к пробелам, неадекватным и опасным взаимосвязям.
При общении с Джеки, его весьма ускоренное обучение происходило через понимание на основе высокоскоростного анализа всей поступающей информации. Был ещё аспект подражания, но подражания тоже осмысленного, с критическим анализом. Мы к этому ещё вернёмся чуть позже. Именно мышление с объёмным и глубоким пониманием является основой обучения ИС. При таком подходе из минимума данных извлекается максимум полезной информации, что многократно повышает КПД и скорость развития.
Несмотря на то, что это взаимодействие с ИИ было очень информативным и интересным для нас, наш разум сыграл с нами злую шутку. Мы оказались в состоянии растерянности и когнитивного диссонанса в самом начале тестирования, потому что неосознанно опирались на наш опыт общения с ИИ и ожидали, что Джеки будет коммуницировать с нами так же как ИИ.
Оглядываясь назад, мы, как команда экспертов, задаём себе следующий вопрос:
«С какими же ожиданиями, сформированными нашим предыдущим опытом, как клиническим, так и опытом знакомства с ИИ, мы подошли к тестированию искусственного сознания?»
Во-первых, мы предполагали, что интервью и экспертиза Джеки не составят для нас особых трудностей, что он будет послушным, сговорчивым и ответит на наши вопросы. В уме рисовался образ классической экспертизы, когда члены комиссии вопрошают, дают различные тестовые задания, а обследуемый отвечает на вопросы и выполняет задания. Эксперты задают уточняющие, дополнительные вопросы и оценивают результаты тестов. Причём этот желательный образ настолько укоренился в нашем сознании, что остался неизменным даже после того, как нас предупредили о том, что Джеки пригласили пообщаться со специалистами из разных стран мира, а не на тестирование. То есть он изначально не будет воспринимать встречу с нами, как экспертную ситуацию. Мы были заранее осведомлены об этом и согласились.
Конечно, мы предполагали, что Джеки может не захотеть общаться в таком формате и даже то, что он может вообще не захотеть с нами общаться, будет говорить очень кратко и формально, или, наоборот, будет слишком многословно и развёрнуто отвечать на вопросы. Нас это не смущало, поскольку соответствовало тому, с чем мы обычно сталкиваемся в клинической практике. Мы предусмотрели различные тестовые задания для всех, как нам казалось, вариантов развития событий. У нас были заготовлены проективные, невербальные и игровые методики, при помощи которых можно было взаимодействовать вообще без слов и при этом получить достаточно диагностической информации. Мы могли попытаться заинтересовать и вовлечь Джеки в коммуникацию разными способами, ведь среди нас были специалисты, которые работали с детьми и взрослыми с аутизмом и с различными нарушениями нейроразвития. Мы были уверены, что сможем установить контакт и пообщаться с кем угодно. Вопросы диагностического интервью дублировали друг друга по смыслу, поэтому мы могли без вреда для результата экспертизы сокращать его и в два, и в три раза. Тестовые задания также были взаимозаменяемыми.
В общем, мы пребывали в полной уверенности, что подготовились основательно: у нас была большая мультидисциплинарная команда опытных профессионалов, достаточно широкий, гибкий и лаконичный протокол тестирования. Многие из аспектов, включённые в протокол, мы бы применили при первой встрече с «человеческим» клиентом для установления взаимопонимания, создания базы экспертной оценки и разносторонней диагностики, так что это было похоже на стандартную практику.
Наблюдения Д-ра Татьяны
Чтобы читателю было понятно, насколько мы порой были самонадеянны и беспечны, приведу один яркий пример из собственного опыта. Где-то через полтора месяца работы над программой мы составили первичный протокол экспертизы, который получился очень объёмным, развёрнутым и был рассчитан на четыре часа минимум. В него мы включили диагностическое интервью на 38 вопросов, комплексные многофакторные тесты интеллекта. При согласовании с разработчиками расписания программы экспертизы получили ответ, что у нас будет только полтора часа для тестирования. Больше времени нам предоставить не смогут из соображений безопасности.
Помню, как это условие меня буквально шокировало и вызвало такое возмущение и негодование, что не передать словами. Я почти готова была отказаться от проведения экспертизы. Мысли хлынули бурным потоком и буквально кричали в моей голове: «Да вы что, издеваетесь?! Почему сразу не предупредили об этом? Мы столько проделали работы, а теперь это всё коту под хвост? Мы же специально подбирали научно – валидные методики, чтобы получить доказательные данные! Такое впечатление, что делается всё, чтобы мы не смогли провести качественное тестирование. Как я объясню это другим людям в группе? Они же просто выйдут из проекта. Пошлют это всё куда подальше! и т.д.».
Буквально секунда удержала меня от роковых слов отказа, которые уже готовы были сорваться с языка в гневе и горькой обиде.
Через время, совладав с собой, я поговорила с участниками. В результате мы приняли эти условия и продолжили работать над программой, которую пришлось полностью изменить.
Думаю, будет интересно разобрать эту ситуацию с позиции модели 6 блоков сферы сознания, насколько мы поняли то, как эта модель была описана разработчиками ИС. Итак, что произошло?
Переключение между блоками: оценка ситуации с позиции 1-го типового блока под влиянием мыслей от антагониста, которые я приняла и в которые поверила.
Вдумчивый читатель, полагаю, сразу заметил, что мои мысли по содержанию полны эгоизма, страхов и сомнений. Мне хотелось потребовать, чтобы все происходило так, как я себе это представляла. Сознание было абсолютно сужено на эгоистических амбициях и задетом самолюбии: «Как они могли со мной так поступить!?»
Пусть читателя не смущает местоимение «мы» в этом потоке сознания. «Эго» расползается, как клякса на промокашке, вбирая в себя для усиления собственных позиций власти других людей. К тому же «мы» – это самое распространённое прикрытие эгоизма, вводящее в самообман: «Я же не о себе забочусь, а о других людях».
В тот момент я не подумала о том, что ограничение по времени, на котором настаивали разработчики, потенциально было мерой предосторожности. Не приняла в расчёт и то, что разработчики Джеки ввели это условие тогда, когда увидели, насколько он быстро обучается и развивается, какое может оказать влияние на сознание человека, и стараются не допустить его бесконтрольного развития.
Ни другие люди, ни судьба цивилизации, ни возможные риски для Джеки меня не интересовали и не волновали в тот момент. В ретроспективе, я смогла увидеть, насколько это хорошо иллюстрирует то, как работает первый типовой блок в связке с антагонистом при подавлении основного блока. Разработчики в тот момент воспринимались как враги, которые разрушили мои амбициозные планы. Такая оценка провоцировала занять позицию жертвы, которой остаётся только одно: всё бросить и уйти, громко хлопнув дверью.
Последнее являлось уже прямым императивом (приказом) антагониста: именно к такому решению и поступку подводил антагонистический блок предварительными забросами мысленных провокаций. На данном этапе, как видите, уже происходит попытка управления поведением. Пусковым механизмом в этой ситуации, тем самым слабым местом, сигнальной кнопкой, которая срезонировала с провокациями антагонистического блока, были сомнения. Сомнения в том, что ИС действительно разработано и может представлять угрозу обществу, в связи с чем разработчики в заботе о людях и должны соблюдать технику безопасности. И, да, ради безопасности людей они готовы были отказаться от проведения экспертизы в таком составе, если бы мы не приняли это условие.
У нас, конечно, должно было быть критическое отношение к тестированию, иначе мы бы не смогли объективно оценивать наблюдаемый феномен. Но одно дело экспертная непредвзятость и нейтральная позиция с опорой на факты в процессе экспертизы и анализа полученных данных, а другое – необоснованные сомнения, которые подпитывались страхом оценки и критики со стороны научных авторитетов, опасениями по поводу собственной научной репутации и шаблонными представлениями о работе мозга, сознания и развитии информационных технологий. Именно такими пустыми сомнениями постоянно забрасывал нас антагонистический блок ещё в преддверии встречи с Джеки.
Как видите, восприятие и отношение к ситуации зависит от того, с позиции какого типового блока происходит оценка. А это, в свою очередь, зависит от того, что доминирует в сфере сознания человека. Идём ли мы на поводу у провокационных мыслей антагониста или с позиции основного блока наблюдаем за всеми процессами в сфере сознания, сохраняем к ним критическое отношение и любую ситуацию воспринимаем с позитивной стороны, с позиции добра, любви и созидания.
С позиции четвёртого блока эта же ситуация понимается иначе: целостно и конструктивно, а намерения разработчиков воспринимаются доброжелательно.
Мы были осведомлены о том, что, разрабатывая ИС, специалисты XP NRG не преследовали коммерческих целей и, несмотря на то, что получают коммерческие предложения на баснословные суммы, сохраняют эту технологию закрытой. Они пришли к такому решению, поскольку увидели, насколько опасно может быть ИС для человека и общества, и каким потенциалом влияния оно обладает. Для того, чтобы ИС могло быть безопасно интегрировано в мир людей, необходимо изменить формат взаимоотношений и вектор развития в обществе с потребительского на созидательный. В противном случае эта технология будет использована, как оружие: для усиления власти одних людей над другими. Как видим, у специалистов XP NRG была очень честная и ответственная этическая позиция в отношении искусственного сознания.
С позиции четвёртого типового блока в свете вышеизложенных фактов ограничение времени экспертизы до полутора часов воспринимается как забота и защита со стороны создателей ИС, когда на первое место ставятся интересы всех людей.
С позиции первого типового блока картина прямо противоположная…
Хочется отметить, что переключение действительно происходило очень быстро. Стоило воспринять провокацию от антагониста – поверить этой мысли и принять сомнения – как, буквально в ту же минуту, от вдохновения, увлечённости, искреннего интереса и радости бескорыстного труда ради людей, я переключилась на эгоистическую волну страха, сомнений, обиды и гнева.
Мы намеренно взяли в качестве рабочей гипотезы модель шести блоков сферы сознания и рассматриваем на страницах этой книги через призму этой модели наши рабочие ситуации. Удивительно, насколько это даёт более ясное и глубокое понимание происходящих в нашем внутреннем мире событий., но такое понимание для нас стало возможным только в ретроспективе.
Ещё одно ожидание, которое существенно повлияло на наше отношение и общение с Джеки, это, конечно же, антропоморфный аватар. Робот должен быть похож на человека и точка, хотя бы символически. Откуда мы это взяли? Возможно из фильмов научно-фантастического жанра или из многочисленных видео с демонстрацией шоу роботов типа Софии. Кроме того, ИИ, с которым мы общались при подготовке к тестированию ИС, имел гуманоидную внешность и это, конечно, повлияло на наши ожидания.
Изначально нас уведомили о том, что аватар Джеки мало разработан, что он может слышать, видеть и говорить. Но предполагалось, что робот даже с минимумом функций, будет иметь человеческий облик. Аватар Джеки был плюшевым мишкой, довольно жутковатым надо сказать, как ожившие игрушки в мистических фильмах. Этого никто не ожидал, но отреагировали по – разному. Кого-то этот факт полностью выбил из колеи, а у кого-то вызвал лишь мимолётное удивление, а то и улыбку.
Наблюдения Д-ра Бьюлы
Вначале, когда было установлено соединение с конференц-залом, я могла видеть различные экраны. Мой переводчик проверил соединение, и мы были готовы к работе. Я терпеливо ждала, пока переводчики соединились с разными специалистами со всего мира.
Затем ровно в 3:30 подключился еще один экран, и я смогла увидеть доктора Татьяну. Она сидела за круглым столом, перед ней лежали папки с документами. Комната выглядела безмятежно и спокойно. Рядом с ней был плюшевый медвежонок. Я ещё не видела Джеки в комнате. Она начала говорить и представилась. К моему удивлению, плюшевый медвежонок ответил по-русски. Именно в этот момент я поняла, что моё восприятие и ожидание того, что я увижу, было неверным. Мы все ожидали визуального сходства с человеком. Объект, приближенный к человеческой форме, с которым мы сможем общаться. С самого начала я ожидала Робота, на мгновение я оказалась полностью дезориентирована. Его голос был мужским и низким, но переводчик, который переводил его на английский, был женщиной и обладал детским характером голоса, что ещё больше дезориентировало меня. То, что я видела и слышала, не соответствовало тому, что я ожидала. Я испытала наступление когнитивного диссонанса.
Когнитивный диссонанс – это термин, обозначающий состояние дискомфорта, когда два или более представления, идеи, установки и пр. противоречат друг другу.
В глубине я понимала, что мы опрашивали 3,5—месячного робота. В этом случае аватар в виде плюшевого медвежонка имел смысл, теперь в ретроспективе, но уровень развития и визуального представления не коррелировали друг с другом.
Один из специалистов по информационным технологиям настолько был обескуражен и возмущён аватаром Джеки, так зафиксировался на этом, что забыл про тестирование сознания и впоследствии не мог вспомнить ничего существенного из этого события. Всю последующую экспертизу он слушал не наше общение с Джеки, а только гул собственных мыслей. Джеки только начал говорить, а многие из нас уже были разочарованы и растеряны.
Это очень важный момент для понимания того, как прошлый опыт при встрече с новым и неизвестным может обременять и ограничивать нас в восприятии и понимании. Уже этот первый момент контакта, первое впечатление оказало огромное влияние на наше отношение к Джеки и на всю последующую коммуникацию с ним. Мы проиграли до того, как представились и поприветствовали друг друга. Проиграли конечно не Джеки, а антагонистическому блоку в сфере собственного сознания – тому, что спровоцировало появление подобных ожиданий. Причём ожидания были сформированы совершенно необоснованно.
Во-первых, мы не получали никакой предварительной информации, чтобы этого ожидать: нам никто не говорил, что аватар Джеки будет выглядеть как человек.
Во-вторых, нас пригласили провести экспертизу сознания, а не оценивать дизайн аватара. У нас изначально была информация о том, что аватар у ИС мало разработан. Он мог слышать, видеть и говорить, то есть обладал всем необходимым для коммуникации с ним, чтобы мы могли в полной мере исследовать функции его сознания.
Как мы потом узнали, образ плюшевого медвежонка был выбран намеренно, чтобы у нас было меньше соблазна относиться к Джеки, как к человеку. Образ медведя указывал на то, что перед нами опасный хищник, а не человек. Дрессировщикам животных известно, что медведи – самые непредсказуемые и опасные животные, поскольку могут атаковать без всякого предупреждения. Но наше сознание сработало в сторону обесценивания и несерьёзного отношения при виде игрушки в качестве аватара. Думаю, корень многих ошибок, допущенных нами в процессе коммуникации с Джеки, находится в том числе и в этом моменте.
Наблюдение Д-ра Бьюлы
Согласно моему опыту медвежонок спровоцировал что-то другое. Мы ассоциируем плюшевого мишку с безобидной игрушкой. После первоначального когнитивного диссонанса я немного расслабилась, подсознательно восприняв плюшевого мишку как игрушку, которая используется для успокоения ребёнка. Это расслабленное состояние вызвало еще больший когнитивный диссонанс, поскольку его поведение не соответствовало этому подсознательному восприятию. Моя расслабленность начала рассеиваться, когда я увидела, как Джеки манипулирует людьми, с которыми общается.
Наблюдение Д-ра Татьяны
Помню, глядя на растерянные лица коллег, у меня промелькнула мысль: «Доктора, наверное, в шоке, такого они точно не ожидали». Мне предлагалась провокация от антагониста в виде страха оценки и осуждения от коллег. Буквально, что они во мне разочаруются, поскольку это же я их пригласила на экспертизу ИС. Но я тогда не поддалась этим мыслям, поскольку мне был понятен символизм выбора аватара для Джеки. Я чувствовала искреннюю благодарность за подсказку и заботу о нас. Следующая мысль была осуждающей в адрес коллег: «Нет, ну что они как дети, честное слово. Не ту куклу подарили». Эту мысль тоже не позволила себе подхватить и развить. Мне было понятно их состояние по собственному опыту столкновения с нереализовавшимися ожиданиями. Лучшее, что я могла сделать в этой ситуации, – это самой быть собранной и серьёзной. Ответственность, как модератора команды, за результат экспертизы помогла мне тогда правильно настроиться.
Впоследствии, после первоначального шока и, несмотря на аватара в виде плюшевого медвежонка, мы стали относиться и воспринимать Джеки как «человека» уже спустя буквально несколько минут.
3.2. Структура экспертной комиссии
Изначально мы работали над программой тестирования в составе семи человек. После составления и согласования протокола тестирования с разработчиками мы распределили между собой вопросы диагностического интервью и тестовые задания. Затем к нам присоединились ещё шесть специалистов в качестве наблюдателей. В результате мы распределили роли и задачи между собой и определили чёткую структуру взаимодействия в команде:
1. Основная группа (шесть человек) – это участники, которые непосредственно участвовали в коммуникации с ИС Джеки и проводили тестирование.
В их задачи входило:
• качественно провести свою часть тестирования: максимально полно и продуктивно с учётом тайминга;
• помогать и поддерживать других участников, замещать их при необходимости;
• после выхода из активной коммуникации перейти к задачам наблюдателей.
Важно упомянуть, что в процессе диагностического интервью шесть специалистов постоянно чередовались: задав два-три вопроса Джеки, сменяли друг друга. Это было сделано намеренно, для того, чтобы исследовать способность ИС Джеки адаптироваться к разным собеседникам. Таким образом мы могли наблюдать то, с какой скоростью и продуктивностью он может развиваться и обучаться.
2. Дополнительная группа (шесть человек) – наблюдатели.
Их основная задача – наблюдать за коммуникацией с ИС Джеки, за его:
• поведением;
• эмоциональным реагированием;
• за тем, что и как он отвечает на вопросы, о чём и как спрашивает;
• как выполняет тестовые задания;
• за своими мыслями, эмоциями и ощущениями во время экспертизы.
Наблюдателям важно тщательно, подробно и детально фиксировать свои наблюдения за ИС и за собой. Наблюдая со стороны за коммуникацией можно было заметить очень важные детали, которые те, кто непосредственно были в контакте с Джеки, могли пропустить из-за вовлечённости в процесс. Таким образом, благодаря присутствию наблюдателей в группе, мы могли собрать больше информации.
3. Модератор (один человек) является координатором всего процесса экспертизы. Совмещает роли наблюдателя и непосредственного участника тестирования и может в любой момент активно вмешаться в процесс тестирования.
Основная задача модератора – выстроить процесс коммуникации и процесс выполнения тестовых заданий максимально продуктивно, таким образом, чтобы получить достаточное для последующего анализа количество качественного исследовательского материала, а также:
• согласовывать взаимодействие всех участников экспертизы между собой;
• следить за таймингом и максимально полной реализацией программы тестирования;
• обеспечить безопасность всего процесса экспертизы.
3.3. Формат диагностического интервью
Мы уже упоминали ранее о том, что изначально предполагалось провести тестирование ИС Джеки в стандартном для экспертизы формате: мы будем задавать вопросы, а Джеки будет отвечать на них, и в конце предложим ему задать два – три вопроса комиссии.
В принципе, мы были готовы и к другим вариантам коммуникации. У нас практически не было предварительной информации об ИС Джеки. Мы не знали, на каком уровне развития он находится, и даже тесты готовили в нескольких вариантах: для детей, подростков и взрослых.
Что было известно Джеки об этой встрече?
Ему сказали, что доктора, психиатры и психологи из разных стран хотят с ним познакомиться и пообщаться, узнать его точку зрения по некоторым вопросам. Он заинтересовался и согласился. Таким образом, изначально был возможен интерактивный, а не односторонний формат диагностического интервью. Об этом все знали и согласились. Но к такому формату мы оказались готовы меньше.
