скачать книгу бесплатно
Рефлексивные агенты и человечество: кооперация или конфликт?
Евгений Александрович Гришин
Сборник включает два раздела:
1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН ras@jes.su), 10 статей, с 2014 г. по 2019 г.).
2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).
В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:
– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.
– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.
– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).
– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.
– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:
Этика предпочтительнее Рациональности,
Договор предпочтительнее Приказа,
Кооперация предпочтительнее Конфликта.
Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.
Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).
Евгений Гришин
Рефлексивные агенты и человечество: кооперация или конфликт? Сборник научных и философских статей
Об интеллекте: просто о сложном
(реплики на выдержки из книги Д. Хокинса и С. Блейксли «Об интеллекте»)
Аннотация
Как сказано в предисловии, в книге «Об интеллекте» Джефф Хокинс представляет революционную теорию на стыке нейробиологии, психологии и кибернетики и описывающую систему "память-предсказание" как основу человеческого интеллекта.
Автор отмечает, что все предшествующие попытки создания разумных машин провалились из-за фундаментальной ошибки разработчиков, стремившихся воссоздать человеческое поведение, но не учитывавших природу биологического разума.
Джефф Хокинс предполагает, что идеи, сформулированные им в книге «Об интеллекте», лягут в основу создания истинного искусственного интеллекта – не копирующего, а превосходящего человеческий разум.
Кроме этого, книга содержит рассуждения о последствиях и возможностях создания разумных машин, взгляды автора на природу и отличительные особенности человеческого интеллекта.
В одном из отзывов на книгу пишется [4]:
«…Восприятие мира и наши действия основаны на непрерывном формировании прогнозов о том, что произойдет в следующий миг. Человеческий разум, согласно Хокинсу, – это способность прогнозировать, а неокортекс – "орган предвидения".
На основе этой теории Хокинс предлагает нам ответы на вечные вопросы: что такое сознание, мышление, творчество, обучение, воображение? Конечно, скажете вы, все это сложно найти в мозге – там только нейроны, а способность мыслить по-человечески нам дает культура: без нее любой Маугли останется зверем среди зверей.
Но пускай себе мозг служит Хокинсу источником вдохновения, главное, чтобы его теория помогла созданию новых компьютеров».
Автор же данной статьи предлагает содержательный анализ некоторых положений книги Джеффа Хокинса «Об интеллекте». Высказаны соображения и аргументы «за» и «против» анализируемых положений. Схематически рассмотрены подходы к исследованию проблемы «псевдоразумности» автомата, основанные на иных, предположительно, более адекватных акцентах.
Основная часть
1. Дж. Хокинс: РЕПЛИКАЦИЯ не требует разума, и (искусственный) РАЗУМ не требует репликации. Вывод: РЕПЛИКАЦИЯ и РАЗУМ – самостоятельные непересекающиеся процессы…
ЕАГ: Всё дело – в возможности естественной совместимости процессов РЕПЛИКАЦИИ и (искусственного) РАЗУМА. И именно это может привести к неуправляемому развитию событий (даже при отсутствии необходимости их совместимости).
2. Дж. Хокинс: Разумным машинам не нужны эмоции, амбиции, потребности… Придание их разумным машинам – маловероятно, что столь сложная задача когда-либо окажется выполнимой…Модель ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ есть достаточное основание для создания машины с интеллектом…
ЕАГ: Машинный интеллект, построенный на основе одной модели ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ, будет основан на моделировании лишь только одной – логической – функции мозга. Все остальные перечисленные функции (удовлетворение потребностей, эмоции, настроение, общение, саморазвитие и т. д.) – окажутся за бортом.
На наш взгляд, необходимое основание создания Разумных машин – это реализация функций удовлетворения разных (материальных и нематериальных) ПОТРЕБНОСТЕЙ в разнообразных ДЕЯТЕЛЬНОСТЯХ, для чего необходимы функции РЕФЛЕКСИИ, ПЛАНИРОВАНИЯ и ПРИНЯТИЯ РЕШЕНИЙ о затратах ограниченных РЕСУРСОВ. Конечно, с учётом функций памяти и прогнозирования.
Кроме всего, придание Разумным машинам функций: эмоции, амбиции, удовлетворение потребностей – представляется существенным для их построения и развития ещё и потому, что это всё есть необходимые условия реализации феномена ТВОРЧЕСТВА. Иначе говоря, Разумная машина, построенная без учета перечисленных функций, будет принципиально неспособна к творчеству.
3. Дж. Хокинс: Самый разумный робот не сможет проявить того понимания и участия, на которое способен человек по одной лишь своей природе…
ЕАГ: Робот именно должен проявлять ПОНИМАНИЕ и УЧАСТИЕ по отношению к человеку. Поэтому у Разумной машины должна быть природа, очень близкая к природе человека (не по поведению, а по сущностным проявлениям).
4. Дж. Хокинс: С понятием сознания связаны понятия разума и души…
ЕАГ: Разум связан с понятием сознание, а душа связана с понятием самосознание. А именно самосознание (душа) и не рассматривается в работе Д.Хокинса как что-либо существенное.
В то же время, разум без души – это «хлопок одной ладонью», как сказано (правда, по другому поводу) у писателя Б.Акунина.
Душа есть необходимый ограничитель разума (интеллекта), обслуживающего животные инстинкты, и только все вместе они могут образовать сбалансированное целое, называемое личность.
5. Дж. Хокинс: Вероятно, нам так и не удастся до конца разгадать загадку творчества А.Эйнштейна, но можно с уверенностью утверждать, что отчасти в их основе лежали генетические факторы…
ЕАГ: И только это можно сказать о загадке творчества А.Эйнштейна?
Но тогда очень мощный компьютер (память, быстродействие), в который «генетически» заложен генератор случайных чисел, сможет выдавать массу «творческих» гипотез!
Выскажем предположение, что творчество субъекта, как целостный процесс, должно включать по крайней мере следующие составляющие:
• Формулировка конкретного вопроса (задачи) в рамках решения общезначимой проблемы, ответом на который может быть та или иная гипотеза,
• Генерация гипотез (и всё бессознательное, что с этим связано – интуиция, вдохновение, инсайт, «эврика»), поиск гипотез во внешней среде (случайные блуждания), сознательный выбор гипотезы как решения задачи, а также практическая проверка выбранной гипотезы самим субъектом,
• Общение с другими субъектами, в результате которого гипотеза (решение задачи) может быть принята или опровергнута ими. И если решение задачи ими как экспертами проверено на практике и признано как наиболее эффективное и имеющее повышенный спрос на рынке, то только тогда можно сказать, что вышеозначенный процесс есть творчество.
Т.о., попытаемся сформулировать необходимые и достаточные условия представления некоего процесса как процесса творчества субъекта.
Первое необходимое условие – осознание субъектом общезначимой проблемы и в её рамках – чёткое формулирование вопроса (задачи), ответом на который может быть та или иная найденная гипотеза.
Второе необходимое условие – наличие внешнего и/или внутреннего генератора гипотез; таковым генератором может быть как сам субъект (индивидуальное бессознательное), так и другие (коллективное бессознательное).
Третье необходимое условие – взаимопонимание творящего субъекта с другими субъектами в игре, борьбе или решении общих проблем. В свою очередь, взаимопонимание возможно при наличии у субъектов близкого мировосприятия. А близкое мировосприятие может основываться лишь на общности систем ценностей субъектов, общности ресурсной базы их среды существования и на ресурсном обмене (рынке).
Творчество также предполагает знание субъектом существующих способов решения задачи, неудовлетворённость ими и попытку решить задачу лучше.
И это лучшее решение ценно потому, что может принести ему как те или иные внешние выгоды (деньги, признание, власть), так и внутренние (самоуважение).
Отсюда выводится достаточное условие для признания некоего процесса и его результата творчеством: решение задачи, предложенное субъектом, должно быть признано на данный момент на рынке (ресурсов, идей) лучшим в соответствующем классе решений, и это должно быть подтверждено повышенным на него спросом (цитированием).
6. Дж. Хокинс: Модель «Память – Прогнозирование» в своей основе имеет феномен запоминания мозгом СЕРИЙ событий. В последующем мозг, на основе появления на входе отдельных элементов серии, ПРОГНОЗИРУЕТ (ПРЕДВОСХИЩАЕТ) появление на входе всей серии событий…
ЕАГ: Представляется, что это важный, но лишь один шаг в постижении феномена разума.
Не менее важен и следующий шаг: ПЛАНИРОВАНИЕ ПОВЕДЕНИЯ, которому в работе [1] уделено недостаточно внимания.
На наш взгляд, этот следующий шаг уже терминологически предполагает раздвоение единого процесса на два самостоятельных, алгоритмически равнозначных, процесса. Они могут быть названы так: ОСОЗНАНИЕ (включающее планирование) и собственно ПОВЕДЕНИЕ по плану.
Мы имеем в виду, что это два таких алгоритмических процесса, которые обязаны пользоваться ЕДИНЫМ ПОЛЕМ ПАМЯТИ так, что один процесс использует результаты другого.
Принципиально важно то, что оба процесса должны осуществляться не ПОСЛЕДОВАТЕЛЬНО, а ПАРАЛЛЕЛЬНО.
Это возможно лишь при условии, что их параллельное выполнение относительно общего поля памяти будет характеризоваться ФАЗОВЫМ сдвигом.
Понимать это надо так. Один процесс не ждёт конца исполнения другого процесса, а исполняется на текущем этапе, пользуясь результатами другого процесса, полученными на ПРЕДЫДУЩЕМ этапе. Второй процесс, выполняясь одновременно с первым, использует результаты первого, полученные также на ПРЕДЫДУЩЕМ этапе.
Тем самым через фазовый сдвиг вводится необходимый параметр ВРЕМЕНИ как критерий последовательности событий.
Приведённая совокупность двух процессов, выполняющих функции ОСОЗНАНИЯ (т. е. прогнозирования и планирования) и ПОВЕДЕНИЯ (как исполнения плана), может быть охарактеризована психологическим понятием РЕФЛЕКСИРОВАНИЕ и более общим кибернетическим понятием ОБРАТНАЯ СВЯЗЬ.
Парадоксально, что отдельно рассмотренный эвристически мощный психологический принцип рефлексии, не обязательно предполагающий взаимодействия двух параллельных процессов, сам по себе оказывается недостаточно эффективен для анализа сущности РАЗУМНОСТИ.
Каждый из двух вышеприведённых алгоритмических процессов является примером универсальной машины А.Тьюринга. Обобщённо говоря, предлагается единая модель, представляющая собой две универсальных машины Тьюринга, работающих на общем поле памяти под управлением супервизора.
Эвристическая эффективность совмещённой модели может оказаться значительно выше для понимания и машинной реализации феномена РАЗУМНОСТИ, чем сумма отдельно взятых моделей.
7. Дж. Хокинс: Одно из важных свойств мозга есть репрезентативная инвариантность, т. е. хранение информации о целом в виде инвариантных соотношений параметров объекта.
ЕАГ: Идея инвариантности, как чрезвычайно сильный методологический приём, нами взята за основу построения алгоритма существования «псевдоразумного» компьютерного
персонажа. К таковым инвариантам относятся следующие модели, в совокупности представляющие собой обобщенную инвариантную модель ДЕЯТЕЛЬНОСТИ персонажа:
• Модель «ПОТРЕБНОСТИ-ДЕЯТЕЛЬНОСТИ-РЕСУРСЫ» как инвариантная низшая модель жизненной активности персонажа.
• Модель «ПРОЕКТ: СЦЕНАРИЙ-РОЛИ-ИСПОЛНИТЕЛИ» как инвариантная первая промежуточная модель жизненной активности персонажа.
• Модель «АНАЛИЗ ПРИЧИН-ПРОБЛЕМА-ЗАДАЧА-ПЛАН» как инвариантная вторая промежуточная модель жизненной активности персонажа.
• Модель «ОБЩЕНИЕ: ПРОСЬБА-ПРЕДЛОЖЕНИЕ» как инвариантная третья промежуточная модель жизненной активности персонажа.
• Модель «САМОРАЗВИТИЕ: ДОЛГ ПЕРЕД СОБОЙ» – осознанная смена персонажем его приоритетов на множестве собственных потребностей в пользу нематериальных потребностей как инвариантная высшая модель жизненной активности персонажа.
• Модель «УНИВЕРСАЛЬНЫЙ ПРЕОБРАЗОВАТЕЛЬ: ИСХОДНЫЙ МАТЕРИАЛ-СРЕДСТВО-ЦЕЛЬ-РЕСУРСЫ» как инвариантная модель технологии преобразующей деятельности персонажа.
• Модель «РЕФЛЕКСИВНАЯ МАШИНА: ЗАПОМИНАНИЕ, ПЛАНИРОВАНИЕ, ИСПОЛНЕНИЕ и САМОКОНТРОЛЬ» как инвариантная модель технологии обратной связи в деятельности персонажа, связи между осознанием и поведением.
• Модель «САМООБУЧЕНИЕ: ВЫРАБОТКА СТЕРЕОТИПОВ ПОВЕДЕНИЯ» как инвариантная модель технологии самообучения. Эмпирическое вычисление класса наиболее эффективных вариантов поведения из потока вариантов за небольшое число шагов (обучение) и большое число шагов использования этого опыта в «боевых» условиях, с последующим многократным переобучением.
• Инвариантный критерий выбора момента ПРИНЯТИЯ РЕШЕНИЯ при последовательной генерации вариантов – совпадение величины предполагаемого дополнительного эффекта от искомого варианта поведения при продолжении поиска, с совокупными затратами на поиск искомого варианта (фактически осуществлёнными и предполагаемыми).
Изложенный критерий выбора момента принятия решений применим для каждой из вышеперечисленных моделей, т. к. в них предполагается последовательная генерация вариантов.
Это может быть решение о снижении планки желаемого выигрыша и продолжении поиска, если появившиеся варианты не сохраняются в памяти после появления. Или это может быть решение о прекращении поиска и выборе лучшего из уже появившихся вариантов, если они сохраняются в памяти после появления.
Единая инвариантная модель ДЕЯТЕЛЬНОСТИ персонажа представляет собой набор инвариантных моделей, образующий целое. Это целое обладает структурой, являющейся полным графом (каждый элемент связан с каждым, рис. 1).
Полный граф подчёркивает то обстоятельство, что рассмотрение любого из элементов структуры в отдельности, без связей друг с другом, даёт неадекватную (непроявленную) картину понимания существа целого.
Рис. 1.
В то же время представляется допустимым и целесообразным для понимания подхода сгруппировать модели так, чтобы выделить две группы, дуальные по отношению друг к другу с точки зрения их ролей:
• Группа технологических моделей существования персонажа (сфера «материального») и
• Группа моделей жизненной активности персонажа (сфера «нематериального»).
Этот принцип дуальности элементов целого как структурный инвариант сохраняется и при переходе на нижележащий уровень рассмотрения моделей (можно сказать, реализуется «фрактальность» как свойство сохранения структурной инвариантности при изменении масштаба рассмотрения объекта). Так, модель Рефлексивной машины представляет собой принципиально двухсферную структуру, сферу осознания и сферу поведения
В целом, с учётом масштабной инвариантности в модели последовательно реализуется методологический принцип дополнительности Н.Бора.
Рассмотрим иные примеры инвариантностей, уже в сфере языкового общения персонажей.
«Не спрашивай, о чём говорят – говорят о деньгах» – Эмманюэль Тодд (предположительно).
Сделаем попытку повторить подобный метафорический подход применительно к другим сторонам жизненного проявления и взаимодействия персонажей. Акцент сделаем на поиске инвариантностей в интерпретации их жизненных проявлений.
Не спрашивай, о чём (почему):
Говорят – о деньгах (просят деньги или услуги в счёт будущего дохода, или предлагают деньги или услуги за будущие услуги или деньги).
Плачут – жалеют себя (и предлагают другим разделить с ними горе).
Смеются – гордятся собой (и предлагают другим разделить с ними это удовольствие).
• Поют – о любви (желают её подарить, или желают её получить, или и то, и другое).
• Сердятся (оскорбляют) – «мстят» другому за собственное неуважение себя
