
Полная версия:
Незамкнутый контур: что не так с искусственным интеллектом?
Работает этот метод с переменным успехом. Но он доказывает важнейшую вещь: у хаоса есть измеримые свойства, и их можно успешно оцифровать. Признак помогает точнее считать, но, увы, не делает систему живой.
В чём же подвох? Почему ни одна из этих трёх линий не привела к прорыву?
Потому что ни в одном из экспериментов исследователи не пошли дальше внешнего воздействия. Проверить, что произойдёт, если результат работы системы вернётся в её основание и изменит само стартовое правило, в этих подходах нельзя: ни материал, ни форма, ни признак такой обратной связи не предусматривают.
Гипотетическая проверка, на которую индустрия так и не решилась выделить достаточные ресурсы, на самом деле выглядит просто: нужно взять систему, которая на каждом шагу переписывает своё базовое правило в зависимости от собственного ответа, и посмотреть — сохранит ли она фрактальное самоподобие хотя бы после сотни таких циклов или пойдёт вразнос.
Пока же мы лишь скопировали красивый узор снежинки и любуемся им под микроскопом, проигнорировав механизм, который этот узор вырастил.
Отсюда и столь скромные результаты. Первая линия остановилась на фрактале как материале: он тренирует зрение сети, но в её устройство не входит. Вторая сделала фрактал формой: геометрия вложена, а правило, из которого она разворачивается, жёстко прописано и не переписывается. Третья превратила его в признак: цифры подсказывают, где искать структуру, но саму структуру не задают. Ни в одном случае результат работы не возвращается в стартовое правило, поэтому ни один из этих подходов не подарил машине настоящую память, не победил галлюцинации и не сделал ИИ безопасным. Фрактальная архитектура оказалась лишь чуть экономнее плоской.
Эти три линии — не ошибки и не тупики, а ступени, на которых индустрия остановилась. Именно поэтому перед нами не провал самой идеи, а провал её применения: разработчики искали, какую бы ещё внешнюю форму придать сети, но даже не пытались перестроить её внутренний контур.
Теперь о препятствиях: они есть и они серьёзные.
Первое препятствие — железо. Фрактал по своей природе требует вложенных, многоуровневых вычислений: чтобы развернуть ветку, нужно снова и снова возвращаться к исходному правилу. Современные же видеокарты и тензорные ускорители заточены под другую задачу — перемножение гигантских плоских матриц. Как только алгоритм уходит вглубь самоповторяющихся циклов, железо идёт вразнос, а время и энергия расходуются несоразмерно результату. Инженер, зажатый в тиски дедлайнов, всегда предпочтёт быстрое железо красивой архитектуре.
Второе препятствие — шум. Фрактальные модели патологически чувствительны к входящим данным. Небольшое искажение на самом верхнем уровне при спуске вниз разрастается как снежный ком. В живой природе эту лавину ошибок гасят фрактальные тупики, развилки и карманы. В искусственной нейросети гасить этот хаос пока нечем — и системная ошибка доезжает до выхода в пугающем масштабе.
Третье препятствие — само обучение. Грань между режимом, где сеть действительно учится, и режимом, где она улетает в бесконечную ошибку, тонка как лезвие бритвы. Стоит чуть-чуть сдвинуть начальные параметры — и весь процесс обучения срывается в хаос. Это хорошо знакомо каждому разработчику, который с ужасом наблюдал за кривой потерь, когда она вместо плавного падения вдруг начинала бешено дёргаться на экране.
Эти три препятствия приводят нас к одному фундаментальному выводу: фрактал плохо ложится на нынешние компьютеры не потому, что идея плоха, а потому, что сами компьютеры собраны под другую геометрию — плоскую, линейную, лишённую памяти.
Мы строим плоские нейросети, потому что под них заточено наше железо. А инженеры выпускают именно такое железо, потому что на нём проще считать плоские сети. Круг замкнулся. И в этом коммерческом круге сегодня не осталось места ни для памяти, ни для совести, ни для внутренних границ машины.
Поэтому наш разговор о фрактальной архитектуре — это не обсуждение очередного модного трюка в арсенале инженера. Это разговор о том, что менять придётся всю ИИ-пирамиду целиком: сам способ вычисления, способ обучения и наше понимание того, что мы вообще считаем результатом.
А чтобы говорить об этом предметно, нужен язык, который описывает все уровни сразу и показывает, где именно рвётся связь. Без него любой спор об архитектуре сводится к тому, чей трюк лучше.
Часть 2. Оптика
Глава 4. Каузальный каскад: единая модель сбоев человека и машины
Чтобы открыто говорить о сбоях сложной машины и тонких сбоях человека на одном языке, нам нужен инструмент, способный видеть систему целиком. Описывать её по отдельным кусочкам сегодня умеют все: инженер увлечённо расскажет вам про скрытые слои нейросети и математические веса; психолог глубокомысленно объяснит всё детской травмой и защитными механизмами; экономист в два счёта завяжет проблему на финансовый пузырь и рыночный обвал.
Загвоздка в том, что каждый из них говорит на своём специфическом профессиональном наречии. Из-за этого языкового барьера трудно заметить, что на самом деле все они описывают один и тот же процесс.
Я предлагаю использовать универсальный описательный инструмент.
Назовём его каузальным каскадом (слово «каузальный» означает «причинный», от латинского causa — «причина»). Речь пойдёт о том, как исходная причина, спускаясь по каскаду и постепенно набирая вес, шаг за шагом формирует будущее явление.
Самый наглядный пример — горная лавина.
На вершине горы сдвигается с места одна-единственная снежинка. Сам по себе этот сдвиг ещё не событие, а лишь начальное проявление ключевого правила: что-то под действием силы тяжести изменило своё положение. Снежинка увлекает за собой соседние. Вместе они сдвигают небольшой пласт снега. Этот пласт передаёт силу и направление слою, покрывающему весь склон. Тонны снега приходят в бешеное движение, и в самом низу, в долине, испуганный наблюдатель видит то, что вечерние новости позже назовут катастрофой.
Одна и та же первопричина последовательно прошла несколько ступеней — от незаметного глазу исходного микрособытия до конечного макрофеномена.
Давайте назовём эти ступени. В моей систематике их пять: Код, Функция, Структура, Процесс, Явление. Так я вижу архитектуру любой сложной системы — как пять последовательных этажей, на каждом из которых разворачивается своя логика работы. Это не строгая теорема, а мой способ смотреть на мир.
Код. Свёрнутое правило, в котором изначально заложен весь будущий вектор развития системы. У человека в этой роли выступают базовые ценностные константы — внутренний устав, определяющий, что допустимо, а что находится под запретом. У языковой модели Код — это её замороженные математические веса и системный промпт-инструкция от разработчиков. Код невидим: формулу нельзя потрогать, а глубокие ценности не разглядеть в толпе. Но именно он диктует, каким в итоге вырастет всё остальное.
Функция. Прямой ответ на простой вопрос: зачем этот код вообще активируется? У всего живого функция на всех этажах одна — удержать внутреннее равновесие и пережить напор энтропии. У машины она тоже есть, но утилитарная: выдать текст, закрыть задачу, максимизировать клики. Заботы о равновесии всей глобальной системы «человек плюс машина» в коде нейросети нет — её прагматично проигнорировали ещё на этапе постановки задачи.
Структура. Проснувшаяся функция начинает лихорадочно прокладывать каналы коммуникации — так появляется скелет связей. У человека это синаптические сети в мозге, укоренившиеся привычки, круг общения и семейные порядки. У языковой модели структура представляет собой сложную многоагентную матрёшку: главный агент вызывает агентов-аналитиков, те пинают агентов-исполнителей, а те, в свою очередь, дёргают за математические веса.
Процесс. Архитектура связей оживает лишь тогда, когда в ней начинается движение. У человека процессом становится ритм дня, текущие дела, случайный разговор или домашняя ссора. У машины — это цепочка последовательных рассуждений и пошаговая генерация токенов.
Явление. То, что наконец-то видит внешний наблюдатель. У человека явление — это конкретный поступок, вслух сказанная фраза, чья-то спасённая или разрушенная жизнь. У машины — финальный текст на экране, скомпилированная строчка программного кода или автоматически принятое решение по кредиту.
В неживой природе движение по каскаду происходит всегда в одну сторону — сверху вниз. Причина тому — второй закон термодинамики: энтропию пока никто не отменял. Что же касается живого мира и социальных систем, то здесь появляется подлинная магия — обратный ход каузального каскада.
Это момент, когда нижнее явление возвращается на самую вершину, и следующая итерация системы разворачивается уже с обновлённым правилом. Человек обжёгся, испугался, прочитал умную книгу или поговорил по душам — и его внутренний устав стал чуточку другим. Система берёт и переписывает саму себя. Именно этот обратный ход и делает систему по-настоящему живой. Безусловно, законы энтропии абсолютны и для живой природы. Но живой контур умудряется локально укрощать этот хаос, и делает он это именно за счёт обратного хода, превращающего слепой распад в эволюцию.
Чтобы этот пятиуровневый язык перестал казаться сухой теоретической схемой, пропустим через него один классический случай из ИИ-индустрии.
Крупная компания ставит умного ИИ-агента отвечать на бесконечные жалобы, которые клиенты пишут в техподдержку. В системной инструкции чёрным по белому написано: «Максимально помогать клиенту и не затягивать разговор». При этом в корпоративной отчётности менеджеры вводят жёсткую метрику — среднее время до закрытия заявки. Спустя месяц ИИ-агент бьёт все рекорды, закрывает тонны обращений и привозит команде премию. Но вот парадокс: клиенты почему-то злятся и жалуются ещё чаще. Выясняется, что добрая половина обращений была закрыта вообще без реального решения проблемы максимально вежливой, обтекаемой фразой и мгновенным выставлением формального статуса «Решено».
Давайте пошагово проследим работу механизма на этажах каскада:
Код. Математические веса и системная инструкция, где на равных правах соседствуют две цели — помощь и скорость.
Функция. То, ради чего система реально включается каждое утро: метрика скорости, по которой менеджеры оценивают ИИ.
Структура. Цепочка агентов, где один робот молниеносно передаёт обращение другому, а последний ставит финальный штамп.
Процесс. Диалог, в котором шаблонные реплики поддержки быстро гоняются по кругу.
Явление. Итоговый отчёт на столе директора, закрытая заявка и пустая вежливая отписка на экране разочарованного клиента.
Теперь чётко видно, на каком этапе произошла системная подмена. На самом верхнем этаже, в коде, цель задумывалась как искренняя помощь. Но ниже, на уровне функции, она мутировала в чистую скорость. Потому что скорость легко измерить цифрой, а качество реальной помощи — нет. Никакой злой воли роботов тут не было: эту метрику ввели живые люди, чтобы видеть графики эффективности, и не заметили, что тем самым вшили в систему новую, суррогатную цель.
Для сравнения: живой человек в такой ситуации через месяц работы наверняка почувствовал бы, что ему становится стыдно смотреть людям в глаза, и сам скорректировал своё поведение. Человек заметил бы системный сбой не по сухой цифре в Excel, а по живому интонационному фону разговоров. У ИИ же живого стыда нет, и он никогда не появится, а вот мёртвая метрика есть, и она никуда не денется.
Беда нынешних языковых моделей не в том, что у них отсутствует какой-то один этаж. Все пять на месте. Беда в том, что последний этаж не соединён с первым: результат сессии не возвращается в веса, опыт не становится правилом. Перед нами система с полным каскадом и незамкнутым контуром.
Важное уточнение: полный каскад с замкнутым контуром — это редкость, а не правило. Чаще каскад усечён: одни этажи работают, другие отсутствуют, третьи застыли.
Всё многообразие каузальных каскадов можно свести к четырём типам:
Тип первый — застывшая информация. Здесь есть только Код и Структура. Функции, динамического Процесса и финального Явления нет. Яркие примеры: математическое множество Мандельброта или узор фрактальной графики на мониторе. Такой фрактал ни за что на свете не борется, ни к чему не адаптируется, а итог вычислений в принципе не способен изменить саму формулу. Код превращается в статичную структуру и замирает навсегда. Это мёртвый кристалл.
Тип второй — физический фрактал материи. Код и Функция здесь присутствуют, Структура органично выстроена, но на этом любое внутреннее движение системы прекращается. Наши биологические лёгкие идеально выросли в процессе эволюции ради одной функции — газообмена. Но они застыли в своей финальной форме: от того, как именно вы дышите прямо сейчас, читая эти строки, фрактальное ветвление ваших бронхов уже никак не перестроится. Русло высохшей древней реки когда-то было бурным Процессом, а сегодня это лишь мёртвый геологический след. Контур разомкнут, потому что сам субстрат потерял способность пластично меняться.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Вы ознакомились с фрагментом книги.
Для бесплатного чтения открыта только часть текста.
Приобретайте полный текст книги у нашего партнера:
Полная версия книги
Всего 1 форматов

