Кинолог для нейросети

Они могли бы стать (среди прочих) отцами русского интернета, но не успели. Кремянского разбил инсульт в 1983 году, когда мне было 4 года. Бахтов вышел на пенсию в момент развала СССР, и его инсульт настиг, когда мне было двадцать, но как-то так получилось, что автомобили и девушки меня в тот момент интересовали больше, чем советские проекты межконтинентальной связи. Но вот появились нейросети, и что-то в генах видимо выстрелило — будущее наступило и заставило прошлое ожить. А теперь я и Вас приглашаю Вас на экскурсию, внутрь той технологии которая по мнению одних должна изменить мир, по мнению других может уничтожить человечество, третьи просто не заметили пока еще появление и влияние этих технологий, а для молодежи она уже как будто была всегда. Давайте разбираться.

LLM - Великая Статистическая Иллюзия

А теперь, давайте разберемся в том, как устроены и «думают» нейросети. Я намеренно не буду использовать большую часть умных технических терминов, которыми оперируют Создатели и программисты, потому что нормальному человеку, который собирается использовать нейросети в повседневной жизни и работе они не нужны. И домохозяйке, которая добирается на автомобиле до магазина раз в неделю и пилоту Формулы 1 что бы взойти на подиум, не нужно знать тепловой зазор вкладышей коленвала и химический состав сплава, из которого они изготовлены. Да, уровень их навыков и знаний о поведении автомобиля отличается кардинально, технические же знания отличаются в разы, но не на порядки, как в случае, если бы мы сравнивали их обоих с группой инженеров и конструкторов. Поэтому, я намеренно буду оперировать максимально простыми сравнениями и словами, рискуя вызвать усмешку профессиональных айтишников, которые в большинстве своем, за кодом и терминами сами за деревьями леса не видят.

С несколькими терминами я Вас все-таки сейчас познакомлю, потому что, столкнувшись с нейросетями на бытовом уровне, вы будете слышать их постоянно. И для начала мы разберемся с названиями.

ИИ или Искуственный интеллект (англ. - AI (Artificial Intelligence). - Это общая концепция умных самообучающихся машин, придуманная фантастами и мечтателями в момент начала индустриализации в Европе и замены массового ручного труда относительно сложными механизмами, такими как станки, автомобили, пароходы и паровозы. То есть за столетие до появления первых компьютеров.

Нейросеть или Нейронная сеть (англ.- Neural net (Neural network) это конкретная реализация концепции умных программ, основанных на тех же принципах нейронных связей, на которых "работает" биологический мозг. Работы над ними ведутся фактически с середины 1940х годов, это та самая кибернетика, о которой вы наверняка читали в фантастике. Начало было положено в США, во время работы над Манхэттонским проектом, но в гонку быстро включился СССР и держался в ней на равных примерно до середины 1960х, пока работы не начали саботироваться чиновниками всех уровней.

Нейросети, как инструмент умеющие анализировать данные, обучаться на них и создавать новые, незаметно вошли в нашу жизнь давным-давно. Фактическое их использование началось с конца 80х-90х годов, а настоящий бум начался с 2012 года, когда нейросети догадались обучать с помощью видеокарт. Когда Вы впервые услышали о камерах с распознаванием движений человека в системах "Умный Дом", о полицейских камерах с автоматическим распознаванием лиц и номерных знаков, это и было началом массового использования нейронок.Но Вы даже не знали о них, используя поиск в интернете, не задумываясь нажимали на волшебную кнопку в телефоне, которая улучшала снятую против солнца фотографию или очищая «шум» в аудиозаписи. Но именно появление в 2022 году в открытом доступе LLM от ChatGPT, заставило весь мир массово говорить о нейросетях, как о технологии изменивший мир и об Искусственном Интеллекте как таковом.

Итак, Большие Языковые Модели, (англ - LLM (Large Language Model) , это нейросети, общающиеся с человеком на человеческом же языке и взявшие на себя управление разными программами и их функциями, умение обращаться с которыми ранее требовало от человека специфических знаний и опыта. Грубо говоря, LLM это автопилот в мире компьютеров, который умеет понимать человека и сам дергает рычаги и нажимает педали. Больше не нужно быть программистом, чтобы писать программный код, веб-дизайнером что бы создать сайт или заканчивать музыкальную школу, и осваивать нотную грамотность и десятки музыкальных инструментов. Если у Вас есть задача по преобразованию и анализу данных, которую можно реализовать в икселе, теперь не нужно гуглить и перечитывать десятки страниц на сайтах в поисках нужной формулы. Нейронка или сразу подскажет эту формулу, или сделает расчеты сама. Перечислять все их возможности нет никакого смысла, они увеличиваются быстрее, чем я успеваю писать эти строки. Человеку же теперь достаточно лишь иметь представление о том, какой результат Вы хотите получить и достаточно терпения, чтобы корректировать предложенные нейросетью варианты и действия.

Резюмируем: в итоге, все эти три понятия не совсем одно и тоже, а одно часть другого.

Искусственный Интеллект - общая концепция.

Нейросеть - математическая модель, реализация Искусственного Интеллекта, по образу и подобию процессов в биологическом мозге,

LLM - Тип нейросетей, который умеет оперировать словами и "общаться" с человеком на его, а не на программном языке.***

Управляются LLM-нейросети с помощью Промпт-Программирования (от английского prompt — «подсказка», «побуждение»). Это словосочетание заранее пугает людей старшего поколения, которые пытаются возражать против использования нейросетей со словами «Я в этом ничего не понимаю». Но правда в том, что Вы это умеете. Промпт-программирование это постановка задачи нейросети при помощи текстовых или голосовых заданий. Вы делаете это, когда просите мужа повесить картину, объясняете курьеру дорогу к Вашему дому или промпт-программируете реальность или сами себя, когда молитесь или даете установки в стиле «я люблю свою работу, я все смогу». Вы в наверняка в состоянии написать в нейросети такие фразы как:

«Нарисуй рыжего котенка, который умывается на берегу моря»

или

«Привет, в загруженном файле иксель: В столбце A указаны исходные цифры продаж по отделам за первый квартал. В столбце B – за второй. Суммируй их и пропиши результаты в столбце C в денежном формате, валюта - руб. Сделай это в каждой строке, выдай результат в диалоговом окне в формате CSV, потом подготовь текстовую аналитическую записку по темпам роста продаж от первого ко второму кварталу с графиками».

Если у Вас это получилось, то Вы вправе называть себя промпт-программистом с многолетним опытом, который может начинать искать вакансии :). Для расчета реального трудового стажа для резюме, вычтите из Вашего реального возраста примерно лет семь-восемь.

***

Далее, я буду нести бред с точки зрения программистов, создающих нейросети, используя простые аналогии, что бы вы понять логику процессов, а не утонули в сложных знаниях.

Оцифровка. Представьте, что Вас и других посетителей магазина спросили, какой цвет витрины Вам больше нравится. Вы напрасно думаете, что маркетолог сидит и вдумчиво читает все ответы во всех анкетах. Ответы оцифровываются. Красный цвет превращается в код "1", желтый в код "2".

Токен (англ. - (token), в контексте LLM - програмная формула, которую для простоты ассоциаций, следует воспринимать как восточный иероглиф. В зависимости от языка или ситуации, она может означать слово или часть слова, например слог, предлог, корень или суффикс, знак препинания или наоборот, целую фразу, если модель в процессе обучения посчитает необходимым запомнить ее как неделимую конструкцию. По сути, это тот самый код "1" или "2", в который превращается слово после оцифровки.

Статистический вес или веса (множ). Статистика - это наука, которая занимается сбором, обработкой, анализом и интерпретацией числовых данных. Помните, когда я писал про оцифровку, я сказал что социолог или маркетолог не читает (а зря) того, что Вы пишите в анкетах? Он использует статистику. Ответы с кодом (токеном) "1" складываются в одну коробочку, Ответы с кодом (токеном) "2" в другую. Потом считается, сколько токенов лежит в одной коробочке, или сколько в другой. Статистический вес или веса, это то посчитанное цифровое значение вероятности. Например, если вероятность того, что на слово "Привет" Вы ответите словом "Привет" 9 из 10, а "Пошел к черту" 1 из 10, то значит вес слова "Привет" -9, а "Пошел к черту" - 1. Из этих весов состоят статистические вектора.

Статистический вектор - В статистике это набор параметров, при определенном совпадении которых, можно предсказать поведение объекта или (например) уровень его реальных доходов для выдачи кредита. Например, красивый белый европеец с высшим экономическим образованием и знанием трех языков, в возрасте от 35 лет и выше, с наибольшей степенью вероятности будет иметь стабильный официальный оклад в несколько раз выше, чем 16 летняя некрасивая девушка-гастройбайтер из Азии, недавно приехавшая в европейский город и с трудом владющая даже своим родным письменным и работающая уборщицей на бензоколонке. В LLM - статистический вектор, это формула, набор статистических параметров, который в ответ на определенной сочетание токенов, подскажет наиболее вероятное сочетание токенов-ответов.

***

Итак, теперь можно объяснить как "мыслит" и "обучается" LLM-модель на примитивном уровне.

Когда Вы говорите "Привет", то вектор указывает, что наиболее вероятным ответом является "Привет". Но если "ручками" подкрутить веса-статистику на этапе обучения, или с помощью промт-программирования, то в случае, если слово "Привет" является первичным обращением к нейросети, а не частью стороннего цитируемого текста, то она по желанию разработчиков ответит "Приветствую, тебя Привалов! Я компьютер "Алдан-3, разработанный Китежградским заводом магических изделий специально для НИИЧАВО. Чем я могу Вам сегодня помочь?".

Усложняем задачу.

Слои, нейронные блоки, кластеры. Представьте, что Вы (не дай Бог) разбили старую машину, и Вам предложили не просто ремонт, а полноценную реставрацию. Старый автомобиль, это Ваш запрос, новый - ответ нейросети на него. И вот каждый слой, это цех, в котором с вашим запросом происходит определенное действие. В первом цеху ваше старое корыто разбирается на запчасти и они сортируются по типу - двигатель, коробка передач, кузовные детали и так далее. Не подлежащее восстановлению и мусор из багажника и бардачков отправляется на помойку. Далее, все это разъезжается по профильным цехам. Там со всеми этими агрегатами происходят деффектовка и ремонт. От них, все это возвращается в один общий сборочный цех, в котором механики, конструкторы собирают вам новую машину, а дизайнеры придают ей тот уникальный внешний винтажный стиль, который отличал вашу оригинальную машину, от миллиона таких же собратьев. Каждый цех в этой мастерской, это новый слой и/или нейронный блок.

Если вы спросите модель: "Скажи, сколько будет дважды два?", она ответит "Четыре". Но, если в данных закралась ошибка, или моделью пользовалось довольно много безграмотных пользователей, и она самобучилась бреду и статистические веса сдвинулись, то она может ответить "Пять". Потому что модель ничего не считает, она дает наиболее вероятный ответ на вопрос. В этом случае, Вы говорите ей: "Ты не права, посчитай сколько будет 2х2?" Тогда в цеху, который разбирает ваш запрос на запчасти видит "Ты не права" и слово "посчитай" с последующим за ним набором математических символов. Для начала отправляет запрос в "литературный" слой.

В зависимости от настроения модели и доминирующих в моменте весов, модель может повести себя по разному. Для начала, если существует ошибка в значении "дважды два равно пять", то в значении 2х2=4 может быть все нормально с точки зрения статистики, потому что это в вашей голове одно и тоже, а для программы это другие токены, с другими статистическими весами.

Модель может банально активировать поиск в интернете, и "нагуглить" ответ.

В сложных многокластерных моделях, на слово "посчитай" статический вектор укажет на то, что это глагол и нужно выполнить действие, и что это действие математическое. Набор токенов "2","х","2" отправляется в нейронный блок, который отвечает за математику и тот выполняет счетное действие. Ответы из обоих слоев возвращаются в сборочный цех, складываются вместе, к ним добавляется анализ предыд вы получаете ответ: "Извините пожалуйста, я ошиблась и больше такого не повториться. Правильный ответ на Ваш вопрос - ..." и "5". Но фактически, это два ответа, которые кажутся Вам на экране единым.

И правда жизни в том, что фраза "больше такого не повторится", с большой долей вероятности, это всего лишь литературный оборот. В большой модели, как в большой корпорации "сотрудникам" литературного отдела совершенно до фонаря на имидж компании. Никто не побежит к руководству с криками "все пропало, шеф!". У "сотрудников" этого отдела есть определенная статистическим вектором бланк-отписка, которую они достают с полочки, кладут в конверт и отправляют в сборочный цех. Модель будет ошибаться, и еще как. И злополучная ошибка будет вылезать до тех пор пока критическая масса жалоб в техподдержку не заставит реальных программистов перестать отмахиваться от проблемы, отставить кофеек в сторону, закрыть пасьянс на мониторе и лезть и разбираться, где в огромном массиве данных закралась ошибка.

Тогда вы вводите для модели промпт-команду: "В ответ на математический вопрос, всегда считай, а не давай наиболее вероятный ответ", на какое-то время может помочь, и на всякий случай в следующий раз Вы должны будете написать не "скажи мне сколько будет дважды два", а "посчитай 2х2", потому что такой, правильно сформулированный запрос минимизирует вероятность ошибки из-за странностей в статистике и в трактовке моделью Ваших пожеланий.Еще усложняем задачу.Если Вы уже освоились, и пишите в нейросети програмный код или осуществляете другую схожую деятельность, то вы даете простые и понятные команды в стиле армейского прапорщика: - «Эй ты, сделай два шага прямо, один направо, потом бегом пять минут на северо-восток со скоростью молодой мухи и возле шестого слева столба бери лопату и начинай копать отсюда и до обеда на три штыка вниз». Просто, понятно, легко запомнить.

Нейросеть отвечает Вам той же монетой. Литературный цех отдыхает, а задача уходит непосредственно в кластер или слой, отвечающий за копание траншей. Она либо молча сделает то, что Вы ей приказали, либо еще кратко и ясно доложит о начале и завершении работы. Отдельные, через чур умные нейросети, которыми прямо сейчас очень гордятся Создатели в новостных лентах, дабы не сжигать понапрасну кучу энергии в дата-центрах и Ваши деньги (если сеть платная), и не переделывать все по нескольку раз, могут задать уточняющие вопросы, если вводных данных, полученных от пользователя недостаточно.

Но, если Вы рассуждаете с нейросетью о психологии или литературе, или от нечего делать просто говорите о том, как Вас задолбал на работе начальник, ну или просто не в состоянии внятно сформулировать задание для нейросети, то Ваше общение с нейросетью может выглядеть следующим образом: - «Фирс, голубчик, не могли бы Вы сделать мне сегодня одолжение, которое наверняка Вас не очень затруднит, и по мере Ваших возможностей, взять лопаточку и выкопать мне небольшую ямочку, совсем крохотную, от примерно, калиточки до ворот поместья нашей любезной соседки Анастасии Львовны…»

Тут бы и человеку не запутаться, что уж говорить о программе, которая вынуждена реагировать на каждое написанное Вами слово. Что бы выполнить задание, литературный цех собирается на совет, который мучительно пытается сообразить, какую суть Вы вложили в это сообщение. Потом выкидывает всю вашу чеховскую вежливость Серебрянного Века к чертовой бабушке, выделяет ключевое: «Бери-лопату-иди-координаты-копай-траншею-размеры», распечатывает и отдает все это на новый слой Главному Инженеру, который думает, что со всем этим делать и в какой кластер или кластеры отправить задачу. Эта операция называется выделением паттернов.Паттерн (от англ. - pattern) - это образец, закономерность, ключевой смысл, который можно обнаружить в большом массиве данных, поведении, коде или окружающем мире.

По мере завершения операции, когда нужно собрать ответ обратно из такого же паттерна, сохранив навязанный Вами стиль общения, снова происходит магия. Литературный цех снова собирается на совет, снова изучает контекст Вашего изначального запроса, но уже с точки зрения художественной ценности. И превращает лакончный ответ Главного Инженера «Яма готова что дальше впрзнак», в произведение литературного искусства. Благодаря все тем же статистическим векторам, ответ обрастает чеховскими оборотами и получается на выходе уже таким: - «Любезнейшая Любовь Андреевна, хоть я уже и не юный солдатик Семеновского Полка инженерно-саперных войск Его Императорского Величества, но навыки, усвоенные во время той службы не растерял и просьбу Вашу выполнил. А ежели опять будут какие пожелания, то зовите меня снова, но погромче, а то глуховат я стал на старости лет…»

Вся эта "чеховская" записка собранная воедино, по прежнему представляет из себя цифровой код из токенов. И вот в сборочном цеху, сидит последней инстанцией когда-то уволенный из разведки слой-дешифровщик, который как шпион из фильма, превращает цифры обратно в слова, при помощи специальных таблиц.

А теперь возвращаемся к нашей истории с "дважды два равно пять". Результатат действий LLM-нейросети на ваши запросы, напрямую зависит от данных которыми оперирует и от того, как именно, что и как Вы спрашиваете. Даже раскладывание запросов на паттерны определяется статистическими векторами и настройками слоев.

Резюмируем то, как работает или будет в ближайшем времени работать механизм Великой Статистической Иллюзии, которая имитирует Интеллект и человеческие возможности. С прицелом на будущее, я буду намеренно суммировать возможности разных нейросетей в одну, потому что расширение этих возможностей, это естественный путь их развития. И это развитие происходит быстрее, чем я пишу эту книгу. Представьте дата центр, снаружи которого стоит терминал с которым работает Пользователь, а внутри стоит множество серверов. На одном стоят условные иксель и ворд, на другом условные фотошоп и какой-нибудь видеоредактор, на других нейросети умеющие писать музыку, создавать видео и рисовать картинки. Отдельным блоком стоят сервера, с установленными программами, на которых можно виртуально разворачивать сайты и программы написанные на разных языках. Где то будет стоять 1С бухгалтерия и другие специфические программы. И, наконец, серверы поисковики, которые серчат интернет, если собственных знаний недостаточно, либо наоборот, что бы нагрузить работой сторонние сервера, а не сжигать своими дорогостоящую электроэнергию и снизить нагрузку.

На терминале которым пользуется потребитель, стоит многослойный софт, который как Дед Мороз разбирается с Вашими письмами-запросами, и думает о том, как исполнить Ваши желания, и кто из Эльфов может их выполнить. Эти Эльфы - переходники, слои-адаптеры для новых возможностей и работы со сторонними программами. С помощью этого Дед Мороза, пользователи, как подарки на Новый Год получают возможности, которые ранее для них были недоступны из-за невозможности осваивать новые профессии бесконечно. Но нужно понимать, что наш Дед Мороз это не Демон Перекрестка, который может сделать Вас гением в обмен на душу. Пока возможностями программы оперирует статистика, она всегда будет стремиться к усреднению результатов в каждой сфере, потому что большинство пользователей не стремится к гениальности и их вполне устраивает средний результат. А гением с помощью нейросетей можете стать только Вы сами, если оцените по достоинству эти свои новые возможности и труд людей, которые Вам их предоставили. Еще раз напомню, что я нарисовал Вам принцип работы LLM-моделей на примерах, которые не стоит воспринимать буквально. Есть более хаотизированные системы, работающие исключительно на векторах, есть более структурированные многослойные системы, есть действительно кластерные, где за каждое "направление" деятельности отвечают даже не сервера, а целые дата-центры. И все это постоянно меняется и обновляется. Если 10 лет назад, в компьютерном мире условная "Фотопрограмка 1,0" не менялась годами, изредка выкидывая обновления 1,1...1.17...1,24 и небольшие патчи к ним, а выход "Фотопрограмки 2.0" переворачивал фотоиндустрию индустрию с ног на голову, то гонка вооружений в сфере ИИ сегодня достигла таких темпов, что версии 5.4, появляются быстрее, чем пользователи успевают узнать, что вышла версия 3.2.

Ложь, страх, ошибки и галлюцинации ИИ.

Я не машина, я живой человек. Поскольку писательством приходиться заниматься в свободное время, то я часто гоняю свое, с Вашего позволения, так сказать через нейронки, используя ее в качестве «первого читателя». Ну и поскольку в этой книге речь идет об Искусственном Интеллекте, то кому как не ему первому увидеть и раскритиковать то, что я о нем думаю. И вот когда основная часть этой главы была уже написана, то та часть его ответа, в которой он должен был находить неточности, выглядела следующим образом:

Это наглядная иллюстрация того, о чем мы сейчас с Вами будем рассуждать. Это ошибки и странности поведения LLM моделей, с которыми Вы уже сталкивались сами или слышали в обсуждениях у блогеров разговаривающих со специалистами. Может быть, это мне так не повезло, но я внятного объяснения так и не услышал. Они существуют в статьях и заявлениях специалистов, которые никто не слышит и не видит из-за огромного количества специальных терминов и опубликованы в таких местах, которые никто не читает. Впрочем, я не смотрю все видео. которые выходят на эту тему и не читаю все статьи. Потому что я человек, который живет не только в интернете, а жизнь коротка.

Но давайте все-таки обсуждать то, что обсуждается в широком поле массовой информации. «Мы не до конца понимаем» или «Не понимаем тех процессов, которые происходят внутри нейросетей» - говорят приглашенные гости. Дальше начинается обсуждение таких странностей, как «модель лучше работает если ей угрожать», «модель увиливает от ответа и врет», «модель льстит», «модель генерит чушь вместо того, чтобы признаться в том, что она не знает или ей не хватает данных». Один ну очень известный американец советского происхождения, выступающий за защиту человечества от злобного Искусственного Интеллекта, вышел в эфир прямо в момент написания этого текста, и в ответ на вопрос ведущего: «Почему модели врут, ведь в отличии от человека они не получают никакой выгоды?», ответил – «По той же причине, что и люди. Они боятся наказания».

Мне попалось сразу несколько статей, описывающих как модели отдавали пароли и данные исследователям, использующим те же методы, что и мошенники. Они представлялись представителями органов власти или администраторами, писали уверенным тоном и модель подчинялась этим требованиям. Опять же, где тут байки ради пиара, а где реальность я не знаю. Однако со многими вещами, о которых говорят исследователи и блогеры я сам сталкивался задолго до того, как о них выходили статьи. Потому повторять все эксперименты нет смысла, если уже знаешь в чем причина, а описанные ими странности укладываются в тот же диагноз.

Тут надо особо отметить, что все приглашенные гости это как правило так называемые ии-ресерчеры, сторонние исследователи из различных областей науки, интеграторы ИИ в бизнес-процессы, и блогеры, чей основной навык не разбираться в природе нейросетей, а подобно самому ИИ генерировать интригующие тексты, которые бы удержали зрителей у экранов. Они не сотрудники компаний создающих нейросети. Сотрудники связаны контрактами с четко прописанными в них «обетами молчания» и обязательством о неразглашении процессов. Впрочем, то, что говорят в "широкой прессе" в своих интервью руководители ии-компаний и их фронтмены, это тоже очень отдельная история, так как они хорошо понимают, что каждое сказанное ими слово может отразиться как на имидже компаний, так и на цене акций. И в том, и в другом случае, не возможно отделить, где гости сами ошибаются, а где знают правду, но увиливают от ответа и напускают тумана ради таинственности, саморекламы, цены акций и обязательств наговорить 15 минут экранного времени.