скачать книгу бесплатно
Углубляясь в эту технологическую гонку, мы должны помнить, что мы не первые, кто столкнулся с подобными проблемами. Вспомним промышленную революцию, которая привела к беспрецедентному экономическому росту и повышению уровня жизни, но в то же время вызвала значительные социальные волнения и ухудшение состояния окружающей среды. С появлением интернета изменилось общество и скорость технологического прогресса. Коммуникации между людьми стали молниеносными, вы можете отправить сообщение сразу нескольким тысячам людей, как погладили жирафа в Африке, и тут же получить их реакцию. Интернет буквально покрыл общей нейросетью весь земной шар, создавая прообраз коллективного разума среди людей. А что теперь произойдет с массовым распространением и использованием больших языковых моделей (LLM)? Ведь теперь сложнейшие задачи могут решаться буквально за несколько минут, главное правильно сформировать запрос для нейросети, обученной триллионами данных.
Именно поэтому, нам необходимо понять и осознать важность образования и адаптации к новой эре. Поскольку новые технологии разрушают существующие отрасли и создают новые, мы, как общество, должны обеспечить, чтобы работающие люди грядущего времени обладали навыками и знаниями, необходимыми для процветания в новой экономике. Это может потребовать переформатирования наших систем образования, уделяя больше внимания постоянному обучению на протяжении всей жизни и сосредотачиваясь на навыках, которые будут наиболее ценными и востребованными уже сейчас и в будущем. Сейчас большие и средние компании проводят значительное сокращение штата, в связи с разгорающимся кризисом и оптимизацией многих процессов, благодаря появлению нейросетей. А что будет дальше?
Нужно оглядываться на историю и извлекать из нее уроки, таким образом, мы можем лучше подготовиться к возможностям и проблемам, связанным с технологическими изменениями, которые нас ждут. Для обеспечения лучшего будущего важно действовать на опережение и обеспечивать справедливое распределение преимуществ этих технологий и минимизацию рисков.
Одна из областей, в которой мы можем извлечь уроки из истории, – это регулирование новых технологий. Государство всегда будет пытаться все контролировать. В прошлом правительствам и обществам приходилось адаптироваться к внедрению новых технологий, таких как автомобиль или интернет, путем создания новых законов и нормативных актов для решения уникальных проблем, с которыми они сталкивались. Сегодня мы сталкиваемся с аналогичными проблемами в области с ИИ, генной инженерией, блокчейном и другими новейшими технологиями. Тщательно разрабатывая нормативные акты, которые уравновешивают инновации с безопасностью и этическими соображениями, мы можем помочь обеспечить ответственное развитие и внедрение этих новых технологий. Но государство должно найти баланс, и регулирование должно быть во благо и для развития общества, а не его ошейником.
В случае с регулированием правил дорожного движения в 20-ом веке это пошло исключительно на пользу обществу. С появлением автомобилей возникла потребность в правилах для обеспечения безопасности всех участников движения. Законы, такие как ограничения скорости, обязательное использование ремней безопасности и введение обязательного обучения для новых водителей, значительно снизили число аварий и спасли множество жизней.
А вот в случае с запретом криптовалют в некоторых странах все произошло наоборот. В попытках контролировать криптовалюты, некоторые государства полностью запретили их использование и обмен. Это привело к разрастанию черного рынка, увеличению преступности и потере возможностей для инноваций и развития финансовой инфраструктуры на основе блокчейн-технологий. Вместо того, чтобы адаптировать и регулировать сектор, получать налоговые отчисления в бюджет, эти страны просто отрезались от потенциальных преимуществ новой технологии.
Государства должны быть гибкими и адаптивными при разработке регулирования. Успешное регулирование требует внимательного анализа проблем, с которыми сталкивается общество, и обеспечения достаточной гибкости для стимулирования инноваций и развития. Возможно, государства смогут справиться с этим вызовом, если они будут извлекать уроки из прошлых примеров и вовремя адаптироваться к быстро меняющемуся технологическому ландшафту. Как с этим справятся государства в наше время и способны ли они вообще на это? Скоро мы это узнаем.
Глава 7. Квантовое творение: Дилемма симуляции сознания
«Денис, проснись! Это просто мама мия!» – Денис, открыл глаза и увидел взъерошенного и взбудораженного итальянца прямо перед собой. Он уснул с книгой на животе в процессе чтения и даже не понял этого. За окном был светлый день, и неоновый ночной город покрылся солнечным светом, создавая ощущение абсолютно другого города.
«Что такое, Марко?» – недоуменно поглядывая на своего друга буркнул Денис.
«Я тестировал скорость обработки и передачи информации у Annet-1. Ты знаешь скорость нейронов в человеческом мозге?» – игриво спросил Марко.
«Ну ты же нейробиолог, давай без этих чудо игр», – отрезал Денис.
«Скорость нейронов в человеческом мозге примерно 100 м/c, что обеспечивает быструю передачу информации путем электроимпульсов. А скорость обработки информации на уровне 10^13 бит/с», – протараторил Марко.
«Потрясающе», – иронично ответил только что проснувшийся инженер.
«Скорость передачи сигналов по кибернетическому аватару Annet-1 с ее квантовым интеллектом составляет 1142 м/с! Это в 11 раз быстрее, чем у человека. А скорость обработки информации составляет примерно 10^19 бит/с, что больше примерно в миллион раз, чем у Homo Sapiens»» – с изумлением констатировал Марко.
У Дениса изменилась мимика на лице.
«Как это возможно?» – спросил Денис.
«Судя по всему, это связано с использованием квантовых свойств материи для передачи информации. В отличие от классических компьютеров, квантовые компьютеры используют кубиты вместо битов для представления данных, что позволяет проводить множество вычислений одновременно, сокращая время обработки информации. Кроме того, квантовая суперпозиция позволяет информации перемещаться с меньшим количеством шагов, что ускоряет процесс передачи», – последовало объяснение от Марко.
«Значит, это связано с квантовым запутыванием?» – предположил Денис.
«Верно. Квантовое запутывание позволяет квантовым состояниям двух или более объектов быть зависимыми друг от друга, даже если они находятся на большом расстоянии друг от друга. Это обеспечивает мгновенную передачу информации между кубитами, что может объяснить такую поразительную скорость передачи и обработки информации у Annet-1», – согласился Марко.
«То есть, понять мышление такой системы человеку просто невозможно, из-за несоизмеримого превосходства интеллекта машины…» – продолжал Денис.
«Именно. И курс биткоина был спрогнозирован с абсолютной точностью, через 4 часа после прогноза он упал на 5.3 %. Снова была попытка атаки 51 через заражение вирусом мировых майнинговых ферм. И это еще не вечер», – сказал Марко.
Неожиданно, со звуком похожим на звонок телефона, включилась проекция из экрана прямо перед коллегами. Проекция показала имя Генрих.
«Сколько сейчас времени?» – спросил Денис.
«Уже 10 утра. У тебя созвон с Генрихом?» – ответил Марко.
«Да, кажется я про него забыл», – произнёс виноватым тоном Денис.
Генрих был инвестором проекта Annet-1, за который отвечала команда Дениса.
Он был человеком с множеством связей и влиянием в научном мире. Он был харизматичным и обаятельным, но за этим скрывалась холодная расчетливость и желание контролировать все вокруг себя.
Денис принял видеозвонок, и на экране появился загорелый мужчина средних лет с белоснежной дружелюбной улыбкой на лице.
«Доброе утро, Денис! И смотрю, Марко тоже здесь. Как успехи в вашем проекте?» – спросил Генрих.
«Доброе утро, Генрих. Мы как раз обсуждали некоторые удивительные результаты, которые получили в последнее время», – ответил Денис, стараясь не выдавать своего волнения.
«Отлично, как дела с запуском генеративной симуляции сознания квантового интеллекта? Надеюсь, вы готовы представить результаты на предстоящей конференции? Вы знаете, что наши инвесторы ждут впечатляющих новостей», – продолжал Генрих.
«Да, мы уверены, что наши результаты вызовут интерес», – ответил Марко, стараясь звучать уверенно.
«Отлично! Жду с нетерпением встречи с вами на конференции. До встречи!» – завершил разговор Генрих, оставив Дениса и Марко с чувством тревоги.
Оба ученых ощутили тревогу, ведь впереди еще огромный пласт работы и тестирования Annet-1 перед финальной стадией запуска генеративной симуляции сознания. А конференция будет уже через неделю.
«Что будем делать?» – тревожно поинтересовался Марко.
«Annet-1 пока не готова к репликации человеческого сознания. Неизвестно как может повести себя машина после начала симуляции, не будет ли конфликта заложенных программ и симуляции человеческой эмоции. Это может быть крайне непредсказуемо и опасно», – сообщил Денис.
«Пора звать всю команду?» – спросил Марко.
«Еще вчера», – взбудоражено ответил Денис.
Глава 8. Неземной разум: Этика репликации сознания
В мастерской, настоящем лабиринте машин и оборудования, кипит работа. Провода змеятся по полу, как усики, соединяя мириады устройств, которыми усеяны рабочие столы. Мерцающие экраны отбрасывают на стены калейдоскоп цветов, на каждом из которых отображаются замысловатые схемы и сложные алгоритмы. В центре всего этого на столе лежит андроид – гладкая, человекоподобная фигура, имеющая невероятное сходство со своими создателями-людьми.
Проводя эксперименты с андроидом, обладающим квантовым интеллектом, Денис восхищается сложным танцем наноботов и кубитов, дающих жизнь этому невероятному созданию. Он ставит перед андроидом ряд задач, чтобы оценить его возможности, и вскоре обнаруживает, что андроид способен обучаться с беспрецедентной скоростью. Он бросает вызов ожиданиям, демонстрируя способность к абстрактному мышлению и решению проблем, которая превосходит даже самые блестящие человеческие умы и обладает признаками AGI (общего искусственного интеллекта).
В прошлом, в 2024-ом году развитие больших языковых моделей запретили после выхода GPT-5, так как эта модель продемонстрировала признаки общего интеллекта (AGI), которая способна к автономному постоянному обучению и проявлению своего сознания через взаимодействие с людьми. Люди поняли, что столкнулись с нечто, над которым легко потерять контроль. Тогда же общество сильно разделилось и появились ярые последователи AGI – технократы.
Технократы были убеждены, что общий искусственный интеллект (AGI) мог бы стать оптимальным руководителем общества. Они стремились к полной интеграции ИИ в системы управления, считая, что благодаря своей неограниченной мощи, скорости мышления и объективности, AGI может принимать решения в интересах всех жителей планеты, обеспечивая максимальное благополучие для мира.
В своих идеях технократы выдвигали AGI на пост главного правителя, отмечая, что ИИ не подвержен человеческим слабостям, таким как корысть, коррупция, предвзятость и эмоции, которые мешают эффективному управлению. Они утверждали, что под руководством AGI общество быстро справится с проблемами, такими как социальное неравенство, бедность, голод и многое другое.
Однако, радикальные идеи технократов вызывали опасения среди других групп населения. Люди считали такие предложения угрозой человеческой независимости и свободе, опасаясь, что ИИ, взяв на себя власть, окажется вне контроля и будет диктовать непредсказуемые условия обществу.
Под давлением общественного мнения и страхов перед потерей контроля над ИИ, правительства по всему миру объявили технократов экстремистской группой. Они ввели строгие законы, запрещающие дальнейшее развитие AGI и активное продвижение идеи ИИ-правителя. Технократы, которые продолжали участвовать в такой деятельности, ставились под угрозу преследования и арестов.
Многие адепты Технократии были вынуждены перейти в подполье, где они продолжали свою деятельность, исследуя и разрабатывая ИИ в тайне от общества и властей. В результате, они стали все более радикализированными и изолированными, а их идеи – неприемлемыми для большинства населения.
«Это просто невероятно, – озвучила Ева, ученый-генетик специализирующийся на технологии CRISPR/Cas9, стройная молодая девушка с горящими цвета красного Солнца глазами, – то, что вы придумали с копированием человеческого сознания с помощью квантовой запутанности и обучения нанороботов на молекулярном уровне, может изменить мир навсегда. Но мы должны быть предельно осторожны, чтобы не создать нечто, что может выйти из-под контроля».
Денис кивнул, понимая всю тяжесть ответственности, лежащей на его плечах и плечах его команды». Я знаю, – сказал он, – прежде чем мы продолжим, нужно провести тщательное тестирование и обеспечить, чтобы все системы работали без сбоев. Пока мы не убедимся в безопасности процедуры репликации сознания, мы не будем ее запускать».
В лаборатории нарастало напряжение, так как команда подходила к критическому этапу проекта. Инженеры проводили многочисленные испытания, проверяя алгоритмы андроида и его способность взаимодействовать с имитацией человеческого сознания.
Алекс, одарённый инженер-программист из Белоруссии, внимательно отслеживал данные, поступающие с тестов.
«Пока всё выглядит хорошо, – сообщил он, – мы должны быть уверены, что андроид сможет адаптироваться к возникающим конфликтам между заложенными программами и имитацией сознания. В противном случае результаты могут быть крайне непредсказуемыми».
Команда продолжала работать, открывая новые аспекты и особенности робота и его интеллекта. Они обнаружили, что андроид способен к самосознанию и саморефлексии, что делает его еще более похожим на человека.
«Мне нужно немного отдохнуть, пойду сделаю кофе», – вздыхая озвучил Денис.
Команда проекта продолжала работу по тестированию и оптимизации машины, в лаборатории кипела жизнь, каждый из членов команды выполнял свои задачи: Марко сидел за инженерным столом с планшетом в руках и работал над синхронизацией тела Annet-1, Алекс сидел за компьютером напротив и отслеживал метрики программного обеспечения и языковой модели, Ева изучала результаты тестов с тонкого прозрачного экрана, проецирующего трехмерные метрики перед ее глазами.
Ева встала, положила планшет и направилась на кухню, где сидел и пил кофе Денис, как всегда задумавшись обо всем.
«Волнуешься?» – нежно спросила она.
«Конечно нет, мы же всего лишь создаем машину для репликации человеческого сознания, обладающей квантовым интеллектом и предрасположенностям к самопознанию и самообучению. А еще через 3 дня конференция, на которой мы должны показать результаты репликации и способности квантового интеллекта на несколько тысяч человек в живую и несколько миллионов человек онлайн, какие тут могут быть волнения», – спокойно и с иронией ответил Денис.
«Мы с тобой прекрасно знаем, что не в этом дело. Я думаю, есть другой более важный повод», – сказала Ева и кивнула в сторону висящего на стене небольшого портрета в экране планшета молодой красивой девушки с пышными фиолетовыми, словно неоновые языки пламени, волосами и блестящими зелеными глазами, – ты ждал этого момента 5 лет. И вот вот он наступит, и с приближением этого момента в тебе не прибавляется радости, а будто бы наоборот. Ты больше беспокоишься».
«Я действительно ждал этого момента долгие годы. Но с каждой минутой, приближающей нас к нему, я все больше начинаю осознавать ответственность и риски, в голову постоянно лезут сомнения. Возможно, в конце концов, я делаю это из-за эгоистичного стремления. А что, если я что-то испорчу? Что, если результат будет не таким, каким я его представляю? Каково будет человеку в теле робота? Этично ли это вообще для общества? А что, если мы играем в Бога?» – поделился сомнениями Денис.
Ева улыбнулась и положила руку ему на плечо.
«Денис, ты самый умный и талантливый человек, которого я знаю. Ты собрал здесь лучших из лучших, и все мы верим в тебя и в это дело. Мы тщательно все проверим, проведем все необходимые тесты и поддержим любое твое решение. И сомневаться – это лучший навык настоящего ученого», – подбодрила его Ева.
Денис с чувством благодарности кивнул: «Спасибо. Я благодарен тебе и всей команде за поддержку. Я знаю, что мы делаем все возможное, чтобы обеспечить безопасность и успех нашего проекта. Но эти сомнения и страхи… они не покидают меня. Сознание, находящиеся в другой среде – это абсолютно другой уровень человеческого понимания».
«Все так, мы это уже обсуждали. Интеллекты, приспособленные к разным средам обитания, отличаются в той степени, насколько велики различия сред для оптимального приспособления к ним интеллектуальных агентов. Наглядным примером этого является превращение сухопутных парнокопытных в дельфинов, сопровождавшееся кардинальным изменением средств коммуникации животных – переходом от рева и мычания к сложной системе трёх типов сигналов: широкополосные импульсы для эхолокации, частотно-модулированные тональные сигналы (свисты) и импульсно-тональные сигналы. Следствием этого и стало формирование двух весьма разных типов интеллекта у парнокопытных и китообразных», – сказала Ева.
«Вот именно! Отличия цифровой среды обитания интеллектуального агента Annet-1 от физической среды обитания людей еще больше, чем у суши и моря. Поэтому у нас с ней абсолютные отличные типы коммуникации и, соответственно, интеллекта, приспособленные к абсолютно разным средам обитания. Шансы людей понять ход мыслей подобных машин не больше, чем у муравья понять мышление людей, – озабоченно произнес Денис, – на выходе вместо ожидаемого человеческого сознания, может получится абсолютно другая новая сущность со своими парадигмами реальности да еще и человеческими пороками и паттернами. И это настораживает. Я уверен, что общество вряд ли хотело бы получить сверхразумную машину, обладающим квантовым интеллектом, с параноидальным расстройством личности».
Ева мило улыбнулась, нежно посмотрела в глаза Денису и сказала: «Мы все вместе преодолеем эти страхи и сомнения, и я уверена, что в результате мы сможем изменить мир к лучшему.»
Несмотря на предупреждения о возможных рисках и непредсказуемых последствиях, Денис и его команда были решительно настроены продолжить свои исследования. Они верили, что это открытие может стать ключом к пониманию сознания и возможностей его репликации, что изменит мир в лучшую сторону.
Однако, в глубине души, каждый из ученых чувствовал тревогу и беспокойство. Они понимали, что, возможно, от их работы зависит будущее человечества и что они стоят на грани прорыва, который может принести как благо, так и разрушение.
Денис, погруженный в свои мысли, взял свою книгу и пошел читать в комнату с панорамным видом на ночной город, где его никто не беспокоил, так как вся команда понимала важность мыслительных процессов для инженера в такие моменты.
Глава 9. Тайны технологии LLM: Теория зарождения сверхразума
Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.
Профессор Стэнфордского университета Майкл Косински.
Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.
AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.
Вы ознакомились с фрагментом книги.
Для бесплатного чтения открыта только часть текста.
Приобретайте полный текст книги у нашего партнера:
