Библиотека Робинзона

Но, к сожалению, наш ум не приспособлен «для оценок динамических последствий в тех случаях, когда части системы взаимодействуют друг с другом». Человек формирует структуру, собирая воедино разрозненные куски информации и объединяя их в систему. Качество модели «определяется лежащей в ее основе теорией. Лучшей машинной моделью является та, в которой содержится больше существенных черт социальной системы, чем мы обычно можем себе представить». А затем в дело вступает компьютер, который справляется с моделированием такого рода гораздо лучше, чем любой из людей. Так мы используем великую силу человеческого интеллекта и устраняем его величайшую слабость («неспособность оценить все динамические последствия даже при правильном подборе системных предпосылок»).

«Мир-1» построен на концепции, что все изменения в системе определяются «петлями обратных связей», то есть замкнутыми цепочками взаимодействия, связывающими исходное действие с результатом, изменяющим характеристики окружающих условий, которые, в свою очередь, вызывают дальнейшие изменения. Например, «состояние усталости вызывает изменение длительности времени, уделяемого сну, и новая степень усталости изменят в дальнейшем время сна». Все процессы роста и стабилизации, считает автор, генерируются петлями обратных связей. В таких системах фигурируют два типа переменных: уровни (накопители системы) и темпы (потоки, вызывающие изменение уровней). Уровни полностью описывают состояние системы в каждый момент времени. Изменение уровней вызывается соответствующими темпами потоков.

В модели Форрестера взаимоувязаны «население, капиталовложения (фонды), географическое пространство, природные ресурсы, загрязнение и производство продуктов питания. Этими основными компонентами и их взаимодействиями, по-видимому, обусловливается динамика изменений в мировой системе». Рост населения связан с индустриализацией и усилением загрязнения, и этот рост со временем «наталкивается на пределы, налагаемые природой». Рост, казавшийся бесконечным, вдруг прерывается. По мере приближения к барьеру силы роста падают, а силы торможения возрастают. Пытаясь справиться с одной из них, люди только стимулируют остальные проявляться еще сильнее…

Скажем, в США постоянно обостряется дефицит пахотной земли для производства продуктов питания. Однако «исчезновение сельскохозяйственных угодий маскируется растущей продуктивностью единицы площади за счет механизации, ирригации, применения пестицидов и селекции новых сортов. Но это не может продолжаться бесконечно». В моменте США борются не с этим дефицитом, а с профицитом сельскохозяйственного производства, пытаясь пристроить на мировом рынке излишки производства своих фермеров. Такие действия могут привести к тому, что «переориентировать силы роста в форму долгосрочного равновесия уже поздно».

Ограничение роста может наступить в результате действия разных сил и факторов. «Наука, вероятно, найдет более удачные способы использования… металлов и увеличения источников энергии, с тем чтобы избежать истощения ресурсов… Рост снова станет возможным до тех пор, пока в системе не возрастут воздействия» других сил, например загрязнения. В итоге «отдельный успех в технологии (ослабляющий нашу зависимость от природных ресурсов), предохраняя нас от одного удара судьбы, может сделать жертвой другого (катастрофы вследствие загрязнения)». В целом рост народонаселения и развитие индустриальной системы не беспредельны. Вопрос не в том, прекратится ли он, а в том, когда и как он прекратится.

Более того, Форрестер приходит к выводу, что «в рамках общепринятых решений экономических и социальных проблем… не существует долгосрочных решений. Если мир не сможет прийти к состоянию устойчивого равновесия, то решение надо искать в других направлениях». Выработка лучших стратегий потребует «таких самоограничений и целеустремленности в долгосрочной перспективе, которые человек может оказаться не в состоянии проявить». Речь идет о переходе от роста к равновесию, что резко противоречит базовым ценностям капиталистической цивилизации. Чтобы стало лучше, сначала должно стать хуже: так серьезность положения дойдет до всех и побудит людей изменить привычные ценности и стратегии. К сожалению, в итоге будет потеряно много времени, так что ситуация к моменту осознания ее серьезности станет еще хуже.

Автор признает, что созданная им модель «Мир-1» несовершенна, но призывает работать над более глубоким пониманием природы социальных систем. Такой прогресс вполне возможен – при условии достаточности прилагаемых усилий. Именно моделирование, пусть и несовершенное, позволяет работать с разнородными накопленными данными, вместо того чтобы фокусироваться только на более полном и эффективном сборе таких данных. Ведь без хорошей модели и ценность собранных данных невелика, и подход к сбору новых данных не будет особо эффективным.

Главный вклад Форрестера в развитие знаний человечества о самом себе состоит именно в эффективном использовании методов точных наук для изучения процессов социальной эволюции. Наладив обработку и представление данных с тем, чтобы формировать количественные оценки социальной эволюции, он дал нам возможность с определенной (не слишком высокой, впрочем) достоверностью предсказать тенденции таких процессов, причем в масштабе всей планеты. И в этом важнейшем деле, несмотря на все провалы своих прогнозов (а они практически ни в чем не сбылись, по крайней мере на сегодняшний день), – он был и останется первым.

Вернор ВинджСингулярность

М.: ACT, 2022

Великий американский фантаст Вернор Виндж считается одним из авторов пророчества о сингулярности. В своей статье 1993 г. он предсказал, что между 2005 и 2030 гг. «эра человека закончится». Это произойдет в связи с тем, что имеющиеся технические средства наконец позволят создать настоящий сверхчеловеческий интеллект. Такая перемена, по его мнению, будет сравнима по масштабу и значению с появлением человечества на Земле. Путей к этой точке, которую он называет сингулярностью, может быть несколько: развитие компьютеров; более продвинутое взаимодействие человека и компьютера; стремительный качественный рост человеческо-компьютерных сетей; наконец, прорывное развитие биологической науки. Результатом сингулярности станет то, что «прогресс, подхлестнутый интеллектом сильнее человеческого, пойдет намного быстрее». Предыдущий скачок в скорости прогресса был связан с появлением человечества, резко ускорившего весьма медленные темпы биологической эволюции. Следующий скачок обещает аналогичное, если не более существенное ускорение. Поэтому «события, которые, как считалось ранее, могли случиться где-то через миллион лет (если вообще могли), с большой вероятностью произойдут» уже в XXI веке.

Сингулярность – это момент, когда все прежние модели перестают работать и начинается в буквальном смысле новое время. Ее суть заключается не в изобилии технических новшеств, а в сверхчеловеческом характере. Если появится интеллектуальная машина, способная проектировать еще лучшие машины, все последующие изобретения и изменения станут плодом деятельности ее, а не человека. И, конечно же, она станет своим собственным орудием, а не орудием человека – точно так же, как люди руководствуются собственной волей, а не волей «кроликов, птиц или шимпанзе». Иными словами, подчинить ИИ своей воле человеку не удастся.

Здесь важно различать «слабый» и «сильный» ИИ: первый ничего не создает сам, он послушен человеку, второй же сам решает, что делать. Наступление сингулярности связано с появлением именно «сильного», а не «слабого» ИИ. Это означает, что постчеловеческое общество появится в эпоху не галактических, а всего лишь межпланетных империй, то есть гораздо раньше. Симптомами его приближения Виндж называет прогрессирующую автоматизацию труда, когда давний прогноз о наступлении эры технологической безработицы наконец начнет сбываться. Другой симптом – ускорение распространения новых идей. Подготовка займет много времени, но сам момент сингулярности подобен взрыву, а значит, произойдет очень быстро и неожиданно. Людям может показаться, что все созданные ими «предметы внезапно проснулись».

Власть компьютерного чудовища Франкенштейна, безусловно, пугает, и естественным образом возникает желание а) взять его под контроль или б) предотвратить его появление. Первое, по мнению фантаста, невозможно по определению, и не помогут никакие «законы робототехники» Айзека Азимова. Второе тоже не во власти человека: «Если технологическая сингулярность может случиться, то она случится», что бы ни предпринимали отдельные люди и правительства. Конкурентное преимущество любого прогресса в автоматизации – «настолько императивный фактор, что любые законы и обычаи, запрещающие подобные вещи, гарантируют лишь одно: это преимущество получит кто-то другой». Кстати, любые запреты и ограничения на свободу ИИ настолько снижают его эффективность, что конкуренция между людьми и государствами неизбежно будет провоцировать появление все более свободных (а значит, и опасных) моделей ИИ. Все ведет к тому, что либо нами – людьми – будет управлять сверхчеловеческий интеллект, либо мы ему вообще не понадобимся – и он или уничтожит нас, или встроит в свой мир в качестве подчиненных элементов (как мы в свое время одомашнили животных и заставили их жить и умирать по нашим правилам и для нашего, но не для их блага).

Если же создание сильного ИИ окажется технически невозможным, сингулярность может наступить другим путем – благодаря успехам в «усилении интеллекта». Прежде всего речь идет о более глубокой интеграции человека и компьютера, с одной стороны, и более широком распространении всевозможных человеко-компьютерных сетей (наподобие интернета). Такое будущее тоже сильно выходит за «классические рамки добра и зла», поскольку они основаны на «идее об изолированных неизменных умах, соединенных слабыми низкоскоростными связями». Поэтому прогнозирование и планирование такого будущего представляется Винджу бессмысленным: слишком уж оно будет отличаться от всего, что мы знаем и к чему привыкли. Эти занятия сохранят свое значение, только если момент сингулярности не наступит. Автор полагает, что сингулярность – наиболее вероятный сценарий развития человечества, но стоит рассмотреть и другие. Главных из них три, и наибольшую вероятность имеет сценарий «Взаимного гарантированного уничтожения». Речь идет о возвращении к реалиям холодной войны, когда человечество несколько десятилетий жило в напряженном ожидании своего скорого конца.

Что может отдалить или нейтрализовать вселенскую катастрофу? Появление многочисленного поколения «молодых (более или менее здоровых и дееспособных) стариков». Это может стать конкурентным преимуществом человечества, сравнимым по эффекту стем, что получало доисторическое племя, если каким-то образом ухитрялось сохранить живыми своих стариков и воспользоваться их мудростью и опытом. Так что спасение нашего рода может зависеть от успеха исследований в области продления человеческой жизни… Второй по вероятности реализации сценарий – «Колесо времени» – предполагает, что после глобальной катастрофы отдельные островки человечества сохранятся и за периодом длительного и глубокого упадка цивилизация возродится. Наилучший способ повысить его вероятность— создать самодостаточные внеземные поселения людей, а это потребует критического снижения стоимости вывода полезного груза на космическую орбиту (ау, Илон Маск!). Наконец, наименее вероятный сценарий называется «Золотой век» и исходит из пластичности человеческой психики и возможности быстрого (в течение одного поколения) изменения глобальных ценностей. Для этого потребуются «надежда, информация и общение».

Ричард УотсонФайлы будущего. История следующих 50 лет

М.:ЭКСМО, 2011

Австралийский философ и футуролог Ричард Уотсон размышляет над будущим уже давно. Книга, о которой пойдет речь, вышла еще до Великой рецессии 2008 г., а ее второе издание – уже после: прошло всего несколько лет, а изменения накопились, и автор успел дописать добавления к своим мыслям. Это дает хорошую возможность, с одной стороны, проследить развитие подхода Уотсона, оценить его готовность признать собственные ошибки, а с другой – поучиться у него искусству наблюдения за явлениями в развитии, что само по себе задача непростая. И мы можем сами попрактиковаться в этом искусстве, ведь с момента выхода второго издания книги прошло уже полтора десятилетия!

Еще одно достоинство работы – ее вариативность. Уотсон использует сценарный подход, не настаивая на единственно возможном варианте будущего. Как это работает? Возьмем для примера хотя бы сам кризис – Великую рецессию. Автор предполагает, что она может закончиться быстро, и тогда преподанные ею уроки быстро забудутся. Осторожность, умеренность, самоограничение будут отброшены, и мы вновь попадем в замкнутый круг потребительского капитализма – создавая самим себе и планете все больше проблем, решение которых будем искать в чудесах науки и техники.

Если же кризис затянется, станет возможным другой сценарий: более простая и скудная материально, но более насыщенная общением и размышлениями, а значит, и более счастливая жизнь. К ней мы пока не готовы, но вдруг? Скорее всего, для перехода на такие рельсы нам потребуется другой, гораздо более масштабный и катастрофичный кризис. Забегая вперед, можно сказать, что так все и произошло: Великая рецессия никого ничему не научила, как, впрочем, мало чему научила и последовавшие пандемия коронавируса и глобальная турбулентность.

Зачем же нужны разговоры о будущем? Уотсон откровенен: «Люди прежде всего ждут от вас пророчеств относительно новых изобретений и… исчезновения каких-то привычных всем, знакомых вещей. И чем более безумны ваши пророчества, чем лучше». Но есть ли смысл в таких пророчествах, кроме погони за славой и деньгами со стороны их автора? Возможно, с помощью прогнозов удобнее вести серьезный разговор о будущем, который поможет людям «критично взглянуть на некоторые свои стереотипы и обсудить направления дальнейшего развития общества». Таким образом, псевдопророчествами можно стимулировать дискуссию о новых рисках и новых перспективах человечества.

Книга Уотсона построена довольно удобно: каждой из важных сфер общественной жизни посвящена отдельная глава. Рассмотрим произвольно выбранную из них – например, будущее денег. Автор полагает, что к 2020 г. только 10 % мировых денег сохранят наличную форму, а к 2050 г. возникнет международная виртуальная валюта. Реальные офисы банков сократятся в числе, но не исчезнут вовсе, скорее они перенастроятся на вип-обслуживание крупных клиентов и больших сумм.

Сроки кредитов и ипотек сильно удлинятся по сравнению с нынешними, появятся не персональные, а семейные кредиты. Старшее поколение будет больше помогать финансами своим отпрыскам, а многие выросшие дети не будут покидать отчий дом, ибо снимать свой им будет не по карману. Новое поколение людей никогда не будет жить так хорошо, как предыдущее: оно попадет в ножницы между необходимостью платить за то, что раньше давалось бесплатно, и тенденцией к постоянному снижению зарплат из-за растущей международной конкуренции на рынке труда.

Покупать недвижимость будут все реже, зато арендовать – все чаще (экономика шеринга возникает не от хорошей жизни). Пенсионный возраст неизбежно возрастет, причем не из-за роста продолжительности жизни, а из-за снижения рождаемости и связанного с этим перераспределения населения в пользу более старших возрастов. В некоторых странах пенсии попросту отменят, и люди, как это было до конца XIX века, будут трудиться всю жизнь до смерти. Там же, где пенсии сохранятся, расцветут туризм и садоводство, ведь доля пенсионеров в населении резко вырастет.

Постоянная жизнь в долг, ставшая нормой на Западе, станет общемировым явлением. Персональные банкротства в такой ситуации будут частыми, и профессия банкира утратит общественное доверие. В целом суперкрупные банки потеряют свое положение, потребность в их посреднической роли постепенно будет сокращаться. Гораздо больше вероятности выжить у небольших местных финансовых организаций. Этому будет способствовать повсеместное распространение ИИ: мы привыкнем взаимодействовать с компьютерными, а не живыми финансовыми советниками и консультантами.

Свой путь в финансы проложат и сети супермаркетов, обладающие огромной клиентской базой и способные продавать людям не только товары и продукты, но и финансовые услуги. Такие компании, как Walmart, Apple, Microsoft и Google, со временем получат банковские лицензии. Вместо похода в банк клиенты будут совершать трансакции преимущественно через мобильный телефон. Произойдет мегаперсонализация финансов: каждый из нас будет получать рассчитываемый индивидуально под него кредитный и страховой процент, типовые тарифы уйдут в прошлое. В целом финансовая сфера станет на порядок разнообразнее, и место банков в ней будет уже не центральным. А ситуация, когда китайский банк предоставляет услуги жителю американской глубинки, ранее немыслимая, станет вполне типичной.

Как видим, за прошедшие полтора десятилетия многие из прогнозов Уотсона успели сбыться. А некоторые – еще/уже нет. Но в целом, учитывая эти результаты, автор представляется и вполне здравомыслящим, и креативным. А что еще нужно для хорошего футуролога? Наверное, знание человеческой природы, опыт наблюдения за ней и здоровый скептицизм. Все эти три качества автор демонстрирует в полной мере.

Уотсон убежден, что «темп жизни в мире будет нарастать и связь всего со всем будет становиться все более тесной, а в результате мы будем чувствовать себя все более одинокими и уязвимыми. Многие начнут превращать свои дома в убежища и крепости и вместе тосковать о прошлом… настоящее станет полем битвы между прошлым и будущим». В условиях появления «умных» машин продолжится «бесконечный спор о том, не становятся ли люди глупее (и не меняет ли техника человеческую природу)… Во всем остальном жизнь останется такой же, как и раньше»!

Ник МонфортБудущее. Принципы и практики созидания

M.:Strelka Press, 2021

Попытки предсказать будущее – удел многочисленных футурологов. Профессор Массачусетского технологического института Ник Монфорт считает, что такой путь – ложный. «Не надо пытаться его увидеть – надо самим написать его. Будущее нужно не предсказывать, а созидать». Это означает «рисовать будущее в подробностях, делиться этими образами с другими и разрабатывать конкретные инновации, которые станут деталями этого будущего. Выбрав такой путь, люди, сообщества и организации могут повлиять на то, что ждет нас всех впереди». Именно повлиять, ведь «если главное для нас – предсказать, что нас ждет, мы отказываемся от многих своих мечтаний и возможностей». Сейчас в широких кругах принята «реактивная» концепция будущего: согласно ей, следует прогнозировать будущее и разрабатывать свою реакцию на него. Монфорт предлагает альтернативу: ставить цели – и разрабатывать шаги по приближению к ним. Он считает, что только такой подход позволит изменить наше общество к лучшему.

Итак, в отличие от прогнозистов и футурологов, автор агитирует за «созидательный подход» к будущему и указывает, что уже сейчас его можно встретить в работах «писателей, художников, дизайнеров, изобретателей и других инноваторов». Яркий пример такого созидания дают американцы Ванневар Буш и Теодор Нельсон: они «не бредили смутными идеями, не проповедовали, а обеспечили планы развития сетевых информационных систем и помогли направить информационные технологии туда, где те оказались сегодня. Мы живем в их будущем». Когда-то в середине XX века они сделали то, без чего не возникает будущее: они вообразили его, описали и набросали план действий по его созданию. В долгосрочном отношении интернет и все его сервисы были бы невозможны без такого вклада, сделанного задолго до физического появления всемирной информационной сети.

Монфорт подчеркивает важность «инженерного» отношения к будущему: «Вместо того чтобы идти на ощупь с факелом свободы, пытаясь разглядеть что-то во тьме, нам предстоит строить самим и по своему выбору». Здесь много трудной работы, но есть место и воображению – ведь именно оно «может вдохновить нас на такое улучшение мира, на которое мы вряд ли бы решились, рассуждая последовательно и реалистично». Долгая история дерзких фантазий о будущем, отдельные эпизоды которой раскрываются в книге Монфорта, показывает, что такие фантазии со временем, при правильном подходе, становятся реальностью и радикально преображают наш мир. Что еще важно для правильного подхода? Избегать узкого технологического детерминизма. «Технологии, как и люди, их использующие, существуют в обществе, поэтому нужно представлять себе их социальную перспективу». Грубо говоря, самые прогрессивные материалы и технологии не помогут нам создать кухню в доме будущего, если хозяйку этой кухни мы будем представлять ровно такой же, какой она была в 1950-х годах. Кухне будущего нужен человек будущего!

Полезную роль в приближении будущего играют литературные и философские утопии, которые связно и красочно излагают радикально новый взгляд на то, каким может (должно) быть человеческое общество. При всей условности таких предсказаний они могут становиться мощной движущей силой общественных изменений, мотивировать людей искать и придумывать пути к идеальному обществу, изображенному фантастом или ученым. Даже если этот идеал или его отдельные элементы выглядят спорно, дискуссия об этом уже заставляет людей задумываться о будущем всерьез и побуждает их действовать так, чтобы обсуждаемая утопия стала (не стала) реальностью. Хороший пример дают итальянские футуристы начала XX века: сегодня их можно упрекнуть в расизме, мизогинии и даже фашизме, но они внесли огромный вклад в прогресс. «Даже футуристическая гипербола может быть инструментом в созидании будущего. В нужный момент она станет аргументом в пользу того, чтобы нажать не на газ, а на тормоз». Важно помнить, однако, что «радикальность и самобытность сами по себе не придают этим образам убедительности: они работают только тогда, когда они связаны с понятными реалиями и укладом общества, в котором мы живем сегодня».

Другой инструмент созидания – всемирные выставки, которые дали нам множество «мощных, сложноустроенных способов демонстрации образов будущего». Из них со временем «выросли на удивление сложные и многогранные модели будущего, с которыми можно было соглашаться или спорить. Они представляли идеи будущего более развернуто, чем отдельные не связанные между собой лозунги; они предлагали пути взаимодействия с будущим, которые подхватили многие мыслители». Возможно, самый известный пример такого рода – «Футурама», визионерское прозрение о будущей транспортной системе США, представленное компанией GM на Всемирной выставке 1939–1940 гг. в Нью-Йорке. Ее лично увидели 5 млн человек! Вывод автора: «Можно продуктивно думать о будущем, отталкиваясь от определенных материалов или технологий».

Итак, резюмирует Монфорт, «будущее еще не написано. Пока остаются пространство и время, чтобы вообразить его и осознанно стремиться к нему, активно работать над созданием новых социальных возможностей». И здесь на помощь приходят медиа, которые позволят лучше донести образ будущего до более широкой аудитории. Как учит нас история возникновения интернета, чтобы идеи будущего пустили глубокие корни, они должны быть открытыми для использования и распространения. «Возможно, лучшим форматом станет работающий образец некой системы, ее демоверсия или прототип. Но и художественное произведение, в котором представлена системная картина будущего, может оказаться действенным». Перенос картины будущего в «несуществующее место, в утопию, дает возможность критиковать современное общество и уйти в своих размышлениях с накатанной колеи. Однако независимо от того, куда занесло вас воображение, не пренебрегайте в своей картине общественной сферой, понятными ценностями и обыденными практиками, встраивая в них новые технологии».

Руслан ЮсуфовСценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами

М.: Бомбора,2025

Будущее уже не то, что прежде! Интерес к нему постоянно растет, а ясности с ним больше не становится… Значит, надо хотя бы попытаться сформулировать возможные сценарии будущего – а затем выбрать из них те, которые устраивают нас больше других, и вложиться в их реализацию! Ну или как минимум определиться, какие из сценариев не устраивают нас категорически, – и вложиться в усилия по их предотвращению… И здесь нам здорово поможет наш современник и соотечественник, футуролог Руслан Юсуфов, который уже в значительной степени проделал такую работу. Он выделил 14 пар сценариев будущего, позитивных и негативных, описал предпосылки их возникновения, прикинул главные вехи – и тем самым предоставил нам возможность сделать свой выбор. Что же за развилки ждут человеческую цивилизацию? Просто перечислим: