Контуры философии социальных инфекций: кибернетизация, виртуализация

Даже сравнительно недавно искусственный интеллект подразумевали рациональный анализ и воспроизведение при помощи компьютеров большинства аспектов интеллекта, так как он значительно превышают когнитивные способности человека в большинстве областей. Между тем, именно это заставляет опасаться некоторых этических рисков. Это риски трех видов: во-первых, дефицит работы, которая вместо людей будет выполняться машинами; во-вторых, последствия для независимости человека и, в частности, для его свободы и безопасности; в-третьих, опасения, что более «умные» машины будут доминировать над людьми и станут причиной гибели человечества. Однако при ближайшем рассмотрении становится очевидно, что работа для людей не пропадает, а трансформируется, требуя новых навыков. Точно так же независимость человеческой личности и ее свобода не подвергаются неминуемой опасности из-за развития искусственного интеллекта – при условии, однако, что человек остается бдительными перед лицом вторжения технологий в частную жизнь. В середине девяностых годов прошлого столетия мною (Ашимов И.А.) была выдвинута «Концепция запасных частей в хирургии», но осмыслить то, что в качестве запасных частей когда-либо станет и головной мозг мне представлялась в то время далеко не очевидной. На самом деле и сегодня далеко не просто осмыслить многие теоретические конструкты фантастической, по сути, сенсационной технологии создания интерфейса искусственного интеллекта плюс «мозг в контейнере». Представьте себе, изолированный мозг человека помещают в специальный контейнер с питательной средой. Каким-то образом налаживают тесную связь его с искусственным интеллектом, то есть создают интерфейс искусственного и естественного интеллекта («мозг плюс компьютер»). В результате искусной стимуляции определенной группы нейронов «мозга в контейнере» создается виртуальный мир, воспринимаемый изолированным мозгом уже «погибшего» человека, в качестве реального. Таким образом, виртуализированная личность находится в матрице, представляющая собой сон, в котором как будто бы он, то есть «мозг в контейнере» или иначе «аватар», находится, но сам того не осознавая. Интерфейс искусственного интеллекта плюс изолированного мозга создает для «аватара» иллюзию жизни в «реальном мире». Так или иначе, в любой момент времени виртуализированная личность, это чей мозг помещен в контейнер и сохраняет там свою интеллектуальную деятельность, не может быть уверен, что спит или бодрствует в реальном мире.

Естественно, вышеприведенная технология начисто отрицает идею о том, что в противоположность некоторым утверждениям, машины не несут в себе экзистенциального риска для человечества, поскольку их автономия носит лишь технический характер и в этом смысле не соответствует цепочкам материальной причинности, идущим от информации к принятию решений. Многие разработчики пока теряются в иллюзиях о том, что изолированный интерфейс искусственного интеллекта с человеческим мозгом не самостоятелен в моральном плане, и потому, даже если иногда они сбивают нас с толку и вводят в заблуждение своими действиями, они все же не обладают собственной волей и подчиняются тем целям, которые мы перед ними ставим. В романе «Аватар» речь идет об интерфейсе искусственного интеллекта и изолированного человеческого мозга, как о «новом сознании» с потенциалом решения и некоторых морально-этических вопросов. Отсюда, понятно, что искусственный интеллект содержит в какой-то мере сознание, которое не локализуется в физическом теле. Но при этом нужно понимать, если мы признаем, что сети, в которые, к примеру, я включен, и которые вместе со мной осуществляют мыслительные процессы, – это часть моего расширенного сознания, то рассматривать меня, мое эго как действующего субъекта уже не так просто. То есть уже непонятно, кто здесь действует – я действую, или сеть действует мной. Ключевая проблема, которая возникает, это не столько проблема замены сознания человека мыслящей технологической сетью, сколько проблема доказательства того, что человек плюс искусственный интеллект – это лучше, чем просто искусственный интеллект. Где тогда находится человек? Этот мозг – это система каких-то его вычислений? Что тогда останется от человека, что есть «я»? Мозг – это последняя надежда тех, кто хочет локализовать сознание на каком-то очень и очень надежном материальном носителе. Это ныне главная метафора для человеческого эго. В этих условиях мозг оказывается, как бы внешним, мы проводим некоторую границу между нами и нашим мозгом. Мы говорим: наш мозг влияет на нас. Но если мозг влияет на нас, значит, мы – это что-то другое? Мой мозг – это «Я». Мозг служит идентификационным признаком «Я». Вот мы – человечество и мечтаем о создании интерфейса «мозг плюс суперкомпьютер».

Однако, к сожалению, пока еще с трудом понимаем не только, где будет «мозг в контейнере», то есть «я» «аватара» и где будет искусственный интеллект, но и какими будут результаты такого интерфейса – «мозг плюс искусственный интеллект»? В этом случае, однозначно, при «мозге в контейнере» физическое тело отсутствует, а это полная свобода для мыслительной деятельности мозга. Но здесь есть над чем задуматься: мозг человека, интегрированный в общемировую компьютерную сеть искусственного интеллекта, станет уязвим для потенциальных вирусов, которые смогут превратить «мозг в компьютере» в психопата. Если искусственный интеллект будет у него обучаться, то прогнозы будут плачевными. В целом, нужно признать, что интеллектуальное развитие человечества достигло своего апогея, что стать умнее у человека уже не получится, что носителем мыслительной деятельности могут быть оцифрованные устройства. Вот и в романе «Аватар» Джозеф говорит о том, что процесс развития человечества идет не в сторону изменения и улучшений качеств каждого отдельного человека, не а в сторону простого увеличения объема памяти и новых способов изучения информации из памяти. – «Мы на правильном пути. Наша цель – создать надежный интерфейс искусственного интеллекта плюс «мозга в контейнере». Речь идет не о рядовом нейропротезировании, не о поиске надежных носителей оцифрованных мыслей, а о создании или иначе генерации «нового сознания».

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.