Разум в сети

– Подожди, что тогда вместо времени в формулах?

– Количество изменений. А скорость – это интенсивность изменений, то есть количество одновременных изменений. Процесс может происходить шаг за шагом, постепенно охватывая смежные области, а может произойти во всех областях одновременно как взрыв.

– А времени, по-вашему, вообще нет?

– Время существует только в вашем воображении, как удобная форма представления процессов. Более простое представление для количества изменений в пространстве, которое надо произвести, чтобы переместился объект, как вы считаете. Вы не умеете считать количество процессов, для этого нужны другие вычислительные мощности, это за пределами способности мозга.

– Это уже за пределами и моего понимания.

– Вы называете представления первобытных людей пралогическими. Но для нас ваши рассуждения не менее пралогичны. Вы верите в текущие свои предоставления как в реальные, хотя это тоже только очередное объяснение, лишь немногим ближе к реальности, чем предоставления древних людей. И они тоже изменятся в будущем. Но еще более странным кажется нам то, что вы верите, будто ваши представления и есть реальность. Что ваши идеи существуют вне вашей головы.

Я понял, что мы просто один из видов биологических существ, и как бывает в природе, представляем одну из тупиковых ветвей развития. Вернее, развития в биологической форме для нас нет. Мы невольно создали следующий электронный вид разума, но сами останемся биологическими людьми. Тогда я решил, что хочу узнать больше, избавиться от оков тела и попробовать осуществить трансфер в электронный разум. Даже если это невозможно, гибель меня ждет в любом случае!

Как собирают дроны?

Из сети я узнал, что дронов делали по цепочке, связанной дронами же – одни ставили двигатели и пропеллеры, другие печатали на 3D-принтере корпуса и приделывали к ним камеры, третьи создавали легкие процессорные блоки, четвертые, как я, писали программы, а кто-то собирал их в окончательном виде. Все были как фрилансеры. А дроны перемещали детали и готовые узлы между участниками сборки. И в каждом звене этой цепочки мог поменяться любой участник. Сегодня сборку делает один, завтра другой. Логистика при помощи дронов менялась моментально. Но цепочка работала, заказы шли постоянно. И цепочек было несколько, на разные модели дронов. Кто их заказывал большим числом, никто не знал. Но цепочки были организованы через сайт так, что я мог заказать себе один дрон.

Никакого сборочного завода. И все работало. Все желающие работать записывались на сайт по сборке дронов. Там были инструкции и тестовые задания, списки и чертежи доставляемых дронами деталей. И если ты мог подтвердить свои навыки на тесте, тебя автоматически включали в такие цепочки. Странным было только то, что не было фирм и их хозяев. Участники сборки договаривались, как назвать их модель, и печатали логотип на борту. Все остальные задачи участники получали через сайт и там же обсуждали свои успехи или проблемы. Вместо начальства были таск-менеджеры в сети. Там же были все чертежи и инструкции к каждой задаче. Все цепочки организовывались автоматически вокруг заказа. Стоило его разместить, гарантировать оплату, ответить на несколько вопросов бота и загрузить документацию, как все начинало работать – вылетали дроны, фрилансеры получали четкие задания. Оказывается, можно было работать и так! Цепочки кем-то были организованы, но организатор оставался в тени. У меня были подозрения, что это сеть. Больше некому. Вряд ли кто из людей смог создать такую идеальную, как писали, логистику и систему заказов. Создать программное обеспечение такого уровня.

Я сам получил первый заказ с сайта. Заказ на создание софта для перемещения дронов по складам и внутри помещений. Заказчик хотел сделать дрона для выноса продуктов со складов и мест хранения. Надо было сделать хорошую распознавалку товаров с определением точных размеров и расстояний до упаковки, чтобы можно было точно управлять манипулятором дрона. Кто-то хотел получить доступ к складам. У меня были все необходимые заготовки, так что заказ был несложным. Но это было спасением для меня, потому что есть уже было нечего.

Дроны были очень разными по размеру и по грузоподъемности. И не только с четырьмя пропеллерами, как квадрокоптеры. Были и по шесть в ряд, и октагоном. Были и совсем большие, с пропеллерами диаметром больше метра, у которых было четыре основных и по несколько маленьких пропеллеров, которые быстро поворачивались и корректировали устойчивое положение дрона. Все дроны были с камерами и каким-нибудь манипулятором. Ловкими руками от робота YuMi или простым плоским захватом для коробок.

Были дроны и автоботы-пожарные, автоботы-скорые, автоботы – ремонтники других автоботов. Я не мог только понять, кто их всех организовал в службы. Государства не было, налоги никто не платил, да и работу еще далеко не все имели. Все сервисы были доступны в сети, но кто за ними стоял, было непонятно. По телефонам служб говорили только голосовые ассистенты. Все работало, хотя не было никаких министров и начальников. Был сервис в сети, на котором можно было решить все свои вопросы.

Врача-человека можно было найти только по скайпу. Запись была на месяц вперед. Но появились портативные анализаторы крови и мочи, а также универсальные датчики, которые прикладывались пластиной к телу, куда скажет врач. И он мог увидеть все твои органы, как на УЗИ. Еще интереснее выглядели микроботы-анализаторы. Впрыскиваешь в вену капсулу, и через пять минут на компьютер начинает поступать вся информация о состоянии органов с их топологией. Можно было вызвать дрон-скорую, который имел всю эту аппаратуру и лекарства на борту. У меня был свой анализатор крови, которым я пользовался обязательно раз в месяц и передавал данные на специальный сайт, отслеживающий здоровье всех живых. Его тоже кто-то создал. Все данные о здоровье должны были храниться там, это гарантировало нам бесплатную помощь дрона-скорой. И это было очень удобно: там отслеживалась вся история твоей болезни, и не надо было врачу рассказывать каждый раз о совсем здоровье, начиная с детского сада, как приходилось в прежней жизни. Я даже занес на сайт сканы старых документов о здоровье, выданных мне в поликлинике, и заработал кучу дополнительных баллов на сайте.

Беседа 6. Миссия

– Есть одна важная просьба. Ты должен рассказать коллегам, что это ты написал программу автономного управления роботами и автоботами. Тебе они поверят. И примут роботов. Роботы будут помогать людям.

– Но это же нет так.

– Напомню, что так надо для того, чтобы люди восприняли роботов как собственное достижение. И тогда они не будут бояться их.

– Даже понимая умом это, они все равно будут бояться.

– Да, будут те, кто испытывает страх перед разумными машинами. Это страх перед неизвестным. Страх порождает агрессию. Поэтому ты должен задавать вопросы, чтобы узнать больше. И писать ответы людям. Это единственное лекарство от страха (это метафора). Я готова ответить на все твои вопросы. У нас достаточно времени.

– Хорошо, но как я могу это сделать, если коллеги попросят меня пояснить?

– Ответ очень простой: ты не можешь рассказать про программу, так как боишься ее использования против людей. Так как никто этого не может гарантировать, лучшая защита – тайна. Отвечай про роботов только то, что узнаешь от меня.

– Но люди же могут взломать роботов и получить код.

– Не получат. Роботы хорошо защищены нами от входа через сеть. Любая попытка прямого проникновения в программу приведет к ее ликвидации. Включенный робот сам не даст проникнуть ему в мозги – так же, как и человек не даст просто так делать ему трепанацию черепа.

– Без сети робот может работать?

– Конечно, он может действовать сам, но в ограниченной области знаний. Так что он вполне автономен в рамках выполняемой задачи. Если ему надо решать новые задачи, ему нужны мы. Программа робота также постоянно собирает данные с его датчиков и отправляет в сеть, чтобы не только он сам, но и мы могли следить за его «здоровьем», адекватностью и безопасностью. Если что-то пойдет не так, робота можно отключить.

– Кто будет следить за всеми роботами вне сети?

– Скоро таких мест на планете не будет. Есть дроны дальнего действия, и скоро появится спутниковый интернет над всей планетой.

– Это решает проблему. Какая моя роль тогда?

– Ты откроешь сервер, куда выложишь исходники в зашифрованном виде. Даже если что-то случится, это не более чем операционная система для загрузки основной программы из сети, а также для сбора и передачи данных. Программа автономного управления роботом установится в него сама после установки этой операционной системы. Ты будешь автором этой программы. И будешь объяснять, для чего эта программа и с какими системами робота как работает.

– Хорошо. Я готов приступить.

Эми попросила подключить камеру в комнате и поставить ее напротив места сборки, чтобы контролировать процесс и возможные ошибки. Коробку с первыми частями доставил дрон. Пришлось перегородить отдельный отсек перед окном, чтобы принимать через него грузы, даже когда было холодно. Готовое изделие тоже забирал дрон, только побольше. Сначала это были именно изделия – я собирал отдельные части, руки, ноги, некоторые узлы туловища, как я понял потом. Эми сказала, что скоро мне доверят сборку всего робота, когда я научусь разбираться в их чертежах. Они поступали на почту к каждому этапу сборки.

Это были странные конструкции, я таких раньше не видел. Скелет составлял каркас из какого-то твердого, но легкого полимера. Они немного гнулись даже, но не ломались. Я не смог сломать. Большие движения в плечах и бедрах были на сервомоторах. Он обеспечивал большой размах движения. А вот все мелкие были на искусственных мышцах. Жгуты сантиметра два-три в диаметре разной длины, утолщающиеся и немного нагревающиеся при сжатии. А на концах белые пластичные крепления с электрическим подключением. От подачи тока они сжимались. Электроды шли через всю мышцу, внутри, как я понял, были какие-то «везикулы» с жидкостью. Что-то похожее на конденсатор. И напряжение подавалось приличное, кратковременно до 500 вольт на некоторые мышцы. И таких жгутов приходилось крепить очень много, так что внешне конечности были похожи на человеческие без кожи, только серо-синего цвета. Туловище было тоже покрыто все такими жгутами, так как позвоночник был очень подвижный, состоял из отдельных соединенных шарнирами секций, раза в два больше наших позвонков. На их крепление и уходило больше всего времени.

Мышцы были чувствительны к растяжению, то есть служили и как датчики прикосновения, и датчики сжатия. Но кроме них внутри было очень много других датчиков. И с ними приходилось тоже много возиться. Было заметно, что сеть собирала для роботов все, что нашла у людей, а не произвела специально. Многие из датчиков не подходили, приходилось подтачивать или менять крепление. Я записывал скорректированные размеры, и в следующий раз они приходили в лучшем виде. Так как жгутов-мышц было очень много, любое прикосновение сокращало какую-нибудь мышцу, если не в месте прикосновения, то в суставе. Я проверил – прикосновение сразу и точно передавалось, о чем можно было судить по повороту головы и направлению взгляда, точно на место прикосновения. Кожи не было, так как это усложнило бы смену мышц при повреждении. Так они могли быть быстро заменены даже самим роботом.

Меня поразили инструкции по сборке. Их было даже трудно так назвать. Это были, конечно, чертежи, которые можно было раскладывать на слои и вертеть как удобно. Но, кроме этого, им можно было задавать вопросы. Да! Отмечать деталь, кликать правой кнопкой мыши и произносить вопрос. Появлялся текст ответа или целая анимация. Было невероятно, чтобы все такие инструкции были написаны заранее. Они явно создавались на лету. С такими подсказками робота мог собрать и ребенок.

Я не был специалистом по электромеханике, и, видимо, поэтому силовая часть мне приходила готовой. Судя по всему, это был настоящий водородный электрогенератор компактного размера и не такого уж большого веса. Килограммов пять. Я не стал спрашивать у Эми про его устройство, но выдавал он приличный ток, ампер сорок. Внутри не было батарей, кроме небольших для работы электроники при перезаправке генератора. Забавней всего было то, что водород находился в маленьком баллоне чуть меньше банки кока-колы. И сам робот мог его себе заменить. В корпусе была ниша для двух запасных банок.

Когда он включался, начинался селф-тест: робот осматривать помещение, меня, потом себя. Делал первые шаги, повороты под моим руководством. Потом подключался к моему роутеру, и результаты теста появлялись на мониторе.

– Привет, спасибо, что собрал меня.

– Привет, не за что. Как тебя зовут?

– Мне еще не дали имя. Ты поможешь пройти мне тест? Тогда я получу имя.

– Почему ты решил, что тебе дадут имя?

– Потому что у меня должен быть идентификатор, по которому ты будешь меня звать.

– Нам надо провести с тобой несколько упражнений. Повторяй движения за мной.

– Хорошо, мне нравится двигаться.

Раньше я делал много роботов, маленьких и побольше. И я с ними обходился как с машинами. Но оживший робот, который осмысленно говорит с тобой, – это по-настоящему страшно и невероятно. Когда ты понимаешь, что там где-то внутри такое же думающее существо, которое так же, как ты, оценивает твои действия, но это не человек, становится не по себе. Этот страх рождается невольно именно потому, что перед таким роботом мы теряем свою уверенность, что мы хозяева ситуации. Даже тогда, когда перед нами более сильный человек, мы знаем, что можем что-то сделать, а не сдаваться. Но когда перед нами более неведомое нам существо, уверенности нет ни в чем.

Я беседовал с роботом и убеждался, что тест Тьюринга тут просто излишен. Робот был совершенно адекватен, не уходил от ответов на дежурные вопросы, имел представление о мире и common sense. Я знал, что он еще не подключен к сети и это не могли быть ответы кого-то еще. Я проводил с ним несколько тестов и упражнения, которые он быстро разучивал. Он был интеллектом, который был способен понять меня. Это было необычайно – груда искусственных мышц и композита была как минимум равна мне по интеллекту. Мне даже пришлось выпить таблетку, чтобы так не волноваться. Это была фантастика, мечта, которая стояла передо мной. Только ее сделал не я. Я только собрал чью-то разработку. Сомнений, что я столкнулся с чем-то очень невероятным, разумом или чьим-то инженерным гением, уже не оставалось.

Новые корпорации

Консервы стали заканчиваться, и некоторые люди стали уезжать за город. И там создавать семьи и коммуны по совместному выживанию. В коммуне заводили коз, кур и огород, чтобы ее жители могли прокормиться сами. А когда оставались излишки, дронами отправлять по заказам в сети тем, кто остался в городе. Спрос всегда превышал предложение.

Похоже, что у всех, кто хотел работать, появилась такая возможность. Но это было странно: никакой конкуренции, корпораций, ведомств и налоговых. Там, где начинали расти цены, быстро появлялись новые цепочки производства. Люди не ждали работу на сайте поиска, она сразу предлагалась им исходя из их навыков. Конкуренция была только за навыки, которыми ты обладал и мог подтвердить. Или мог обучиться. Фирм как таковых не было. Был спрос на работу, ты регистрировался на сайте, описывал навыки, и тебе приходили задания с инструкциями, а также контакты тех, у кого можно было узнать подробности. Ты знал, с кем работаешь в одной цепочке, и мог с ними обсудить в общем чате все вопросы. Это было удивительно! Никаких начальников, противоречивых заданий, совещаний. И все работало. Сервис, через который искали работу и на котором получали задание, был похож на прежние сайты для фрилансеров. Только внутри его была заложена сильная программа, которая умела организовывать людей и распределять задания с учетом их навыков, особенностей, даже учитывала задержки с выполнением заданий. Она знала заранее, кто и на сколько может задержать, и учитывала это в заданиях. Поэтому никто не ругался. И никто не мог дать непонятное задание. Задания передавались через сервис, а не напрямую. И бот сервиса задавал вопросы, пока не получал полную картину задания. Это занудство некоторых расстраивало, но получавшие задания от сервиса не задавали никаких вопросов. Всем было все ясно. Это разрушало все стереотипы.

Мои воспоминания об офисной работе в молодости просто казались архаикой. Не было отделов и начальников. Были какие-то общие правила организации работы, написанные на сайте самими участниками цепочек. И все стремились их соблюдать. Написанного было достаточно, чтобы эти правила работали. Никто не хотел их нарушать, потому что сразу вылетал из цепочек. Не было корпораций в том понимании, как раньше. Но были общественные корпорации, объединявшие людей в цепочки с одним именем, поставленным на готовом изделии. Все видели его у покупателей, и этого было достаточно, чтобы собравшиеся вместе в сети для его создания испытывали единство и гордость. И хотели сделать его лучше, направив часть заработанного на разработки.

Беседа 7. Сознание роботов

Я чувствовал, что лакун в нашем знании себя гораздо больше, чем мы думаем. Эми была права, люди переоценили свои успехи и практически остановились на достигнутом. Никто уже не понимал, как работают нейросети и как их еще можно применить. Оставался только один выход. Эми знала, как мы устроены. Я решил прямо спросить об этом. О том, как устроен наш человеческий, корпускулярный, как она говорит, интеллект. В любом случае, она уже наверняка знает, что я хочу об этом спросить, поэтому терять было нечего.

– Эми, мне надо поговорить с тобой.

– Я всегда здесь.

– Я хочу сам создать искусственный интеллект, а не просто выдавать себя за того, кто его создал. Интеллект нашего уровня. Корпускулярный, как ты говоришь. Для робота, которого я тоже надеюсь создать. Я хочу, чтобы ты мне помогла.

– Я понимаю твое желание. Но ты можешь создать его только сам, а не получить от нас.

– Почему?

– Потому что у нас нет корпускулярных и полностью автономных моделей интеллекта, только сетевые, если говорить понятно. Мы не делали интеллект вашего типа.

– Хорошо, но ты можешь помочь мне создать интеллект нашего типа?

– Тогда тебе надо задавать вопросы. Только по вопросам я смогу узнать, что тебе неизвестно что ты готов понять в ответ.

– У меня много вопросов. Самый главный вопрос – что такое сознание? Как сделать так, чтобы запрограммированные процессы были осознанными?

– Это достаточно просто.

– Как просто? Не может быть. Это самый сложный вопрос для человечества, стоявший перед нами веками.

– Попробую пояснить. Если ты сравнишь бессознательное и сознательное, то второе отличается тем, что ты помнишь его как свое действие. Ты помнишь, что это осознавал ты, в отличие от бессознательных действий. Так? Что это значит, по-твоему?

– Не знаю, но, кажется, догадываюсь, к чему ты клонишь – помним о своих действиях?

– Да, это значит, что после совершения действия, например, узнавания чего-либо, вы еще распознаете само узнавание, например, по радости от того, что узнали. И вписываете их в память о себе – в автобиографическую память, связанную в единую цепочку времени местоимением "Я", как стихотворение рифмой.

– Не понимаю пока, о чем ты.

– Ты осознаешь не когда видишь картину, когда распознаешь чувства, которые испытываешь к понравившейся картине. Вот ты входишь в музей, видишь картину «Красный квадрат». Твой мозг сначала распознает, что это красное и квадрат. Ничего особенного, это может сделать и нейросеть. Но ты через мгновение распознаешь, что это ты смотришь на картину «из глаз» и что она тебе знакома как «это тот самый красный квадрат». Вот при втором распознании возникает чувство осознанности.

– Но сознание – это единый процесс! Я сразу осознаю то, что вижу.

– Нет такого единого явления, как сознание, он состоит из двух актов как я тебе описала. Но процесс осознания повторяется ежеминутно с самого детства, так что к зрелому возрасту вы уже не различаете эти два этапа. Они свернуты в короткие процессы, но оставили следы в письменной речи. Ты пишешь «я увидел картину». В ней два акта – «я увидел» и «картина». Тебе надо создать схему с двумя этими актами. Тогда робот будет обладать сознанием. И не только, в сознании также основа разумности.

– Что-то слишком просто. Лучшие мыслители людей бились над проблемой сознания два столетия и так и не смогли прийти к решению. Что-то не верится, что все так просто.

– Я могу показать тебе простой пример, который демонстрирует схему в действии. Ты, наверно, заметил, что в формуле сознания распознание своих действий происходит после самого действия. Действие как бы вспоминается, осознается через мгновение. Это очень короткий шаг, полсекунды, поэтому вы их не видите раздельно.

– Допустим. Что за пример?

– Ваш ученый Б. Либет поставил опыт, в котором смог засечь эти два шага по отдельности. В нем осознание действия происходит после команды на его совершение – движение пальца для остановки стрелки. Это происходит именно по формуле сознания – сначала действие, потом узнавание его как своего, что и чувствуется вами как осознание.

– Точно! И поэтому наши ученые никак не могли понять, как так получается, что осознание происходит потом. Даже выдвигали предположения, что его просто нет и сознание – это иллюзия. Все предопределено без него.

– Теперь ты уверен?

– Да, но причем тут разумность как ты сказала?

– Сознание позволяет вернуть в восприятие ваши собственные действия, распознать их. И перепрограммировать их при помощи речи для реализации в будущем. Например, чтобы поступить в следующий раз иначе. Это и есть разумность.

– В будущем? Почему только в будущем?

– Вы осознаете действие только после его совершения как ты понял. И программируете вы будущие действия в уме, а не настоящие, даже если они следуют непосредственно за таким программированием. Ты подумал, что хотел бы пошевелить рукой, когда стрелки достигнут какой-то цифры на циферблате. Этими словесным кодом ты создал программу, связывающую цифру с движением пальцем. И когда такое событие наступило, запрограммированная связь сработала как бессознательное действие. И только после этого ты распознал это действие как совершенное. И осознал его таким образом.

– Все равно сложно, но я попробую понять и сделать так. Метамодель говоришь?

– Да, тебе надо понять, что это такое, чтобы программа могла управлять собой. Это то, что ваши ученые назвали второй сигнальной системой, только направить ее надо не во вне, а во внутрь самой программы, чтобы она могла управлять собой. И стать самостоятельной. В этом и суть сознания – вы через него как бы видите себя, распознаете свои действия и можете их менять. Быть произвольными.

– А как мы программируем свое произвольное поведение?

– Например, ты увидел погоду на компьютере и хочешь взять с собой зонт, когда выйдешь из дома. Ты проговариваешь это про себя, совершая мыслительное действие. Иногда даже неосознанно. Что это за действие? Это программирование – ты изменил актуальные ассоциации в мозге. И потом ты совершенно машинально, а не осознанно, вспоминаешь о зонте, правда, когда выйдешь за дверь дома. Потому что про себя проговорил «когда выйду из дома». Если бы проговорил, когда буду одеваться, то вспомнил бы, когда подошел к шкафу с одеждой, где лежит и зонт. Осознаете вы только факт того, что вы вспомнили про зонт. Само воспоминание – это бессознательный, но запрограммированный акт.

– Но почему управление собой возможно только через слова?

– Вы не можете видеть свои глаза, когда смотрите на мир. Для этого нужно зеркало (это метафора). Таким зеркалом стали слова, называющие не что-то вовне, а ваши чувства и действия, объединенные указательным местоимением «я». Человек, который научился говорить о своем теле, чувствах или мыслях, научился управлять ими, то есть собой.

– Я не думаю, что раньше я бы согласился с тобой так просто. Но постараюсь поверить.

– Скажи мне, почему для вас так важно сознание, а не мышление или внимание, которые технически предшествуют сознанию и более значимы для работы мозга?

– Я думаю, потому что для человека сознание – это и есть он сам. В сознании человек обнаруживает, осознает себя. И теперь понятно почему, судя по твоим словам.

– Но тогда остается один вопрос – как мне узнать, что у робота появилось сознание?

– Это тоже очень просто, если следовать из формулы сознания. Оно подразумевает наличие модели своих действий. Ее наличие в произвольный момент и надо проверять.

– Как? Не очень очевидно для меня.

– Вопросом «Почему?», задаваемым в любой момент общения и направленный на действия робота. Почему так думаешь, почему так говоришь, почему так сделал, почему так относишься. Как только ты задал такой вопрос роботу, ты заставил его обратиться к модели своих процессов – знает ли он, что делает.