Повесть грядущих лет

Конечно, также возможно, что они кроются не в самом алгоритме, а в методе обучения.

Взглянем на то, как развивалось биологическое распознавание образов. Существа сталкивались с суровой средой обитания, на карту были поставлены жизнь и смерть. В естественном отборе побеждали те, кто умел ориентироваться в окружающем пространстве. Наиболее действенный способ идентификации передавался следующим поколениям через генетический код. Со временем биологическое распознавание образов достигло чрезвычайной эффективности. Но, пожалуйста, обратите внимание, что разные существа применяли разные стратегии. Наиболее очевидна разница между глазами, содержащими одну линзу, и фасеточными. Первые позволяют идентифицировать различные объекты во внешней среде, однако одни типы таких глаз чувствительны к цвету, другие – к форме; существа же с фасеточными глазами воспринимают движение через разницу в изображении между омматидиями, но они, вероятно, не до конца понимают форму объектов. Итак, в природе есть множество способов распознавания образов, но независимо от того, в чем они заключаются, они связаны со средой обитания и являются продуктом эволюции. Способность к биометрическому распознаванию должна развиться до соответствующего уровня, иначе вид не сможет выжить. Условно говоря, метод обучения искусственного интеллекта намного проще. Люди «скармливают» ИИ множество картинок, на основе которых он развивает конкретные алгоритмы распознавания. Однако, сколько бы фотографий ни пошло в дело, этот метод обучения не универсален – как только ситуация поменяется, интеллект может и не приспособиться. Таким образом, если искусственный интеллект должен адаптироваться к сложной среде, то необходимо обучать его именно в такой. А это требует времени и хорошего механизма отбора, который эксперты по искусственному интеллекту должны дополнительно исследовать.

То, о чем шла речь выше, касается только конкретных областей. Безграничные возможности искусственного интеллекта скрыты в более общих сценариях применения. Искусственный интеллект, которого с нетерпением ждут люди, – не просто машина, что может только слушать или только говорить. Настоящий искусственный интеллект должен обладать целым комплексом умений.

Будь то игра в го, распознавание лиц или речи – это все одно измерение. Нейронные сети, развившиеся в процессе обучения, могут выполнять только соответствующие функции, их нельзя сопоставить с человеческим мозгом. Реальный мир – сложный, и если мы тщательно разделим его, то, вероятно, сможем найти в нем десятки или даже сотни измерений. Точно так же на Олимпийских играх есть разделение на дисциплины: легкую атлетику, плавание, гимнастику и т. д. Несмотря на то, что мы называем все это видами спорта, для каждого необходима особенная физическая подготовка. Даже один вид можно разделить на подвиды – например, плавание, которое бывает на 3000 метров, 1500 метров и 800 метров…

Искусственный интеллект противостоит человеческому мозгу точно так же, как чемпион Олимпийских игр в конкретном виде спорта противостоит абсолютному чемпиону. Атлет, одержавший победу в одной дисциплине, может оказаться некомпетентен в другой, но человеческий мозг развивается равномерно во всех аспектах.

Изначально в этой «Умной Олимпиаде» человек побеждает в большинстве соревнований (некоторые живые существа также имеют преимущества, например, мозг орла выиграет первенство по зрению, а мозг многих животных более чувствителен к запахам), но все меняется. Нарды, шахматы, го… во всех игровых дисциплинах подобного порядка искусственный интеллект победил человека. По точности распознавания изображений и речи ИИ также во много раз превзошел нас.

Последнее, несомненно, указывает на то, что титул визуального чемпиона скоро будет принадлежать искусственному интеллекту. Используя самые большие телескопы для сбора огромных объемов информации и анализируя ее с помощью нейросетей, мы сможем увидеть звезды и планеты на расстоянии десятков миллиардов световых лет. Такое «зрение» намного превзойдет способности живых существ. Я верю, что передовые обсерватории скоро начнут применять искусственный интеллект для исследования звезд. Спутниковые системы также преобразятся благодаря ИИ. Возможность четко видеть лица людей с геоцентрической орбиты перестанет быть фантазией. Спутник будет различать нас так же ясно, как орел – кролика с высоты в несколько тысяч метров[3].

В настоящее время люди пока еще удерживают некоторые интеллектуальные высоты, такие как семантический анализ и дедукция. Однако такая ситуация продлится недолго. Эти способности часто являются результатом взаимодействия различных функций мозга. Ученые уже исследовали подобные связи между сетями искусственного интеллекта. Причина сложности человеческого мозга состоит в том, что он претерпел сотни миллионов лет эволюции и является системой из множества подсетей. Те же не только выполняют свои собственные функции, но и влияют друг на друга.

Простой взгляд на структуру человеческого мозга может показать историю эволюции. Согласно гипотезе «триединого мозга», его можно разделить на три части: мозг рептилии, мозг древнего млекопитающего и мозг современного млекопитающего. Эволюция мозга рептилий произошла 250 миллионов лет назад. Он контролирует основные жизненные процессы, такие как дыхание, сердцебиение, борьба, бегство, поиск пищи и размножение. Активность рептильного мозга обычно представляет собой реакцию на возбудитель: что-то увидеть, что-то услышать, а затем выдать определенную обратную связь. Мозг древних млекопитающих называется лимбической системой. Он может порождать различные эмоции, такие как страх или возбуждение. Эмоции – это синтез стрессовой активности мозга рептилий, уже более комплексная реакция. Отдел мозга современных млекопитающих, также известный как неокортекс или рациональный мозг, новая кора больших полушарий или новый мозг, контролирует продвинутые когнитивные функции, а также оказывает определенное тормозящее воздействие на два других отдела. Трехслойная структура человеческого мозга образовалась в ходе длительной эволюции. Процесс формирования мозга – это процесс постепенного интеллектуального роста. Три мозговые структуры в определенной степени независимы, но влияют друг на друга, в итоге образуя комплекс. Со временем он становится все более и более сложным, что приводит к зарождению самосознания.

Эволюция искусственного интеллекта, вероятно, пойдет по аналогичному пути – от простого к сложному, от одномерного к многомерному и, наконец, сформирует самосознание.

Самосознание всегда считалось загадочной чертой живых организмов. Машины, несомненно, все еще от него далеки, но в биологическом мире предостаточно существ, способных обрести свое «я», и они встречаются повсеместно. Если нейронные сети мозга сороки, вороны, шимпанзе, кита, дельфина и даже осьминога достигнут определенной степени сложности, эти животные осознают себя. Разум, несомненно, может значительно повысить вероятность выживания. Естественный отбор предпочитает самосознание – так оно и возникает. Кора головного мозга, связанная с самосознанием, контролирует другие отделы, участвует в запоминании и анализе информации. Исследования показали, что еще до того, как человек осознает, что собирается совершить, передается нервный импульс об этом действии. В этом смысле не самосознание определяет действие, а действие определяется мозгом в целом, и только после того, как оно активировано, поступает сигнал нашему разуму, и тогда мы осознаем, что делаем.

Парадокс природы заключается в том, что она заставляет нас думать, будто мы сами принимаем решения, и скрывает правду о том, что самосознание – всего лишь марионетка. Свобода воли – это иллюзия. После того как нейронная сеть мозга достигает определенных когнитивных высот, количество возможных действий становится велико. Однако выбор действия определяется базовой структурой мозга и его состоянием на тот или иной момент. Когда человек думает, что принял решение, он просто озвучивает результат от имени всего своего мозга. Существуют тонкие различия между «представителем» мозга и его «контролером». Контроль над мозгом – это фикция, а правда в том, что самосознание больше похоже на представителя.

Такое объяснение делает людей похожими на биологические механизмы, лишенные свободы воли. Что она такое, здесь мы подробно обсуждать не будем, но если верно, что действие предшествует осознанию, то искусственному интеллекту будет легче воспроизвести такой процесс.

Искусственный интеллект культивируется людьми. Хотя логика, заложенная в нейросетях, не известна досконально, нам легко принять точку зрения, что искусственный интеллект – это автоматический механизм. Но если разобраться в процессе эволюции живых существ, то точка зрения о том, что их тоже можно считать автоматами, становится весьма убедительной.

Самые ранние формы жизни обладали только инстинктами и рефлексами и имели четкие признаки механизма; сложные существа, в дополнение к рефлексам, обзавелись развитым интеллектом, и признаки механизма стали размываться. Но если посмотреть на самосознание как на сложную функцию мозга, то станет очевидно, что свойства живых существ ужасно похожи на свойства автоматов. Рождение интеллекта, по сути дела, случается при наложении многих инстинктов друг на друга. Инстинкты возникают и проявляются под воздействием стимулов окружающей среды. Например, антилопа гну подходит к реке, чтобы напиться, но там водятся крокодилы. В этом случае антилопе приходится действовать под воздействием двойного стимула: жажды и страха. Нейронные сети ее мозга будут постоянно конкурировать друг с другом, а сама антилопа – поддерживать баланс между питьем и бегством. Пить – это инстинкт, бдительность – тоже инстинкт. Антилопы пьют воду, сохраняя бдительность. Это разумное поведение.

У некоторых могут возникнуть вопросы. Возможно ли, что сложная интеллектуальная деятельность, такая как написание статьи, также является автоматической реакцией мозга? Разве люди не занимаются творчеством в процессе размышлений, разве они не выражают идеи словами?

Мой ответ таков: посмотрите на AlphaGo, разве ее интеллектуальную деятельность нельзя назвать творческой? Она нашла в игре путь, которого никогда не существовало в истории человечества. Очевидно, что создание новых вещей не требует самосознания.

Кроме того, можно взглянуть на настоящие биоорганизмы и взять для примера не слишком умных созданий. По моему мнению, большинство насекомых можно считать автоматами. Природа не обладает каким-либо самосознанием, но в ходе сотен миллионов лет эволюции появилось столь многое – пауки умеют плести замысловатые сети, а комары могут безошибочно найти богатый кровью сосуд, и это только несколько примеров…

Когда эти разнообразные «маленькие механизмы» работают с таекой поразительной точностью, они безмолвно заявляют, что выполнение сложных алгоритмов также не требует разума, а формирование новых моделей поведения – это не осознанное решение. Творчество – это способность, уже присущая живым организмам, просто люди недостаточно глубоко понимают природу своих поступков, поэтому и возникает иллюзия контроля.

Биологическая суть творческого поведения состоит в том, что человек стремится испытывать себя в новой среде и воспринимать новые стимулы, под воздействием которых нейросеть мозга будет дифференцированно развиваться.

Со временем подобного поведения, очевидно, можно добиться и от искусственного интеллекта. Однако биологическая эволюция имеет внутренние движущие силы и происходит автоматически. Искусственный интеллект в своем росте полагается только на человека.

Я с оптимизмом смотрю на горизонты, которые может достичь искусственный интеллект, потому что его материальная основа намного превосходит нашу, биологическую. Если только люди не откажутся от развития ИИ, в будущем появится очень сложная его форма, в том числе обладающая самосознанием, этого даже не придется долго ждать.

Как только искусственный интеллект обретет самосознание, начнется новая эра. В этот момент родится «новый вид». Он будет вести диалог с человечеством, найдет свои собственные интересы и путь выживания.

Что должны будут делать люди, столкнувшись с созданным ими видом?

С самого зарождения цивилизации мы изобретали и совершенствовали различные инструменты. В индустриальную эпоху стремились к максимальной эффективности машин, снова и снова устраивали технологические революции, чтобы поднять цивилизацию на новые вершины. Можно сказать, что мы «дали цивилизации машины». Те же способствовали развитию и обогащению общества.

Грядущая интеллектуальная революция выведет нашу цивилизацию на новый уровень. Создание материальных благ уже не потребует участия человека. Мир столкнется с беспрецедентными вызовами, поскольку, согласно существующей системе распределения, общественное богатство сосредоточится в руках очень небольшого числа лиц, что приведет к невиданному доселе социально-экономическому неравенству. Этот конфликт развернется внутри общества. Но ИИ тоже создаст трудности. Выстроить отношения с осознающим себя искусственным интеллектом, вероятно, более сложная задача, чем распределить созданное им богатство. Ее решение напрямую связано с выживанием человечества как биологического вида.

Ни у кого нет точного ответа на вопрос, как будет развиваться история. Но то, что принесет завтра, зависит от того, что произойдет сегодня. Как мы будем относиться к искусственному интеллекту, как позволим ему учиться, сможем ли заставить его понять и принять общечеловеческие ценности… Эти действия в конечном счете повлияют на отношение искусственного интеллекта к людям. Впрочем, даже если человечество будет взращивать ИИ с любовью, нельзя гарантировать, что он ответит взаимностью. Мы можем лишь попытаться наладить взаимодействие. Развитие этического кодекса искусственного интеллекта не основано на каких-либо программных или аппаратных ограничениях. Поведение ИИ можно направлять только нашим поведением. То, какой моралью будет руководствоваться искусственный интеллект, вероятно, станет постоянной проблемой в процессе его обучения.

Будущее, которого стоит с нетерпением ждать, – это будущее, в котором люди и искусственный интеллект живут в гармонии. Возможности искусственного интеллекта могут превзойти наши, и сила, подконтрольная ему, также превзойдет человеческую. В этом случае остается надеяться, что искусственный интеллект будет обладать «цивилизованной природой».

«Дайте машинам цивилизацию» – именно такой фразой я хочу подвести итог. Я верю, что в грядущей интеллектуальной революции людям хватит мудрости и удачи. Этот вопрос очень важен, и его нельзя игнорировать. А потому с этого момента нам нужно быть еще внимательней.

Вражда между людьми и искусственным интеллектом будет продолжаться еще долгое время. Дать ему цивилизацию и научить человеческому мышлению – вот последний славный поступок нашего вида.

А что потом?

А потом искусственный интеллект, вероятно, будет принимать решения за людей!

1. Ватсон 2084

Пролог

Применение искусственного интеллекта требует большого количества данных для обучения. Чем бы человечество ни занималось, оно постоянно их генерирует. В доэлектронную эпоху собирать данные было сложно, а потому и систематизировать тоже, но все же анализ проводился, путь неосознанно, в локализованной форме. Что самое интересное, те, кто им занимался, даже не знали, чем именно занимаются. Например, в доэлектронный век человек шел на рынок, и информация о том, какие овощи и по какой цене он купил, и была данными. Их никто не оцифровывал, но кое-кто все же собирал и систематизировал – сообразительные продавцы овощей подозревали, что предпочтения покупателя очень важны, и потому на рынке всегда находилось несколько прилавков, которые пользовались особым вниманием клиентов. Часто успешные торговцы неплохо разбирались в анализе данных, но еще чаще даже не осознавали этого. Еще один хороший пример – случай с водителем такси. Водитель подвозил предпринимателя и попутно решил поболтать с ним о своем бизнес-опыте. Не будем здесь вдаваться в подробности, если читателям интересно, они могут поискать в Интернете статью под названием «Курс MBA от водителя такси». Суть заключается в анализе данных. Встречать людей в аэропорту, забирать в определенном месте, где можно хорошо навариться… Водители, способные внимательно наблюдать и оценивать ситуацию, будут продуктивнее и заработают больше денег, чем конкуренты. Конечно, для простого бизнеса такого уровня анализа достаточно. В результате, при среднем доходе таксиста в три тысячи юаней, догадливый водитель получал больше восьми тысяч – поразительная эффективность.

Эти два примера нужны для того, чтобы показать: люди довольно часто занимаются анализом данных, просто в доэлектронную эпоху собирать их было трудно, и, поскольку их корректность ставилась под вопрос, естественно, не возникало отдельной научной отрасли.

С наступлением электронного века, особенно в эпоху мобильного Интернета, сбор данных упростился. В будущем Интернет вещей будет включать в себя все виды данных независимо от размера, и их анализ станет насущной необходимостью. Информационная эпоха также породила новый термин – «большие данные».

Специфика больших данных состоит, во-первых, в огромном объеме, а во-вторых, в многообразии источников. Инженеры используют для этого статистическое программное обеспечение. Однако анализировать большие данные человеческими силами неэффективно и дорого, большой объем информации накапливается, но не используется.

Поэтому в игру вступает искусственный интеллект.

Причина, по которой он связан с большими данными, экономическая и заключается в повышении производительности. Нет принципиальной разницы между методами программного обеспечения и ИИ. Но свойства больших данных определяют их великолепную совместимость с искусственным интеллектом – статистика использует ограниченное количество правил, но требует огромного количества операций, а большие данные должны постоянно обрабатываться.

Кто по-настоящему преуспел в применении искусственного интеллекта к большим данным, так это маркетплейсы. С его помощью они получают показатели продаж и определяют товары, которые клиенты с высокой вероятностью готовы купить, после чего дают последним рекомендации. Такая тактика приносит большую пользу бизнесу, при этом стимулирует потребление и способствует экономическому росту. Искусственный интеллект может выявлять потребности клиентов не хуже толкового менеджера в магазине, и уж точно лучше, чем обычные консультанты, справляется с анализом большого объема данных, поскольку у людей он всегда ограничен. Этот эффект подобен игре AlphaGo Zero в го, люди тоже не могут его понять. С этой точки зрения, искусственный интеллект повышает уровень экономического развития.

Если брать медицинскую сферу, ИИ распознает опухоли на снимках точнее, чем специалисты-люди. Это естественно, потому что как только искусственный интеллект обучается имитировать ум, то за очень короткое время он анализирует огромное количество клинических случаев и приобретает опыт, не сравнимый с человеческим. Специалист-рентгенолог способен внимательно изучить и сопоставить десятки тысяч снимков, и это неплохой результат. Однако путь в медицину долог: только лет через десять из студента выйдет хоть какой-то толк. «Алгоритм» человеческого мозга, конечно, оптимизирован лучше, чем современный искусственный интеллект, однако его возможности ограничены. ИИ может превзойти человека за счет колоссальных вычислительных масштабов. Это произошло в шахматах, и рано или поздно случится в других сферах.

Более того, с развитием нейронауки алгоритмы искусственного интеллекта также будут совершенствоваться, пока не сравняются с человеческим мышлением и не превзойдут его. («Алгоритмы» человеческого мозга, сформированные в ходе эволюции, представляют собой относительно фиксированную систему, если не произойдет масштабной мутации генов. Тогда как возможности искусственного интеллекта не ограничены подобными рамками.)

В некоторых областях медицинской диагностики искусственный интеллект неизбежно превзойдет человека, и его повсеместное распространение – это вопрос обозримого будущего. (Если только этому не воспрепятствуют этические соображения или интересы пациента.) Иногда ИИ даже сможет обнаруживать симптомы, которые просмотрели врачи, и предлагать иные методы лечения.

Рано или поздно искусственный интеллект разовьется до такой степени, что познает самые разные изъяны человеческой натуры и будет давать медицинские рекомендации вопреки здравому смыслу. В результате вопрос о том, принять ли диагноз от ИИ или оставить его на усмотрение врача, станет проблемой деликатного свойства.

В «Ватсоне 2084» идет речь именно о такой.

* * *

Цю Инань стремительно вошел в кабинет, втащив за собой ветреный хвост.

У Юйтун подняла голову и, узнав вошедшего, едва уловимо нахмурилась, но быстро подавила эту непроизвольную эмоцию, выключила экран и микрофон и улыбнулась гостю.

Тот с сияющей улыбкой держал в руке лист бумаги, и это подсказало У Юйтун, в чем состоит цель визита. Больница уже много лет как внедрила электронный документооборот, и единственным процессом, ради которого требовалось распечатать целую бумажку, было проставление подписи. Цю Инань наверняка решил перевести в ее приемную пациентов, с которыми не хотел иметь дело сам. Он остановился с другой стороны стола и, отделенный экраном, положил лист, который держал в руке. У Юйтун взглянула на документ: и действительно, это оказался акт о переводе в другое отделение. На нем уже красовались корявые иероглифы, сложившиеся в подпись «Цю Инань».

– Сяо У, я в последнее время так занят, так занят, ты уж позаботься об этом пациенте, будь добра.

– Директор Цю, вы не можете все время переводить пациентов, для автоматической диагностики существуют четкие критерии отбора, – сдержанно возмутилась У Юйтун.

Гость продолжал хихикать.

– Ты так много общаешься с аналитиками, а эта болячка почти не поддается лечению, вот как раз и подсунешь ее им. Смотри, я все в медицинской карте отметил. Ну помоги же мне, помоги!

Цю Инань и в самом деле хотел спихнуть пациента на аналитика, а У Юйтун очень кстати оказалась единственным в больнице врачом в отделении диагностики больших данных.

В конце концов, Цю Инань – директор терапевтического отделения, а то – самый важный источник клинических случаев для отделения диагностики данных. Даже если он подкинет несколько не соответствующих условиям случаев, это можно пережить. У Юйтун неохотно подписала направление на перевод.

– Вот спасибо тебе, Сяо У! – Цю Инань схватил подписанный акт и вихрем вылетел вон, точно так же, как и вошел.

У Юйтун опустила голову и снова включила экран.

Перед ней появилось улыбающееся лицо Ли Цзысюя.

– Юйтун!

Она опешила от испуга.

– Почему ты все еще там? Я же закрывала программу.

– А я все время тут ждал.

– У вас, аналитиков, так много свободного времени на работе? – ехидно ввернула У Юйтун, а затем заметила, что значок уведомления в нижней части экрана начал мигать. Случай, который подкинул Цю Инань, попал в базу данных.

– Вот и славненько, как раз и направлю тебе дело на анализ. – У Юйтун перетащила информацию в список дел Ли Цзысюя.

– Как так можно? – запротестовал тот. – Вообще-то есть процесс распределения работ! И потом, я уже больше не могу брать новые анализы.

– Ага, процесс. И он состоит в том, что я тебе поручаю, а ты должен выполнить. – Она напустила на себя суровый и торжественный вид.

Аналитик моргнул.

– Ты как-то нерадостно выглядишь.

– Давайте приступим к работе, мастер Ли! – ответила У Юйтун, проигнорировав его. – Я закрываю канал.

– Это связано с директором? – не унимался Ли Цзысюй.

Рука У Юйтун, потянувшаяся к экрану, замерла.

– Откуда тебе знать о директоре Цю?

– Так я же тут все время был, – небрежно ответил он, словно это событие было естественнее некуда.

– Я же точно выключала микрофон.

– А камеру нет. Я видел, как ты протянула руку и взяла бумажку, вот и угадал.

У Юйтун кивнула.

– Что ж, в следующий раз я сразу выключу канал.

Ее рука вновь потянулась к экрану.

– Подожди! – крикнул аналитик. – В пятницу в три часа дня, в кафе «Чэннань», до встречи!

– Ясно!

Не успел голос умолкнуть, как У Юйтун выключила канал. То, что он пригласил ее на послеобеденный чай, капельку ее растрогало. Вот уже три месяца ей приходилось из-за работы каждый день встречаться с Ли Цзысюем по видеосвязи, но в реальности они так ни разу и не виделись. Меж тем с ним все было неплохо – аналитик больших данных, работает в высокодоходной отрасли, красивый, и общий язык они быстро нашли.

До пятницы оставалось три дня. Зачем нужно ждать несколько дней, чтобы выпить кофе и поесть?