Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

скачать книгу бесплатно

Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака[33 - В своем предложении Маккарти, Минский, Рочестер и Шеннон привели такой список экспертов, которых намеревались пригласить в Дартмутский университет для работы над ИИ. Я воспроизвожу список так, как он был опубликован в 1955 году, с указанием компаний и адресов. Не все упомянутые в нем лица смогли принять приглашение.Адельсон, МарвинHughes Aircraft CompanyЭрпорт-Стейшен, Лос-Анджелес, КалифорнияЭшби, В. Р.Барнвуд-хаусГлостер, АнглияБэкус, ДжонIBM CorporationМэдисон-авеню, 590Нью-Йорк, штат Нью-ЙоркБернстайн, АлексIBM CorporationМэдисон-авеню, 590Нью-Йорк, штат Нью-ЙоркБигелоу, Дж. Х.Институт перспективных исследованийПринстон, Нью-ДжерсиЭлиас, ПитерНаучно-исследовательская лаборатория электроникиМассачусетский технологический институт (МТИ)Кембридж, МассачусетсДьюда, В. Л.Научно-исследовательская лаборатория IBMПокипси, штат Нью-ЙоркДэвис, Пол М.18-я улица, 1317 C.Лос-Анджелес, КалифорнияФэно Р. М.Научно-исследовательская лаборатория электроникиМТИКембридж, МассачусетсФэрли, Б. Г.Парк-авеню, 324Арлингтон, МассачусетсГалантер, Э. Х.Пенсильванский университетФиладельфия, штат ПенсильванияГелернтер, ГербертНаучно-исследовательская лаборатория IBMПокипси, штат Нью-ЙоркГласхоу, Харви А.Оливия-стрит, 1102Энн-Арбор, МичиганГёрцаль, ГербертЗападная 11-я улица, 330Нью-Йорк, штат Нью-ЙоркХагельбаргер, Д.Научно-исследовательская лаборатория Bell TelephoneМюррей-Хилл, Нью-ДжерсиМиллер Джордж А.Memorial HallГарвардский университетКембридж, МассачусетсХармон, Леон Д.Научно-исследовательская лаборатория Bell TelephoneМюррей-Хилл, Нью-ДжерсиХолланд, Джон Х.Научно-исследовательский институт окружающей средыМичиганский университетЭнн-Арбор, МичиганХолт, АнатольРурал-лейн, 7358Филадельфия, штат ФиладельфияКаутц, Уильям Х.Стэнфордский научно-исследовательский институтМенло-Парк, КалифорнияЛюс Р. Д.Западная 117-я улица, 427Нью-Йорк, штат Нью-ЙоркМаккей, ДональдФизический факультетЛондонский университетЛондон, почтовый индекс «Западный Центральный 2 (WC2)», АнглияМаккарти, ДжонДартмутский университетХановер, Нью-ГэмпширМаккулло, Уоррен С.Научно-исследовательская лаборатория электроники, МТИКембридж, МассачусетсМелзак З. Э.Математический факультетМичиганский университетЭнн-Арбор, МичиганМинский М. Л.Ньюбери-стрит, 112Бостон, МассачусетсМор, ТренчардФакультет информационных технологийМТИКембридж, МассачусетсНэш, ДжонИнститут перспективных исследованийПринстон, Нью-ДжерсиНьюэлл, АлленФакультет промышленного управленияТехнологический институт КарнегиПиттсбург, ПенсильванияРобинсон, АбрахамМатематический факультетТоронтский университетТоронто, Онтарио, КанадаРочестер, НатаниэльНаучно-техническая исследовательская лабораторияIBM CorporationПокипси, штат Нью-ЙоркРоджерс, Хартли, мл.Математический факультетМТИКембридж, МассачусетсРозенблит, УолтерНаучно-исследовательская лаборатория электроникиМТИКембридж, МассачусетсРотштейн, ДжеромИст-Берген-Плейс, 21Ред Бэнк, Нью-ДжерсиСойр, ДэвидIBM CorporationМэдисон-авеню, 590Нью-Йорк, штат Нью-ЙоркШорр-Кон, Дж. Дж.C-380 Lincoln Laboratory, MITLexington, MAШэпли, Л.Rand CorporationМэйн-стрит, 1700Санта-Моника, КалифорнияШутценбергер, М. П.Научно-исследовательская лаборатория электроникиМТИКембридж, МассачусетсСелфридж, О. Дж.Лаборатория ЛинкольнаМТИЛексингтон, МассачусетсШэннон, К. Е.Научно-исследовательская лаборатория электроникиМТИКембридж, МассачусетсШапиро, НорманRand CorporationМэйн-стрит, 1700Санта-Моника, КалифорнияСаймон, Герберт А.Факультет промышленного управленияТехнологический институт КарнегиПиттсбург, ПенсильванияСоломонофф, Раймонд Дж.Technical Research GroupЮнион-сквер запад, 17Нью-Йорк, штат Нью-ЙоркСтил Дж. Э. капитан ВВС СШАЗона Б, почтовый ящик 8698База ВВС Райт-ПаттерсонОгайоУэбстер, ФредерикКулидж-авеню, 62Кембридж, МассачусетсМур Э. Ф.Научно-исследовательская лаборатория Bell TelephoneМюррей-Хилл, Нью-ДжерсиКемени Джон Дж.Дартмутский университетХановер, Нью-Гэмпшир].

Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось[34 - Я составила очень краткий список женщин и цветных, которые могли бы внести большой вклад в работу семинара в Дартмутском университете, но были обойдены вниманием организаторов. Этот список ни в коем случае не исчерпывающий. Я могла бы продолжать в течение многих десятков страниц. Перед вами же – просто выборка способных, талантливых, творческих людей, оставшихся за границами списка. Джеймс Эндрюс, математик, профессор Университета штата Флорида, специализировавшийся на теории групп и теории узлов.• Джин Бартик, математик, одна из первых программистов компьютера ЭНИАК. Альберт Тернер Баруха-Рейд, математик и теоретик, внесший существенный вклад в теорию марковских цепей, теорию вероятностей и статистику.• Дэвид Блэкуэлл, статистик и математик, сделавший существенный вклад в теорию игр, теорию информации, теорию вероятностей и байесову статистику.• Мэми Фиппс Кларк, PhD и социальный психолог, чья исследовательская работа была посвящена самосознанию.• Тельма Эстрин, пионер использования компьютерных систем в нейрофизиологии и науке о мозге. Она была научным сотрудником департамента электроэнцефалографии Института неврологии при Пресвитерианской больнице в Нью-Йорке.• Эвелин Бойд Грэнвилл, PhD по математике, разработчик компьютерных программ анализа траектории, предназначенных для первых пилотируемых орбитальных и лунных космических полетов США.• Бетти Холбертон, математик и одна из первых программистов компьютера ЭНИАК. Изобрела точки остановки, применяемые в отладке компьютерных программ.• Грейс Хоппер, специалист по информатике и создатель языка Кобол, одного из первых языков программирования, применяемого и по сей день.• Мэри Джексон, инженер и математик, позже ставшая первой черной женщиной-инженером в НАСА.• Кэтлин Макналти, математик и одна из первых программистов компьютера ЭНИАК.• Мэрлин Мельцер, математик и одна из первых программистов компьютера ЭНИАК, первой программируемой вычислительной машины, выполненной полностью на электронной элементной базе.• Рожа Петер, математик и основатель теории рекурсивных функций.• Фрэнсис Спенс, математик и одна из первых программистов компьютера ЭНИАК.• Рут Тейтельбаум, математик и одна из первых программистов компьютера ЭНИАК. Совместно с Мэрлин Мельтцер разработала уравнения для расчета баллистической траектории.• Дороти Вон, математик и человек-«компьютер», в 1949 году исполнявшая обязанности директора West Area Computers.• Джесси Эрнст Уилкинс-мл., специалист по ядерной физике, инженер-механик и математик, ставшая самым молодым студентом Чикагского университета в возрасте 13 лет.]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась[35 - “The Dartmouth Workshop – as Planned and as It Happened,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, lecture “AI: Past and Future,” last modified October 30, 2006, http://www-formal.stanford.edu/jmc/slides/dartmouth/ dartmouth/node1.html.].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности[36 - “The Dartmouth AI Archives,” RaySolomonoff.com, http://raysolomonoff. com/dartmouth/.]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.