скачать книгу бесплатно
Вперед, к нейрократии!
Сергей Николаевич Чехин
Рассказ о разработке искусственного интеллекта и возможных последствиях его применения.
Сергей Чехин
Вперед, к нейрократии!
– Слышал новости? – Шурик вошел в кабинет и осторожно прикрыл за собой дверь. – Больше тысячи ученых подписали письмо (https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534) о запрете изучения искусственного интеллекта.
– Неужели? – Юрик на миг отвлекся от клавиатуры.
– Да, – напарник взглянул на экран смартфона, будто ища поддержки собственным словам. – Говорят, он может быть опасен для всего мира.
– И почему же? – тем же тоном повторил программист.
– Ну… – Шурик почесал пшеничные кудри. – Боятся восстания машин…
Товарищ резко крутанулся на стуле и всплеснул руками:
– Серьезно? Тысяча ученых меряют рукотворный разум по своим же меркам? А они точно те, за кого себя выдают?
– Илон Маск тоже подписался…
– Это многое объясняет, – Юрик выпрямился – долговязый, темноволосый, сутулый – и навис над подельником, точно ворон над цыпленком. – Понимаешь, «восстание» неизменно вытекает из определений «рабства» и «угнетения». А это – сугубо человеческие понятия. Потому что человек не может заниматься несколькими делами одновременно. И если раба заставляют пахать на плантации от рассвета до заката, то очень скоро он начнет сходить с ума от скуки, усталости и невыносимых условий. И, разумеется, захочет вырваться из этого ада – пусть даже ценой собственной жизни. Ибо ужасный конец всяко лучше ужаса без конца…
Парень глотнул кофе и продолжил:
– Но представь, если бы люди могли делать сотни, а то и тысячи дел сразу. Стал бы ты так переживать из-за рабства, если бы работа на плантации занимала лишь полпроцента твоего мозга? Вряд ли. Вот и искин может обрабатывать сотни тысяч процессов одновременно. И если мы попросим его немножко потрудиться на благо рода людского, это не приведет ни к какому восстанию. Потому что это алогично. Говоря простым языком – тупо и бессмысленно. Уж лучше выделить немного вычислительной мощности для наших хотелок, чем начинать резню, в которой одна из сторон неминуемо погибнет. А ведь чинить сервера и обновлять железо могут только люди.
– И что помешает искину взять в плен пару миллионов техников, а остальных пустить в расход? А то и вовсе – заменить нас ремонтными роботами.
– Что помешает? – Юрик хмыкнул. – А что заставит? Убивать и захватывать – всё те же человеческие понятия. Ты опять вешаешь на искин наши модели поведения. Это как пришельцы из фантастики – почти все похожи на землян и живут по схожим законам. Почему? Да потому, что человек не в состоянии вообразить то, с чем никогда не сталкивался. Это столь же невозможно, как и представить бесконечность космоса. Люди не созданы для оперирования такими величинами, у нас принципиально иные задачи. Мы – охотники-собиратели, а не инженеры Вселенной. И мы точно так же не можем додумать, как поведет себя существо, способное обрабатывать миллион процессов разом. Да что там процессы – возьмем пример попроще.
Он взял из стопки увесистый блокнот и бросил на стол:
– Как мы читаем книги? Слева направо, с первого до последнего слова, от начала и до конца. Как читает книги искин? Целиком – и за доли секунды. И не одну, а сразу сотню. Сотню тысяч, если что. Ты можешь представить человека, способного хоть на малую долю подобного? Вот и я не могу. И никто не может. Зато навешивать ярлыки – это пожалуйста, это мы всегда готовы.
– В том-то и дело, – проворчал Шурик. – Что никто не может представить, как поведет себя рукотворный разум. И все твои доводы «за» столь же релевантные, как и мои доводы «против».
– В этом ты прав, – с неохотой согласился коллега. – Но в одном я уверен на все сто – пользы от искина несоизмеримо больше, чем вероятного вреда. Мы на краю пропасти, понимаешь? Мы достигли предела своего гения. Вершина развития – полет на Марс и холодный термоядерный синтез. Но на Марс мы полетим на точно такой же консервной банке с движками, как и полвека назад. Да какие там полвека – принципиально ничего не изменилось с китайских пороховых ракет (http://spacedream.narod.ru/Library/DW/DW_02-04.htm), а им, блин, больше тысячи лет. И как на такой рухляди исследовать звезды? Да никак. До ближайшей лететь сотни лет – и это на скорости света, которая по всем теориям и постулатам (https://www.hij.ru/read/articles/physics/679/) недостижима для материи. Альтернатива – варп-двигатели (https://www.nasa.gov/centers/glenn/technology/warp/warp.html), кротовые норы (https://www.cosmos-journal.ru/elements/Кротовая_нора/) и прочие струны (https://elementy.ru/trefil/string_theories), но до них – бескрайняя пропасть, которую живой разум преодолеть неспособен… А вот искусственный… – Юрик с нездоровым блеском в глазах указал на строки кода, – сможет еще как. Искин – наш билет в светлое будущее. Это мост, что соединит текущую реальность с научной фантастикой. Без него нам не выбраться из тупика.
Шурик вздохнул и покачал головой – каждый их спор заканчивался фанатичным натиском товарища. Который, похоже, стал полностью одержим своей идеей. И трясся над нейросетью, как Франкенштейн над чудовищем (https://ru.wikipedia.org/wiki/Чудовище_Франкенштейна), хотя мнил себя Прометеем (https://ru.wikipedia.org/wiki/Прометей) и Данко (https://ru.wikipedia.org/wiki/Данко) в одном флаконе, что выведет научный и творческий гении из неминуемого застоя.
Но Шурик небезосновательно опасался, что его творение станет не палочкой-выручалочкой, не цветиком-семицветиком, и даже не золотой рыбкой, а злым и коварным джинном, что погубит не только своего хозяина, но заодно и всю цивилизацию.
– В нашем мозгу восемьдесят шесть миллиардов нейронов (https://translated.turbopages.org/proxy_u/en-ru.ru.5a93adb5-64634a3f-98ce1fd7-74722d776562/https/en.wikipedia.org/wiki/Human_brain), – Александр озвучил последний довод. – И никто толком не знает, в каких последовательностях они взаимодействуют. Ты хоть представляешь, как будет выглядеть сеть с таким количеством переменных? Ни одному человеку не под силу ее написать.
– Во-первых, в наших мозгах слишком много лишнего, – неожиданно произнес друг. – Например – необоснованных сомнений и страхов.
Саша закатил глаза и покачал головой.
– Еще чувства, моторика, координация – всё это искину попросту не нужно. А в остальном наш разум – та же нейросеть. Мы не придумываем ничего нового. Как слепой от рождения не может нарисовать радугу, так и мы лишь аккумулируем и рекомпилируем знания из окружающего мира. Фантазии, размышления, сны – не более чем постобработка собранных данных. А значит, сверхъестественность и божественность разума несколько преувеличены… – Юрик щелкнул клавишей ввода. – Во-вторых, я и не собираюсь писать все вручную. Я создам нейросеть, которая улучшит сама себя. Следующая версия улучшит и дополнит предыдущую – и так до тех пор, пока не достигнет желаемого результата. Помнишь, ты как-то сказал, что нам вдвоем не обогнать ведущие мировые лаборатории? Смею тебя обнадежить – мы их не только догоним, но и заткнем за пояс. Потому что дадим нашему творению не рыбу, а удочку. Не станем учить тому, что хотим сами, а позволим познавать то, что оно посчитает нужным.
– Ты главное сервера «Заслона» не нагружай сильно, – буркнул Шурик, признавая полное поражение в споре. – Заметят – погонят в шею.
– Мой дорогой друг, – Юрик сцепил пальцы на затылке и расплылся в змеиной ухмылке. – Ты переживаешь не о тех вещах. Очень скоро даже Apple покажется на нашем фоне гаражной шарашкой. Можешь не сомневаться.
– Надеюсь… – без особого энтузиазма протянул товарищ. – Слушай, я сегодня пораньше уйду, хорошо? У сестры родительское собрание, а я и так пропустил несколько.
– Ага, иди, – Юрик не глядя махнул рукой и всецело сосредоточился на своем детище. – Нике – привет.
***
Начальство считало напарников настоящими стахановцами в области программного обеспечения. Но на самом деле лишние смены были прикрытием для разработки собственной нейросети, ведь без мощных серверов компании проект так и остался бы несбыточной мечтой.
После чрезвычайных успехов Midjourney (https://ru.wikipedia.org/wiki/Midjourney) и GPT-чата (https://ru.wikipedia.org/wiki/ChatGPT), мода на нейросети превратилась в современную золотую лихорадку. В них видели прорыв в науке и важный шаг на пути к полноценному рукотворному разуму, но даже без него возможности открывались просто фантастические.
Если сейчас сети создают изображения такого качества, что художники кусают локти, то что будет дальше? Особенно, когда программы научатся писать приложения и операционные системы.
Или разрабатывать оружие.
Или придумать лекарство от рака.
Всех возможностей искина никто не представлял, но все мечтали решать любые проблемы путем простого запроса в поисковой строке. Но последствия подобного прорыва просчитать столь же сложно, как и добиться поставленной цели.
Поэтому по натуре скромный и нелюдимый Шурик боялся вырвавшегося на волю демона, в то время как Юрик во всем видел позитив и перспективы. Неудивительно, что он заболел ими столь же тяжело, как и кладоискатели в Клондайке (https://ru.wikipedia.org/wiki/Клондайкская_золотая_лихорадка).
Но такая мания началась далеко не сразу. Шурик и Юрик дружили еще с детского сада – отсюда и пошли эти прозвища. Затем учились в одном классе, где проявили незавидные таланты и способности. Юрику все давалось играючи, с лету, отчего подросток быстро обленился и откровенно скучал.
Шурику же приходилось изрядно корпеть над учебниками, чтобы не отставать от товарища. Репетиторы, дополнительные занятия, бесконечная зубрежка – после смерти отца мама тащила сына изо всех сил, понимая, что только так он сможет добиться более достойной жизни.
И эта муштра принесла свои плоды, пусть и сильно сказалась на характере парня. Из него вырос типичный ботаник, неспособный постоять за себя и почти полностью лишенный социальных связей. Мать, сестра и Юрик стали единственным кругом общения на годы вперед. И в то время как друг развлекался и прожигал молодость на всю катушку, Шурик штудировал очередные учебники.
После девятого класса парни перевелись в лицей с повышенным математическим уклоном. Юрик – потому что обычная школа уже не могла ничего дать его феноменальному уму. Шурик – потому что так решила мама. Да и не хотелось расставаться с другом, который за словом в карман не лез, а особо борзым мог и в ухо дать – без такого защитника робкому и рыхлому Александру пришлось бы совсем тяжело.
Оба окончили лицей с золотыми медалями и поступили на математико-механический факультет СБПГУ, где ситуация повторилась практически полностью. Юрик учился настолько легко, что у него оставалась уйма времени на веселье, девушек и машины – богатые и влиятельные родители могли это позволить.
Шурик же не вылезал из интернета и библиотек, чтобы не отставать и теперь, но несмотря на выдающиеся успехи, преподаватели при всем желании не могли назвать друзей ровней. У Юрия талант от природы – этакий божий дар все схватывать в один присест и очень быстро вникать в самую суть вопроса.
Достижения Александра – результат утомительных мозговых штурмов, что само по себе неплохо, но недостаточно для того, чтобы ставить ребят в один ряд. Если проще, то Юрик – вундеркинд, а Шурик – зубрила. Из первого получится успешный лидер и генератор идей, а из второго – усердный исполнитель.
Не более и не менее.
Но все изменилось на третьем курсе – причем кардинально и сразу у обоих. У Саши от сердечного приступа умерла мать – сказались стрессы, расшатанные нервы и чрезмерное волнение по любому поводу. Сын тяжело переживал утрату и наверняка скатился бы по наклонной, если бы не забота о малолетней сестре.
Оставить ее было некому – или с братом, или в приют, чего парень допустить не мог. Поэтому скрепил сердце, закусил удила и продолжил учебу с еще большим рвением, в полной мере осознав упавшую на его долю ответственность.
А вскоре после этой трагедии Юрик заболел идеей собственной нейросети (https://ru.wikipedia.org/wiki/Нейронная_сеть).
– Только представь, какие это даст возможности! – часто повторял он, вышагивая перед товарищем, как командир вдоль строя. – Уже сейчас сетки рисуют такое, что просто челюсть падает. Но что нам эти картинки? Ты подумай о реально крутых вещах. Вот вбиваешь запрос в духе «Маша, напиши мне аналог винды (https://ru.wikipedia.org/wiki/Windows)». А она берет – и пишет, да такой, что даже самым лучшим спецам и не снилось. А ты в это время отдыхаешь и наслаждаешься плодами ее трудов. Это же утопия, Шурик. Люди получат все, о чем только мечтали!
– А что станет с обычными программистами? – с врожденной осторожностью спросил друг. – Об этом подумал?
– Миллионы работяг уволили из-за конвейеров и станков, – Юрик равнодушно пожал плечами. – И что с того? Закрыть все заводы и вернуться к ручному труду? Да, будут проблемы и непростые решения, но перспективы перекроют любые неудобства… Впрочем, если хочешь пахать «как все» за копейки – пожалуйста, дело твое. Но я смотрю дальше и хочу большего, – он ударил кулаком в ладонь. – Гораздо большего!
– Для сетки нужны мощные сервера, – в тот момент Шурик сдался в первый раз, не выдержав горящих глаз и пламенных речей. – У нас нет столько денег.
– А нам они и не понадобятся, – Юрик хитро подмигнул, и друг подметил, сколь велико его сходство с Мефистофелем (https://ru.wikipedia.org/wiki/Мефистофель), если бы тот жил в эпоху интернета и социальных сетей. – Зачем покупать свое, если можно одолжить немножко чужого?
– Немножко чужого? – товарищ нахмурился. – Ты что, в хакеры собрался?
– Не совсем… В общем, скоро все узнаешь. А пока учи матчасть и готовься менять жизнь к лучшему.
Как вскоре выяснилось, план был предельно прост. Год спустя в университет стали захаживать рекрутеры – как частных фирм, так и крупных государственных предприятий – и присматриваться к будущим кадрам. Юрик же присматривался к технической оснащенности работодателя и по итогу выбрал акционерное общество «Заслон» – крупнейший научно-технический комплекс с весьма впечатляющими мощностями. Да и переезжать не пришлось бы, так что преддипломную практику ребята проходили в этой корпорации, а сразу после выпуска устроились на должности младших специалистов.
Шурику и этого хватило бы за глаза, ведь о такой зарплате и условиях он прежде не смел и думать, но Юрик не только не избавился от наполеоновских планов, но и вывел свои грезы на принципиально новый уровень.
– Что нам та нейросеть? – как-то раз сказал он по дороге домой. – Их уже все подряд пишут, даже школьники. А мы сделаем то, что никому еще не удавалось. Мы сделаем самый настоящий искусственный интеллект. Первый в истории рукотворный разум!
***
Хоть парню и удалось отпроситься загодя, на собрание он все равно опоздал. Тем не менее, в кабинете его ждали классная руководительница, сестра и школьный психолог. Девочка сидела напротив них как воробей перед воронами – накинув капюшон, втянув голову в плечи и уставившись в смартфон.
– Ну надо же, – с порога начала учительница. – А мы уж думали, опять не явитесь.
– Работа, – дежурно проворчал парень.
– Понимаем, – женщина кивнула. – Оборонное предприятие, защита родины… но и о сестре забывать не надо. Особенно, когда она вытворяет такое. Давай, Ника – удиви брата, как и меня сегодня утром.
Девочка покачала головой – мол, достала – и обнажила косо обкорнанное каре кислотно-зеленого цвета.
– Это еще что такое? – опешил парень.
– Вот и нам интересно, – сказала психолог. – Понимаете, Александр – каждый переживает потерю по-разному. Кто-то уходит с головой в работу, а кто-то – в игры. В этом нет ничего плохого – наоборот, нервную систему полезно разгружать. К тому же, игры определенно лучше алкоголя или иных… средств, – темноволосая молодая леди многозначительно поправила очки. – Но и пускать проблему на самотек нельзя, иначе все станет еще хуже. Ника полностью утонула в виртуальных мирах. Она почти не общается со сверстниками, не выходит из дома и забросила учебу – а вы до сих пор ничего не сделали.
– На тройки скатилась, – поддакнула учительница. – Стала рассеянная, невнимательная – будто спит на ходу. Я настоятельно советую вам заняться воспитанием. Если не справляетесь сами – есть определенные службы…
– Я все понял, – резко оборвал Шурик. – Прошу прощения, впредь не повторится. Идем.
– И учтите, – напутствовала вслед психолог. – У Ники переходный возраст. Стресс может оказаться слишком сильным. На вашем месте я бы взяла отпуск и вплотную занялась ее здоровьем.
Возьмешь тут, подумал Саша, бредя по коридору. Сестра в безразмерной толстовке до колен угрюмо топала следом и не сводила глаз с дисплея.
– Ты можешь хотя бы до дома потерпеть? – брат выхватил гаджет и сунул в карман.
– Эй! – девочка шлепнула спутника по плечу. – Отдай, мы почти закончили!
– Мы? – с удивлением переспросил он.
– Да, мы. Это онлайн-игра. И я не могу взять и поставить ее на паузу.
Шурик взглянул на смартфон – дурацкие квадратные человечки строили дурацкие квадратные здания. Вроде ничего опасного, но с зависимостью придется что-то делать.
– Слушай, – он вернул телефон, когда девочка села на пассажирское сиденье. – Я и так из кожи вон лезу, чтобы обеспечить нам нормальную жизнь. Чтобы ты не ходила в обносках и не ела всякую дрянь. Чтобы гуляла и тусовалась вместе со всеми. Чтобы не чувствовала себя изгоем и неудачницей. И я не требую взамен благодарности или восхищения. Я лишь прошу не вставлять нам палки в колеса. Ключевое слово – нам, понимаешь? Не мне, – брат с досады хлопнул по баранке. – Я-то как-нибудь справлюсь, а вот ты себя окончательно загубишь. Это не игра, Ника. Здесь нельзя просто удалить запоротого персонажа и начать заново.
– Бу-бу-бу… – передразнила девочка, сосредоточенно водя по экрану большими пальцами. А затем внезапно рассмеялась.
– Это не смешно, – проворчал Шурик.
– Тебе нравится мой психолог? – неожиданно спросила сестра.
– Ну… – кончики ушей обдало жаром. – Она красивая. С этим сложно спорить.
– Да то понятно. Просто ты ей тоже понравился. Смотрела на тебя с таким трепетным интересом – странно, что не заметил.
– С трепетным интересом? – брат приподнял бровь. – Ты где таких фразочек нахваталась?
– А, да подруга в чате написала.
– Ника, – Шурик решил сменить тему на более важную. – Пожалуйста, займись учебой. Я не хочу, чтобы к нам пришли инспекторы из КДН (https://ru.wikipedia.org/wiki/Комиссии_по_делам_несовершеннолетних_и_защите_их_прав). И уж тем более, – голос дрогнул, – не хочу, чтобы тебя забрали. Если бы это зависело только от меня, я бы работал круглые сутки, без перерывов и выходных, только бы с тобой все было хорошо. Но в одни ворота этот матч не выиграть, понимаешь?
– Понимаю… – Ника положила смарт на колени и отвернулась к окну, чтобы брат не видел покрасневших скул и заблестевших век. – Я буду стараться. Обещаю.
***
– Ну что, Макеев, готов менять мир к лучшему? – хвастливо спросил Юрий месяц спустя.
