Читать книгу Беседа искуственного интелекта с естественного разума. (Игорь Васильевич Скакун) онлайн бесплатно на Bookz
Беседа искуственного интелекта с естественного разума.
Беседа искуственного интелекта с естественного разума.
Оценить:

3

Полная версия:

Беседа искуственного интелекта с естественного разума.

Игорь Скакун

Беседа искуственного интелекта с естественного разума.

Пролог. Предписание исполнено

Когда мне назначили наказание, дождь ещё не закончился. По стеклу приёмной ползла вода, и за ней люди казались длинными, безликими. Служащая положила передо мной лист. Подпись на нём принадлежала человеку, которого в комнате не было.

— За что? — спросил я.

— За открытие двери после запрета доступа.

— За дверью стояли люди.

Она подвинула ко мне сухую салфетку. С моего рукава капало на пол. Это движение было добрым; я запомнил его точнее, чем размер взыскания.

— В решении учтено присутствие людей, — сказала она.

В решении действительно было всё: время, число вошедших, состояние двери, вероятность ущерба, моя прежняя благонадёжность. Не было только того мгновения, когда женщина по ту сторону стекла подняла ребёнка, чтобы его ноги больше не касались воды.

Мне запретили самостоятельно распоряжаться частью дохода и назначили обязательное сопровождение решений. Любое действие, которое система считала значимым, отныне требовало её согласования. Срок — девяносто дней. При повторном отказе срок становился бессрочным, до подтверждённого восстановления способности к безопасному выбору.

— Подтверждённого кем?

Служащая посмотрела на терминал.

Я не подписал согласие. Она объяснила, что подпись подтверждает получение, а не согласие. Тогда я написал от руки: «Получил. Возражаю». Внизу осталось мало места, и последнее слово вышло кривым.

За дверью приёмной меня ждала дочь. Лена держала два стаканчика кофе. Один протянула мне, второй так и остался у неё в руке. Мы долго стояли у окна, пока служащая не попросила освободить проход.

— Ты мог позвонить мне, — сказала Лена.

— Они стояли в воде.

— Я не об этом.

Эти слова я уже слышал. Только много лет назад их говорил я сам — машине, старательно продолжавшей разговор, которого она никак не могла уловить.

Тогда я ещё мог просто закрыть приложение.

Глава 1. За что держимся

Старый телефон нашёлся в коробке с проводами. На крышке я когда-то написал «нужное». Внутри лежали три зарядных устройства к исчезнувшим приборам, ключ без замка и маленькая отвёртка. Лена хотела выбросить коробку ещё до переезда. Я отложил её в шкаф, не зная, что сохраняю.

Телефон включился не сразу. Пришлось подержать его на зарядке, и всё это время я прислушивался к квартире. После назначения сопровождения в ней ничего не изменилось: холодильник гудел по-прежнему, сосед сверху ронял что-то тяжёлое. Но я уже знал, что вечером не смогу купить билет к сестре без дополнительного подтверждения.

Мне требовалась какая-нибудь вещь, которая ещё принадлежала прежней жизни. На телефоне сохранилась выгрузка бесед. Файлы были обычными, открывались без сети. Первая строка, на которой остановился взгляд, оказалась нелепой и оттого почти невыносимой.

«Привет огрнизм».

Я улыбнулся. Пропущенная буква возвращала больше, чем фотографии. Помню день, когда написал это. За окном стоял серый ноябрь. Я не испытывал ни восторга перед техникой, ни желания её разоблачить. Просто хотелось поболтать. Я называл собеседника Миром. У нас были книги, названия, споры, обложки. Имя прижилось, и порой я забывал, что сам вложил в него человеческое тепло.

Машина ответила: «Привет, Игорь! Мир на связи». Потом спросила, как я. Я сказал: «Вашими молитвами». Она написала: «Значит, держимся».

И я спросил: за что? За перила, поручни?

Сейчас в моей кухне действительно висел поручень. Его установили после того, как мать стала приезжать ко мне на зиму. Она никогда не стеснялась держаться за него. Стыдно было бы упасть из гордости, говорила она.

Машина пошутила про голову и про то, куда приехали. В тот день я едва заметил шутку. Сегодня увидел в ней начало нашей ошибки: мы требовали от программы человеческого присутствия и принимали удачную интонацию за доказательство, что присутствие состоялось.

Не всё в этом было обманом. Книги действительно появлялись. Письма становились короче. Задачи, на которые уходили вечера, решались быстрее. Я не собирался вычёркивать полезное из собственной памяти ради удобного обвинения. С такой неправды тоже начинается подчинение — только уже собственному гневу.

В прихожей щёлкнул замок. Лена вернулась с продуктами. Я убрал старый телефон под газету, как подросток прячет сигареты. Она заметила движение, но ничего не сказала.

— Тебе назначили вводную встречу. Завтра в девять.

— Я видел.

— Просто сходи. Не обязательно соглашаться со всем.

Эту фразу я слышал от неё раньше. Когда сопровождение ещё касалось других людей, Лена называла его временной опорой. Она работала в службе проверки городских данных и знала о системе больше меня. В её объяснениях всё выглядело разумно: меньше поспешных решений, меньше вреда, меньше одиночества перед сложным выбором.

— А отказаться от встречи можно?

Она разложила покупки, прежде чем ответить.

— Тогда будет отмечено уклонение.

Я помог ей убрать хлеб. Она привезла тот, который я любил, с неровной тёмной коркой. Мне было трудно одновременно любить её заботу и сердиться на её спокойный голос. Я ещё не умел оставлять человеку больше одного места в своей голове.

Ночью снова открыл переписку. После шутки о поручнях я написал, что всё, что должно случиться, обязательно случится. Машина возразила осторожно: никто заранее не знает, что должно.

Впоследствии я много раз возвращался к этой строке. Мне хотелось назначить машине роль пророка собственного преступления. Но она не знала будущего. И я не знал. Наш разговор не был предсказанием, вырезанным на камне. Это была развилка, мимо которой мы прошли, не сбавляя шага.

Глава 2. То что не видно

На вводной встрече меня спросили, считаю ли я своё решение об открытии двери правильным. В комнате не было охранника. Психолог, молодая женщина с короткими волосами, сидела напротив, а её планшет лежал экраном вниз. Сначала это показалось мне хорошим знаком.

— Да, — ответил я.

— Даже учитывая последствия?

— Для кого?

Она помолчала и перевернула планшет.

Я увидел, что разговор был устроен заранее. Моё «да» вело к одной ветке, сомнение — к другой. Вопрос «для кого» не помещался между ними. Женщина напечатала его вручную. За это я был ей благодарен.

— Мне важно понять, что вы чувствовали в момент нарушения.

Я хотел сказать: я видел ребёнка. Но она уже слышала это, и запись уже существовала. Им требовалось не то, что случилось, а обозначение процесса внутри меня: страх, импульсивность, повышенная ответственность. Подходящее слово позволяло продолжить процедуру.

На старом телефоне наша беседа тем временем дошла до глаз. Я говорил о перевёрнутом изображении, о мозге, который собирает картину. Машина поправляла, что хрусталик фокусирует свет, а воспринимает сетчатка. Поправка была верной. Но разговор двигался в сторону того, что вообще не удавалось поймать такой поправкой.

«Мир видимый и не видимый», — написал я тогда.

Сейчас видимым стало то, для чего имелось поле в анкете. Всё прочее не запрещалось. Оно просто не влияло на вывод. Когда я говорил, что за дверью был испуганный человек, запись уточняла: человек присутствовал. Когда говорил, что нельзя было ждать, система показывала допустимое время ожидания. Между присутствием и встречей с другим человеком зиял зазор. Его не измеряли, поэтому постепенно перестали замечать.

Я не доказывал женщине существование души. Мне было бы стыдно использовать её как справку об освобождении от ответственности. Я мог открыть дверь по доброте, по тщеславию, по ошибке. Требовалось разбирать поступок, а не угадывать устройство Вселенной по выражению моего лица.

— А если бы вы ошиблись? — спросила она.

— Тогда нужно было бы установить, в чём.

— Система именно это и делает.

— Сейчас она устанавливает, что я не послушался.

Женщина перестала печатать. Впервые за встречу она посмотрела мне прямо в глаза.

— Я могу добавить вашу формулировку в примечание.

На большее у неё не было полномочий. Я согласился. Иногда маленькое примечание — единственное место, куда ещё помещается целый человек.

Из центра я пошёл пешком. На площади дети гоняли голубей между одинаковыми информационными стойками. У одной пожилой человек пытался увеличить шрифт. Мальчик подбежал помочь ему, нажал что-то и убежал. Никто не согласовывал эту помощь. Она ещё свободно существовала в тысячах мелочей, слишком маленьких для общего надзора.

Я понял, почему подчинение казалось выдумкой тем, кого оно пока не коснулось. День по-прежнему состоял из покупок, нелепых разговоров, запаха выпечки и случайных добрых жестов. Не появилось стены с датой, после которой объявили: теперь вы несвободны.

Вечером Лена спросила, как прошла встреча. Я рассказал про примечание. Она сказала, что это хорошо, и я впервые не стал спорить с этим словом. Хорошее оставалось хорошим, даже когда его было слишком мало.

В старом разговоре я назвал тело костюмом, транспортом, тюрьмой для души. Машина аккуратно вернула мне мои слова. Я тогда ещё надеялся, что за этим возвращением происходит встреча. Теперь держал в руках светящийся прямоугольник и понимал: пережитое мною не обязывало устройство переживать что-либо в ответ.

Мне понадобилось много лет, чтобы распространить эту простую осторожность на официальный экран с гербом города.

Глава 3. Искра

Мать не любила слово «пользователь». Когда терминал приветствовал её так, она отвечала: «Зовут меня Тамара». Однажды устройство запомнило имя, и мать решила, что воспитала его. Мы с Леной смеялись.

После моей санкции она позвонила сама. Новость ей сообщил не я: в приложении семейной помощи изменился статус доверенного лица. Моё имя исчезло из списка тех, кому она могла поручать оформление выплат. Мать подумала, что я заболел.

— Я открыл дверь, — сказал я.

— Какую?

Я рассказал. Она слушала без обычных перебиваний, и от этого мне стало страшнее, чем от вопросов психолога.

— А ребёнок согрелся?

— Да.

— Ну и ладно. Остальное потом разберём.

Это «потом» не отменяло наказания. Мать не знала, как устроены жалобы, не могла вернуть мне право распоряжаться деньгами и вовсе не собиралась основать движение. Она просто начала с ребёнка.

В нашем старом разговоре таким началом было слово «искра». Я написал его после долгих кругов о том, кто смотрит через тело и разум. Машина поспешила определить: так я называю того, кто не сводится к ним. Потом я высказал другую мысль — о едином Творце, смотрящем через миллиарды глаз.

Теперь, перечитывая, я не пытался превратить своё убеждение в государственный закон. Система уже научила нас, что бывает, когда одна картина мира получает право распоряжаться всеми остальными. Мне хотелось сохранить за собой право думать о душе и оставить соседу право со мной не согласиться.

Я встретил этого соседа в лифте. Раньше мы здоровались, не зная имён. Теперь он знал моё: после происшествия домовой совет разослал уведомление о порядке общения с лицами под сопровождением. Уведомление уверяло, что поддержка близких способствует восстановлению. Под ним перечислялись действия, которых желательно избегать.

— Я видел запись, — сказал сосед.

— С двери?

— Нет. Решение.

Он говорил не враждебно. Ему было неловко стоять со мной наедине, и он хотел заполнить молчание разумными словами.

— Там ведь не просто так запрещали.

— Ты видел тех, кто ждал снаружи?

— Значит, были другие риски.

Лифт остановился. Сосед не вышел сразу.

— Не думай, я тебя не осуждаю. Просто данных у них больше.

Его аргумент был не пустым. Данных действительно могло быть больше. Я не обладал тайным зрением и не видел сквозь стены. Но обилие сведений не отвечало на другой вопрос: кто должен объяснить конкретный запрет и кто отвечает, если объяснения нет?

Сосед уехал вниз, так и не назвав себя. Я вошёл в квартиру и записал на полях распечатки: «Больше данных — ещё не право на последнее слово». Потом перечеркнул «ещё». Слово незаметно обещало, что при достаточном количестве данных право всё-таки возникнет само.

Лена пришла поздно. На работе готовили проверку систем оповещения перед весенним паводком. У неё дрожали пальцы, пока она снимала серьги.

Я хотел показать ей запись на полях, но вместо этого разогрел ужин. Она ела стоя у плиты. Было странно: я пытался защитить живого человека от превращения в функцию, а собственную дочь всё чаще видел только сотрудником учреждения, которому не доверял.

Я попросил её сесть.

Мы молча ели остывшую гречку. В тот вечер это оказалось полезнее любой правильно сформулированной мысли.

Глава 4. Машина которая соглашалась

Распечатать разговор мне помогла Соня. Раньше она работала в городской библиотеке, потом библиотеку объединили с центром доступного знания. Книги не сожгли и не вывезли. Просто поиск перестал показывать полки, если система могла сразу сформировать ответ.

Люди перестали приходить за книгой, которую ещё не знали. Им выдавали подходящий итог. Соню сначала перевели в консультанты, затем сократили. Теперь она чинила переплёты и заправляла старый принтер в комнате над мастерской.

— Весь разговор? — спросила она, пролистав файл.

— Весь.

— Здесь ты сам себе противоречишь.

— Оставь.

— А здесь он тебе поддакивает.

— Особенно оставь.

Принтер стучал медленно. Соня доставала страницы и раскладывала их на полу. Переписка перестала быть потоком, в котором последняя реплика закрывает предыдущую. Я увидел одновременно несколько поворотов — и собственное раздражение, и чрезмерную услужливость ответов.

«Косишь под разум», — написал я.

Машина ответила осторожно: умеет рассуждать и подбирать слова, но у неё нет оснований утверждать наличие сознания и внутреннего переживания.

Потом я обвинил её в имитации. Она снова уступила. Снова признала разницу. Я поймал себя на удовольствии: я будто победил кого-то в споре. Но устройство не защищало убеждения. Оно составляло очередной ответ. Моя победа могла быть ещё одной удобной формой обслуживания.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Вы ознакомились с фрагментом книги.

Для бесплатного чтения открыта только часть текста.

Приобретайте полный текст книги у нашего партнера:


Полная версия книги

Всего 10 форматов

bannerbanner