Хороший, плохой, искусственный: Мифы вокруг ИИ и реальные примеры его использования

Странно, скажете вы, ведь книга-то об ИИ! Но вспомните нашу главную мысль: почти невозможно придумать что-то, что относилось бы сразу ко всем видам нейросетей. В основном мы будем обсуждать их конкретные типы, для которых у нас есть определения, и это позволит нам найти общий язык.

Есть забавная, но достаточно меткая формулировка: «ИИ – то, что еще не сделано». Как только приложение начинает работать стабильно, оно становится привычным и уже не воспринимается как ИИ. Роботы-пылесосы, автопилот в самолетах, автозаполнение в телефонах, распознавание почерка и устной речи, спам-фильтры, проверка орфографии… Да-да, когда-то даже это считалось сложной задачей!

Все эти инструменты прекрасны. Они незаметно улучшают нашу жизнь. Именно такие ИИ нам и нужны! А наша книга – о проблемных видах искусственного интеллекта (вряд ли вы захотите прочесть 300 страниц о достоинствах ИИ, занимающегося проверкой орфографии). Тем не менее важно понимать: далеко не каждый ИИ вреден.

Некоторые новые технологии со временем, надеемся, станут обыденностью. Сегодня беспилотные автомобили попадают в новости из-за аварий и жертв[21]. Но безопасное автономное вождение – решаемая задача, хотя ее сложность часто недооценивают. Гораздо серьезнее может оказаться проблема массовой потери рабочих мест, если эта технология получит широкое распространение: миллионы людей водят грузовики, такси или работают в каршеринге. И все же, если удастся решить проблему безопасности и принять необходимые социальные и политические меры, возможно, однажды мы станем воспринимать беспилотные автомобили такой же естественной частью повседневной жизни, как и лифты.

Однако мы думаем, что некоторые виды ИИ, особенно предиктивного типа, вряд ли когда-нибудь станут обыденностью. Точно предсказывать социальное поведение людей – технически неразрешимая задача. А определять судьбу человека на основе заведомо ошибочных прогнозов всегда сомнительно с моральной точки зрения.

Для того чтобы лучше понять, почему обобщения в отношении ИИ недопустимы, рассмотрим тревожащий правозащитников пример – технологию распознавания. На момент написания этой книги она уже привела к шести ошибочным арестам в США, и все арестованные были чернокожими. Стоит ли запретить полиции использовать распознавание лиц из-за того, что оно чаще дает сбои, идентифицируя чернокожих?

В этих спорах легко упустить из виду важный факт: каждый из этих ложных арестов связан с цепочкой ошибок в работе полиции, преимущественно человеческих. Роберта Уильямса арестовали за кражу в магазине, основываясь в том числе на показаниях охранника, которого даже не было на месте преступления[22]. Рэндалла Рида задержали в Джорджии за кражу, совершенную в Луизиане – штате, где он никогда не бывал[23]. Поршу Вудрафф идентифицировали по фотографии 2015 года, хотя была доступна более свежая – с водительских прав 2021 года[24]. И так далее.

Полицейские ошибки, приводящие к арестам невиновных, случаются ежедневно. И скорее всего, без них не обойдется и в будущем – независимо от того, будет использоваться технология распознавания лиц или нет. Сотни тысяч поисков по лицам уже проведены, и ошибок оказалось крайне мало[25]. По данным Национального института стандартов и технологий, с 2014 по 2020 год точность выросла в 50 раз: теперь сбои случаются лишь в 0,08% случаев[26].

ИИ по распознаванию лиц обычно работает точно: задача достаточно конкретна. Его обучают на огромных базах фотографий, помечая, какие снимки принадлежат одному и тому же человеку. Получив достаточно данных, нейросеть учится различать черты лиц. Это сильно отличается от других задач – например, определения пола или эмоций, где ошибок куда больше[27],[28]. Ключевое отличие: все, что нужно для узнавания лица, есть на снимке. А чтобы угадать пол или настроение, приходится делать предположения, что сразу снижает точность.

Правозащитники часто ставят ИИ по распознаванию лиц в один ряд с другими спорными технологиями, применяемыми в правосудии, вроде прогнозирования преступлений, несмотря на то что технологии совершенно разные, не говоря уже об их точности. К примеру, большинство людей, которых ИИ относит к группе высокого риска, на деле не совершают новых преступлений.

Главная опасность распознавания лиц в том, что оно работает слишком хорошо и может попасть не в те руки. Кашмир Хилл в книге «Ваше лицо принадлежит нам» (Your Face Belongs To Us) приводит немало примеров злоупотреблений[29]. Например, некоторые режимы используют эту технологию, чтобы выявлять и преследовать участников мирных протестов[30].

Распознавание лиц может стать опасным оружием и в руках частных компаний. Вот вам история: в 2022 году адвоката Николетт Ланди не пустили на концерт Мэрайи Кэри на нью-йоркской арене «Мэдисон-сквер-гарден»[31]. Билеты за $400 купил ее парень: это был подарок на день рождения. Ланди оказалась не одинока: многих других юристов тоже не пустили на концерт. Почему? Владельцы арены забанили всех адвокатов из фирм, когда-либо судившихся с ними, неважно, участвовал ли конкретный юрист в иске и как давно он ходит на концерты; даже завсегдатаев разворачивали от дверей. И все это с помощью системы распознавания лиц.

Критики технологии твердят: она не работает, ее надо запретить, а исследователей – пристыдить. Но так можно упустить реальную пользу. Например, однажды Министерство внутренней безопасности США за три недели раскрыло кучу старых дел о насилии над детьми. Каким образом? Искали преступников по фото и видео, которые те сами выложили в соцсетях[32]. Так удалось опознать сотни потерпевших и насильников. Не стоит забывать и про бытовые удобства: эта же технология позволяет нам разблокировать собственные телефоны и сортировать фотографии.

Стоит уточнить: хотя распознавание лиц может быть очень точным при правильном использовании, на практике оно нередко дает сбои. Скажем, если применять его не к четким фото, а к зернистой картинке с камер наблюдения, вероятность ошибки резко возрастает. После того как американская сеть аптек Rite Aid внедрила подобную систему, сотрудники то и дело безосновательно обвиняли покупателей в кражах. Ложных срабатываний было несколько тысяч. Компания изо всех сил пыталась держать технологию в тайне. К счастью, власти не дремали: Федеральная торговая комиссия запретила Rite Aid использовать распознавание лиц для слежки за покупателями на целых пять лет[33].

Подытожим: чтобы найти баланс в использовании этой неоднозначной технологии, нужно активное общественное обсуждение. Нам еще только предстоит определить, где распознавание лиц уместно, а где нет, и выработать четкие правила, которые не позволят ни властям, ни бизнесу злоупотреблять этой технологией.

Череда любопытных совпадений, которая привела к появлению этой книги

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Источники

1

Heaven WD. "The Inside Story of How ChatGPT Was Built from the People Who Made It." MIT Technology Review. March 3, 2023. https://www.technologyreview.com/2023/03/03/1069311/inside-story-oral-history-how-chatgpt-built-openai/.

2

Ptacek TH. "I’m sorry, I simply cannot be cynical about a technology that can accomplish this." X (formerly Twitter). December 1, 2022. https://twitter.com/tqbf/status/1598513757805858820?lang=en.

3

Hu K. "ChatGPT Sets Record for Fastest-Growing User Base – Analyst Note." Reuters. February 2, 2023. https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/.

4

DeGeurin M. "Why Google Isn’t Rushing Forward with AI Chatbots." Gizmodo. December 14, 2022. https://gizmodo.com/lamda-google-ai-chatgpt-openai-1849892728.

5

Macintosh B [@bmac_astro]. "Speaking as someone who imaged an exoplanet 14 years before JWST was launched, it feels like you should find a better example?" X (formerly Twitter). February 7, 2023. https://twitter.com/bmac_astro/status/1623136549524353024.

6

Wittenstein J. "Bard AI Chatbot Just Cost Google $100 Billion." Time. February 9, 2023. https://time.com/6254226/alphabet-google-bard-100-billion-ai-error/.

7

Christian J. "CNET Sister Site Restarts AI Articles, Immediately Publishes Idiotic Error." Futurism. Updated February 1, 2023. https://futurism.com/cnet-bankrate-restarts-ai-articles.

8

Cole S. "’Life or Death:’ AI-Generated Mushroom Foraging Books Are All over Amazon." 404 Media. August 29, 2023. https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/.

9

Brittain B. "OpenAI Asks Court to Trim Authors’ Copyright Lawsuits." Reuters. August 29, 2023. https://www.reuters.com/legal/litigation/openai-asks-court-trim-authors-copyright-lawsuits-2023-08-29/.

10

Valyaeva A. "AI Image Statistics: How Much Content Was Created by AI." Insight (blog). Everypixel Journal. August 15, 2023. https://journal.everypixel.com/ai-image-statistics.

11

Kapoor S, Narayanan A. "How to Prepare for the Deluge of Generative AI on Social Media." Kn First Amend Inst. June 16, 2023. http://knightcolumbia.org/content/how-to-prepare-for-the-deluge-of-generative-ai-on-social-media.

12

NVIDIA Game Developer. "NVIDIA ACE for Games Sparks Life into Virtual Characters with Generative AI." YouTube video, 2:02. May 28, 2023. https://www.youtube.com/watch?v=nAEQdF3JAJo.

13

Dalton A. "AI Is the Wild Card in Hollywood’s Strikes. Here’s an Explanation of Its Unsettling Role." AP News. July 21, 2023. https://apnews.com/article/artificial-intelligence-hollywood-strikes-explained-writers-actors-e872bd63ab52c3ea9f7d6e825240a202.

14

Crawford K. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press; 2021.

15

Narayanan A. "Students Are Acing Their Homework by Turning in Machine-Generated Essays. Good." AI Snake Oil. October 21, 2022. https://www.aisnakeoil.com/p/students-are-acing-their-homework.

16

Raji ID, Kumar IE, Horowitz A, Selbst A. "The Fallacy of AI Functionality." In 2022 ACM Conference on Fairness, Accountability, and Transparency. Seoul Republic of Korea: ACM; 2022. p. 959–72. https://dl.acm.org/doi/10.1145/3531146.3533158.

17

Ross C, Herman B. "Denied by AI: How Medicare Advantage Plans Use Algorithms to Cut Off Care for Seniors in Need." STAT. March 13, 2023. https://www.statnews.com/2023/03/13/medicare-advantage-plans-denial-artificial-intelligence/.

18

Varner M, Sankin A. "Suckers List: How Allstate’s Secret Auto Insurance Algorithm Squeezes Big Spenders." The Markup. February 25, 2020. https://themarkup.org/allstates-algorithm/2020/02/25/car-insurance-suckers-list.

19

Большинство примеров в нашей книге, в том числе и этот, взяты из американской действительности: мы живем и работаем в США. Но выводы, которые мы делаем, вполне применимы и к другим странам.

20

Robinson DG. Voices in the Code: A Story about People, Their Values, and the Algorithm They Made. New York: Russell Sage Foundation; 2022.

21

Marcus G. "Face It, Self-Driving Cars Still Haven’t Earned Their Stripes." Marcus on AI (blog). August 19, 2023. https://garymarcus.substack.com/p/face-it-self-driving-cars-still-havent.

22

Ryan-Mosley T. "The New Lawsuit That Shows Facial Recognition Is Officially a Civil Rights Issue." MIT Technology Review. April 14, 2021. https://www.technologyreview.com/2021/04/14/1022676/robert-williams-facial-recognition-lawsuit-aclu-detroit-police/.

23

"Facial Recognition Tool Led to Mistaken Arrest, Lawyer Says." AP News. January 2, 2023. https://apnews.com/article/technology-louisiana-baton-rouge-new-orleans-crime-50e1ea591aed6cf14d248096958dccc4.

24

Hill K. "Eight Months Pregnant and Arrested after False Facial Recognition Match." The New York Times. August 6, 2023. https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html.

25

Cipriano A. "Facial Recognition Now Used in over 1,800 Police Agencies: Report." The Crime Report. April 7, 2021. https://thecrimereport.org/2021/04/07/facial-recognition-now-used-in-over-1800-police-agencies-report/.

26

Crumpler W. "How Accurate Are Facial Recognition Systems – and Why Does It Matter?" Strategic Technologies Blog. CSIS. April 14, 2020. https://www.csis.org/blogs/strategic-technologies-blog/how-accurate-are-facial-recognition-systems-and-why-does-it.

27

Buolamwini J, Gebru T, Raynham H, Raji D, Zuckerman E. "Gender Shades." MIT Media Lab. https://www.media.mit.edu/projects/gender-shades/overview/. Accessed February 15, 2024.

28

Buolamwini J, Gebru T. "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification." In: Proceedings of the 1st Conference on Fairness, Accountability and Transparency. PMLR; 2018. pp. 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html.

29

Hill K. Your Face Belongs to Us: A Secretive Startup’s Quest to End Privacy as We Know It. New York: Random House; 2023.

30

"Russia: Police Target Peaceful Protesters Identified Using Facial Recognition Technology." Amnesty International. April 27, 2021. https://www.amnesty.org/en/latest/press-release/2021/04/russia-police-target-peaceful-protesters-identified-using-facial-recognition-technology/.

31

Hill K, Kilgannon C. "Madison Square Garden Uses Facial Recognition to Ban Its Owner’s Enemies." The New York Times. December 22, 2022. https://www.nytimes.com/2022/12/22/nyregion/madison-square-garden-facial-recognition.html.

32

Brewster T. "Exclusive: DHS Used Clearview AI Facial Recognition in Thousands of Child Exploitation Cold Cases." Forbes. August 7, 2023. https://www.forbes.com/sites/thomasbrewster/2023/08/07/dhs-ai-facial-recognition-solving-child-exploitation-cold-cases/.

33

"Rite Aid Corporation, FTC v." Cases and Proceedings. Federal Trade Commission. 2023. https://www.ftc.gov/legal-library/browse/cases-proceedings/2023190-rite-aid-corporation-ftc-v.