Об универсальных и нишевых моделях машинного обучения, своих моделях и продуктах на основе ChatGPT

«Уметь отсеивать, где совсем хайп-хайп, а где есть то, на что надо в том или ином виде перестраиваться — это искусство, к сожалению. То есть говорить, что мы были ecommerce-компанией, а сейчас вышла GPT, и мы в спешке переобуваемся и начинаем делать сервисы на основе GPT — это в лучшем случае тупняк. А сказать, что сейчас мы используем GPT для своих организационных задач, для своих оптимизационных задач и вообще думаем о GPT каждый раз, когда запускаем что-то новое — это нормальный майндсет».«В Machine Learning есть два типа задач. Первый — это когда ты делаешь какой-то core-продукт, в котором без ML вообще никак-никак. А бывает, когда компания вообще немного про другое, а ML — это просто свистелки. Эти свистелки могут что-то оптимизировать, в каких-то случаях они оптимизируют очень многое и без такой оптимизации вообще никак — ты просто не выдержишь конкуренцию. Однако это все еще оптимизация, а не основной продукт или сервис».Гость: Арсений КравченкоML Engineer, Ntropy, Соавтор книги Machine Learning System DesignВедущий подкаста: Юра АгеевПодписывайтесь на канал анонсов подкаста: t.me/mspodcast.Подкаст выходит при поддержке конференции ProductSense productsense.io. Конференция пройдет 4–5 сентября 2023 в МосквеО чем говорим:2:22 Почему прогнозы в науке работают плохо4:53 Переход из продукта в ML7:19 История и причины успеха ChatGPT9:56 Почему попытки сделать продукты на основе ChatGPT часто проваливаются14:26 Как маленьким компаниям делать нишевые ML-инструменты 19:03 Почему нельзя без серьезных вложений сделать свою модель даже при наличии Open Source-решений20:20 Что такое Foundation Model24:39 Механика работы ChatGPT26:24 Почему успешные модели могут построить либо очень большие, либо маленькие компании28:04 Зачем одна большая компания выложила в открытый доступ продвинутую модель31:55 Что нужно, чтобы сделать свою Foundation Model36:09 Вопросы безопасности моделей37:25 Как зарабатывать на моделях38:46 Какой спектр задач может решать модель машинного обучения40:54 Гипотетический кейс: зачем супермаркету ChatGPT 42:53 Два типа задач в ML46:00 Почему опасно делать продукты на основе ChatGPT47:34 Модели-полуфабрикаты, внутренние Foundation-модели и модель как инструмент51:00 Использование ChatGPT при написании книги52:18 Как проверить свое представление о мире с помощью ChatGPT54:44 Модель и доступ к ней как продукт58:47 Зачем скрывать, какая модель под капотом твоего продуктаВ подкасте упоминаютсяЛичный сайт: arseny.infoКнига, которую Арсений пишет в соавторстве clck.ru/353iETTiming is Everything fabricegrinda.com/timing-is-everythingStratechery by Ben Thompson stratechery.comGPT-4 Technical Report cdn.openai.com/papers/gpt-4.pdf* В подкасте упоминается Meta — запрещенная в России организация