Добавить
Уведомления

Что скрывается за деплоем сервиса в ML-платформе | Алина Баймашева

Всё умеют шаблонизировать сервисы, работать с Docker и Kubernetes, но что еще важно при релизе ML-модели? Разберем, как деплой связан с мониторингом (observability), feature store, артефактами и реестром моделей. -Как устроен процесс релиза модели и чего от него хочется -Обзор инструментов (ClearML, MLflow, MLRun) -Разбор MLRun: мониторинг, feature store, артефакты, реестр моделей -Реализация на примере: сравнение «до» и «после» -Возможные сложности: как научиться деплоить на CPU/GPU -Полезные материалы и тестовый проект О спикере Последние 5 лет руковожу разработкой различных AI-сервисов: текстовые и голосовые AI-ассистенты с применением больших языковых моделей, предсказание оценки недвижимости, антифрод и модерация контента, рекомендательные системы и компьютерное зрение. У меня большой опыт разработки в таких сферах, как бухгалтерия и кадры, медиа, реклама, недвижимость, крипто-финтех.

Иконка канала IT-конференция Merge
3 подписчика
12+
2 просмотра
3 дня назад
12+
2 просмотра
3 дня назад

Всё умеют шаблонизировать сервисы, работать с Docker и Kubernetes, но что еще важно при релизе ML-модели? Разберем, как деплой связан с мониторингом (observability), feature store, артефактами и реестром моделей. -Как устроен процесс релиза модели и чего от него хочется -Обзор инструментов (ClearML, MLflow, MLRun) -Разбор MLRun: мониторинг, feature store, артефакты, реестр моделей -Реализация на примере: сравнение «до» и «после» -Возможные сложности: как научиться деплоить на CPU/GPU -Полезные материалы и тестовый проект О спикере Последние 5 лет руковожу разработкой различных AI-сервисов: текстовые и голосовые AI-ассистенты с применением больших языковых моделей, предсказание оценки недвижимости, антифрод и модерация контента, рекомендательные системы и компьютерное зрение. У меня большой опыт разработки в таких сферах, как бухгалтерия и кадры, медиа, реклама, недвижимость, крипто-финтех.

, чтобы оставлять комментарии