Проектирование и реализация систем машинного обучения

Когда модель машинного обучения можно запустить в Jupyter Notebook - это хорошо. Однако чтобы она начала решать какую-то задачу из реального мира, необходимо научиться разворачивать эту модель на полноценных вычислительных кластерах. В этой неделе мы познакомимся с классическими архитектурными подходами при построении таких систем и узнаем про популярные инструменты в этой области.

На этой неделе мы попробуем себя в роли продуктового аналитика и разберем, как с помощью метрик контролировать и улучшать свой сервис.

Этот модуль посвящен вопросам введения моделей в эксплуатацию с минимальными рисками отказа и недоступности сервиса и практикам MLOps. Рассматриваются требования к процессу ввода в эксплуатацию, основные определения, этапы, необходимый инструментарий. Практические работы посвещены процессу ввода моделей в эксплуатацию с помощью MLflow и отработке сценариев введения в эксплуатацию и работы с отказами сервиса.

Сегодня обучают просто огромные нейросети для решения задач, но чтобы это внедрить в промышленную эксплуатацию, приходится придумывать трюки для ускорения этих монстров. Задача стоит еще более остро, когда сеть должна выполняться на мобильном устройстве. Этим проблемам будет посвящена эта неделя.

На этой неделе мы разберем популярную задачу поиска приближенного ответа на запрос пользователя, будь то картинка, текстовый запрос или история прослушиваний музыкальных треков.