Проблематика інтеграції ML-компонентів у розподілену мікросервісну архітектуру веб-сервісу для контент-аналізу

Abstract

Робота присвячена розгорнутому аналізу інтеграції компонентів машинного навчання (ML) у мікросервісну архітектуру веб-сервісу для контент-аналізу. Показано, що поєднання вимог до низької латентності, високої доступності та відтворюваності з притаманними ML обмеженнями (ресурсоємний інференс, потреба у прискорювачах, дрейф даних і моделей) формує комплекс взаємопов’язаних викликів на перетині архітектури, даних, експлуатації та безпеки. Узагальнено підходи до декомпозиції на сервіси з чіткими контрактами (REST/gRPC, подієві шини), до організації єдиного контуру даних/ознак із паритетом офлайн/онлайн (feature store), до керування життєвим циклом моделей (MLOps: пайплайни, модельний реєстр, безпечні стратегії розгортання, а також до спостережуваності якості та продуктивності (SLI/SLO, трейси, «ML Test Score»). Обґрунтовано використання розподілених обчислень (Spark) і автоскейлінгу у Kubernetes для стабільного виконання SLO без деградації якості та з керованою вартістю.