DEVIEW 2021

하이퍼커넥트에서는 다양한 서비스들이 개발되고 있고 이에 사용할 딥러닝 모델들이 연구되고 있습니다. 하지만 연구가 빠르게 끝나도 이 모델들을 실제로 배포하는 데에는 많은 어려움이 따릅니다. 모델을 빠르게 개발하려면 연구가 끝난 모델을 실제로 출시해서 적용해보고 결과를 얻어야 하는데 배포에 들어가는 시간이 길어질수록 모델 개발 사이클이 느려지는 문제가 있습니다.

본 세션에서는 모델을 관리하고 빠르게 배포하기 위해 개발한 시스템 전반에 대해 소개하고자 합니다. GitOps을 통해 모델을 관리하고 자체 제작한 Kubernetes 컨트롤러를 통해 명령어 한 줄이면 모델을 서버에 배포할 수 있게 했습니다. 세션 내용은 모델 배포 사이클에 어떤 어려움이 있는지, 또 시스템 구성요소들이 이러한 어려움을 어떻게 해결하는지를 소개합니다.