PyCon KR 2023 MLOps Model Serving Architecture with BentoML 김성렬

MLOps 의 분야중 하나인 Model Serving 에 대해 개략적인 내용을 정리해보려합니다. BentoML이라는 프레임워크를 통해 Model Serving 이라는 분야에서 어떤 것들을 해야하는지 설명합니다.
이 세션은 아래 두가지 대주제를 다룹니다.
Model Serving Framework: BentoML, torchserve, tenrsorflowserving, triton-inference-server
Model Serving Platform: kserve, yatai, sagemaker(deploy part)
주로 BentoML을 통해 예시를 보이고 다른 framework들을 비교합니다.
김성렬
Naver Biz CIC 광고추천 쪽에서 Serving 일을 하고있습니다.