웹 싱글 패턴

웹 싱글 패턴

웹 싱글 패턴(Web Single Pattern)은 머신 러닝 모델의 간단한 배포를 위해 고안된 아키텍처 디자인이다. 이 패턴은 모델, 전처리 과정, 인터페이스 등을 하나의 서버에 통합하여 관리와 배포를 간소화하는데 중점을 둔다. 특히 자원 제한이 있는 경우나 초기 모델 배포 및 검증이 목표인 경우에 유용하다.

 

사용 사례 및 아키텍처

웹 싱글 패턴은 예측 서버를 빠르게 구축해야 하는 상황에서 이상적인 선택이다. 이 패턴은 모델의 모든 구성 요소를 단일 웹 서버에 통합하여 초기 배포 시간을 줄이고, 관리 복잡성을 최소화한다. 이 패턴에서 모든 서비스가 하나의 서버에서 실행되며, 클라이언트와의 통신은 REST 또는 gRPC 인터페이스를 통해 이루어진다. 서버에는 데이터 전처리 파이프라인과 훈련된 모델이 포함되어 있어, 예측 요청에 대해 신속하게 응답할 수 있다.

 

이 패턴의 주요 통합 전략으로는 두 가지가 있다:

1. 모델 인 이미지 패턴(Model-in-image Pattern):
   모델을 도커 이미지나 서버 인스턴스에 직접 포함시켜 배포하는 방법으로, 모델의 특정 버전을 고정하고, 배포 시마다 동일한 환경을 제공한다.
2. 모델 로드 패턴(Model-load Pattern):
   서버 시작 시 외부 스토리지(예: 클라우드 스토리지나 데이터베이스)에서 모델을 로드한다. 이 방법은 모델 업데이트를 쉽게 할 수 있어, 전체 서버 이미지를 재구축할 필요가 없다.

 

장단점

웹 싱글 패턴의 주요 장점은 아키텍처의 단순성과 관리의 용이성이다. 모든 구성 요소가 단일 서버에 통합되어 있어, 시스템의 유지보수와 트러블슈팅이 상대적으로 간단하다. 또한, 동일한 프로그래밍 언어를 스택 전체에 걸쳐 사용할 수 있어 개발과 디버깅이 수월하다.

 

그러나 이 패턴의 단점도 존재한다. 먼저, 모든 구성 요소가 하나의 서버에 통합되어 있어, 작은 변경 사항이라도 전체 서버의 재배포가 필요하다. 이는 업데이트가 빈번하게 필요한 경우 비효율적일 수 있다. 또한, 특정 기능에 대한 트래픽이 증가할 때, 해당 기능만을 확장할 수 없고 전체 서버를 복제해야 하므로 확장성에 한계가 있다.

 

고려사항

웹 싱글 패턴을 사용할 때는 시스템 확장성과 유지보수를 염두에 두고 계획하는 것이 중요하다. 각 구성 요소의 업데이트 방법과 스케일링 관리 방안을 사전에 설정해야 하며, 시스템이 성장함에 따라 이 패턴이 계속해서 적합할지 평가해야 한다.

 

이와 같은 웹 싱글 패턴은 간단하고 신속한 모델 배포를 목표로 하며, 초기 개발 단계에서 유용한 도구로 활용될 수 있다. 그러나 시스템이 확장됨에 따라 더 복잡한 아키텍처로 전환을 고려해야 할 수도 있다.

 

Sample

ml-system-in-actions/chapter4_serving_patterns/web_single_pattern at main · shibuiwilliam/ml-system-in-actions

References

[1] https://redpanda.com/blog/how-to-choose-right-architecture-pattern

[2] https://mercari.github.io/ml-system-design-pattern/Serving-patterns/Web-single-pattern/design_ko.html