ML 엔지니어가 Amazon SageMaker 추론 파이프라인에 4개의 ML 모델을 배포해야 합니다. 모델은 다른 프레임워크로 빌드되었습니다. ML 엔지니어는 클라이언트가 invoke_endpoint 호출을 사용하여 각 모델에 대한 추론을 수행할 수 있도록 해야 합니다. 이 요구사항을 가장 비용 효율적으로 충족할 솔루션은 무엇입니까?
- A. SageMaker 멀티 모델 엔드포인트를 생성합니다.
- B. SageMaker 멀티 컨테이너 엔드포인트를 생성합니다.✓ 정답
- C. 여러 SageMaker 단일 모델 엔드포인트를 생성합니다.
- D. SparkML 작업을 실행하여 여러 엔드포인트를 생성합니다.
해설
【핵심 용어】 ▸ Multi-model Endpoint — 동일 프레임워크의 여러 모델을 하나의 엔드포인트에서 동적 로드 ▸ Multi-container Endpoint — 다양한 프레임워크의 여러 모델을 하나의 엔드포인트 내 별도 컨테이너에서 실행 【정답 포인트】 ▸ "다양한 프레임워크" + "하나의 invoke_endpoint" → Multi-container endpoint는 각 모델이 고유 컨테이너에서 실행되므로 프레임워크 독립적입니다. Single endpoint로 관리 오버헤드 최소화, 비용 효율적입니다. 【오답 체크】 (A) Multi-model endpoint는 동일 프레임워크(예: 여러 XGBoost 모델) 제약이 있어 부적절합니다. (C) 3개 엔드포인트 필요 = 인스턴스 리소스 3배 이상 비용 증가 (D) SparkML은 모델 배포 도구가 아니며 엔드포인트 생성 불가능합니다. 【시험 포인트】 다양한 프레임워크 → Multi-container endpoint / 동일 프레임워크 → Multi-model endpoint 구분이 중요합니다.