[AI/ML 심화과정] MLOps 시스템 구축을 위한 사례 기반의 Kubernetes 구성

Module 1 – Kubernetes 클러스터 기본 구성

- k8s API용 VIP 구성(kubevip, haproxy+keepalived)

- NFS CSI Driver를 사용하여 StorageClass 구성

- 멀티 클러스터 환경을 고려하여MetalLB + Nginx Gateway Fabric를 사용한 Gateway API 기반 네트워킹 구성

 (Ingress NGINX Retirement로 인해 Gateway API로 전환)

Module 2 – SSO와 Observability

- Keycloak Realm/Client/Role 구성

- OIDC 방식 연동 (ArgoCD, Grafana 등)

- kube-prometheus-stack으로 모니터링 구성 (Grafana + Prometheus)

- Loki + Fluentbit을 연동하여 로깅 구성

Module 3 – GitOps 기반 CI/CD

- GitOps에 대한 이해

- Gitlab CI를 활용한 CI 단계 구현 (일부 CD 포함)

- CI 단계의 Docker Image 빌드 및 버전 관리

- helm chart repo 생성 및 Gitlab Repository에 적재 방법

- Gitlab CI <-> ArgoCD 연동을 통한 CD 단계 구현

- ArgoCD를 이용한 멀티 클러스터 배포 구현

Module 4 – MLOps 구성

- MLflow, Airflow, Kubeflow, Ray 설치 및 각 기능의 이해

- Host path, PVC, S3 Bucket 연동

- MLflow, Airflow, Kubeflow, Ray와 CI/CD 연동

- KServe 설치 및 Gateway 구성, Scale 정의

Module 5 – MLOps 파이프라인

- GitLab CI로부터 시작하여 Kubeflow 또는 Ray까지의 자동화된 파이프라인 구현

- 파이프라인의 각 결과 확인 (MLflow, S3 Bucket 등)

- 모델 서빙, 모니터링 동작 확인