Kubernetes 이야기

일반적인 ML Workflow는 다음과 같다. 학습한 모델을 프로덕션에 배포하는 것은 비지니스에서 상당히 중요한 일이다. 일반적으로 학습한 모델을 배포하는 방식은 다음과 같다. 모델을 이용하여 서비스하는 방법은 크게 2가지를 생각해 볼 수 있다. 1) Online Model을 embeded 하여 서버를 운영하거나 모델만 API 서버로 구성한 후 클라이언트와 결과를 주고 받는 온라인 서비스 형태가 있다. 아래 그림은 TensorFlow Serving Container가 모델 API 서버 기능을 하고 Flask 가 클라이언트 역할을 하여 서비스 하는 형태가 될 수 있다. 2) ML 모델을 이용한 Stream ML 모델로 데이터 파이프라인을 보강하는 구성이다. 모델을 저장하는 방식도 여러가지 (Tensorfl..

Kubeflow 대시보드에서 Nodebooks 을 선택해보자. Notebooks 탭은 유저별로 jupyter notebook을 독립적으로 생성하고 접속할 수 있는 페이지이다. JupyterLab 또는 VSCode, RStudio 중 원하는 개발방법을 선택한다. 생성 시 아래의 에러 로그가 보이는 경우가 있다. Could not find CSRF cookie XSRF-TOKEN in the request. 원인은, https 가 아닌 http 를 통해 Kubeflow UI에 액세스하므로 Jupyter Web App 서비스에서 환경 변수를 APP_SECURE_COOKIES로 설정해야 한다. 이를 해결하려면, # k edit deployments.apps -n kubeflow jupyter-web-app-de..

Kubeflow는 Kubernetes에서 기계 학습(ML) 워크플로에 필요한 학습부터 배포까지 모든 단계를 관리하는것을 목표로 한 플랫폼이다. 기계 학습 시스템을 개발하는 방법의 주요 구성 요소는 다음에 설명되어 있다. ML 팀은 Kubeflow를 사용하여 선택한 ML 라이브러리(예: Tensorflow, PyTorch)로 ML 모델을 공동으로 구축하고 ML 파이프라인을 생성하여 데이터 변환, 모델 교육 및 프로덕션을 위한 모델 제공을 처리할 수 있다. Kubeflow는 Kubernetes 클러스터에서만 실행할 수 있으므로 Kubernetes 생태계에서 많은 기능을 활용하고 많은 기능을 컨테이너화 한다. 주요 Kubeflow 구성 요소에 대한 개요는 다음과 같다. Kubeflow 노트북 : 사용자는 노트..

Dex는 OpenID Connect를 사용하는 ID 서비스이다. Dex의 흐름은 다음과 같다. 사용자가 클라이언트 앱을 방문 클라이언트 앱은 OAuth2 요청을 통해 사용자를 dex로 리디렉션 Dex는 사용자의 신원을 결정 Dex는 코드를 사용하여 사용자를 클라이언트로 리디렉션 클라이언트는 코드를 dex와 id_token으로 교환 설치 --- apiVersion: v1 kind: Namespace metadata: name: dex --- apiVersion: apps/v1 kind: Deployment metadata: labels: app: dex name: dex namespace: dex spec: replicas: 1 selector: matchLabels: app: dex template: m..

OAuth2 Proxy는 인증 공급자(Google, GitHub 등)를 사용하여 계정을 검증하는 역방향 프록시 인증 서버이다. 최근 MSA 아키텍처의 Application 개발이 늘어나는 추세이다. 수많은 서비스 각각에 인증을 구현하는 것은 비효율적이고 어려운 문제이기 때문에 이러한 인증 Proxy가 필요하게 된다. 큰 시스템인 경우에는 API Gateway에서 인증을 수행하는 것이 일반적이다. 대략적인 흐름도는 다음과 같다. 설치 다음의 manifest를 설치한다. apiVersion: apps/v1 kind: Deployment metadata: labels: k8s-app: oauth2-proxy name: oauth2-proxy namespace: test spec: replicas: 1 sele..

Chaos Mesh 에서 물리서버에 결함을 주입하고 결함 복구 기능을 제공하기 위해서는 별도의 배포 (Chaosd)가 필요하다. Chaosd는 다음과 같은 핵심 이점을 제공한다. 사용 편의성: 간단한 Chaosd 명령을 입력하여 혼란스러운 실험을 만들고 관리할 수 있다. 풍부한 결함 유형: 결함 주입은 프로세스, 네트워크, 압력, 디스크, 호스트 등 물리적 기계의 다양한 수준과 유형에서 제공되며 더 많은 기능이 확장되고 있다. 다중 모드 지원: Chaosd는 다양한 시나리오의 사용 요구 사항을 충족하는 명령줄 도구 및 서비스로 모두 사용할 수 있다. Chaosd를 사용하여 다음 유형의 실패를 시뮬레이션할 수 있다. 프로세스: 프로세스에 오류 주입. Systemd를 사용하여 프로세스를 관리할 때 Syste..