MLflow란?MLflow는 머신러닝 모델 실험, 관리, 배포, 모니터링, 재현성을 지원하는 오픈 소스 플랫폼임. 다양한 머신러닝 프레임워크(TensorFlow, PyTorch, Scikit-learn 등)와 호환되며, 실험 기록, 모델 관리, 배포 워크플로우를 간소화함. 특히, 중앙화된 실험 관리와 프로덕션 단계까지의 일관된 프로세스를 제공하여 머신러닝 프로젝트의 생산성을 높이는 데 기여함.MLflow의 주요 구성 요소1. MLflow Tracking실험 기록 및 관리.하이퍼파라미터, 모델 메트릭, 결과 등을 체계적으로 관리.2. MLflow Projects프로젝트 종속성을 명시적으로 정의하여 재현성을 보장.3. MLflow Models모델 저장 및 배포 표준화.다양한 배포 환경에 적합한 모델 변환 및..

Amazon ECS(Elastic Container Service)란?Amazon ECS(Amazon Elastic Container Service)는 AWS에서 제공하는 컨테이너 관리 서비스로, Docker 컨테이너를 손쉽게 실행, 관리 및 확장할 수 있도록 설계된 완전 관리형 서비스임. 개발자가 클러스터를 생성하고 애플리케이션을 배포하며, 클러스터에서 컨테이너를 관리할 수 있는 환경을 제공함.ECS는 서버리스 기반으로 작동할 수 있는 Fargate와 EC2 인스턴스를 사용하는 두 가지 실행 모드를 지원하며, Kubernetes 기반의 EKS와 함께 AWS의 컨테이너 관리 포트폴리오의 핵심 서비스 중 하나임.Amazon ECS의 주요 특징1. 컨테이너 관리컨테이너 워크로드를 효율적으로 관리하고 배포할 ..

AWS ECR(Amazon Elastic Container Registry)이란?AWS ECR(Amazon Elastic Container Registry)은 Amazon Web Services(AWS)에서 제공하는 완전 관리형 Docker 컨테이너 레지스트리 서비스임. Docker 이미지를 안전하게 저장하고 관리하며, 빠르고 쉽게 배포할 수 있는 환경을 제공함. 특히, Amazon ECS(Elastic Container Service), EKS(Elastic Kubernetes Service), 그리고 다른 AWS 서비스와 긴밀히 통합되어 컨테이너 기반 애플리케이션 개발과 배포를 간소화함.AWS ECR의 주요 특징1. 완전 관리형 서비스사용자가 직접 컨테이너 레지스트리를 설치하거나 유지 관리할 필요 없..

Kubernetes의 역할과 사용자 역할 비교Kubernetes는 컨테이너화된 애플리케이션의 배포와 관리를 자동화하는 플랫폼으로, 이를 성공적으로 사용하기 위해서는 사용자와 Kubernetes가 각각의 역할을 명확히 이해해야 함. 이 글에서는 Kubernetes가 어떤 작업을 수행하며, 사용자가 무엇을 준비하고 설정해야 하는지 정리함.Kubernetes가 수행하는 역할 (What Kubernetes Will Do)객체 생성 및 관리 사용자가 정의한 객체(예: Pods)를 생성하고 이를 관리함.Pod 모니터링 및 복구 Pod를 지속적으로 모니터링하고, 문제가 발생하면 재생성하며, 필요 시 자동으로 확장(Scale)함.클라우드 리소스 활용 사용자가 정의한 설정 및 목표에 맞춰 클라우드 리소스를 활용하고..

Kubernetes: 무엇이고, 무엇이 아닌가?Kubernetes는 현대 애플리케이션 배포와 관리를 위한 강력한 도구임. 하지만 많은 사람들이 Kubernetes의 본질에 대해 오해하거나 잘못된 기대를 가지기도 함. 아래는 Kubernetes가 무엇인지, 그리고 무엇이 아닌지를 명확히 정리한 내용임.Kubernetes는 무엇이 아닌가?:클라우드 서비스 제공자가 아님 Kubernetes는 특정 클라우드에 종속되지 않는 오픈 소스 프로젝트임.클라우드 서비스 제공자의 독점 서비스가 아님 Kubernetes는 모든 클라우드 서비스 제공자에서 사용 가능함.특정 클라우드 서비스에 제한되지 않음 Kubernetes는 어떤 클라우드 환경에서도 사용할 수 있도록 설계되었음.단순히 머신에서 실행되는 소프트웨어가 아님..

Nginx를 이용한 라우팅과 프록시의 차이Nginx는 웹 서버이자 리버스 프록시, 로드 밸런서로 널리 사용되는 도구로, 웹 애플리케이션의 성능과 보안을 강화하는 데 중요한 역할을 함.Nginx의 주요 기능 중 라우팅과 프록시의 차이를 명확히 이해하는 것은 효율적인 서버 설정에 필수적임.1. 라우팅(Routing)과 프록시(Proxy) 개념라우팅정의: 클라이언트의 요청을 처리하기 위해 특정 URL 경로를 설정하고, 요청을 적합한 처리기로 전달하는 작업.주요 목적:URL 경로에 따라 정적 파일, 특정 애플리케이션, 또는 다른 서버에 요청 전달.요청 경로 기반으로 다중 서비스 분기.특징:라우팅은 프록시를 포함하는 개념임. 즉, 요청을 특정 서버로 전달하는 작업은 프록시의 역할을 수행함.하지만 모든 프록시가 반..

Today I Learned (2024-12-13)목차Today I Learned (2024-12-13)오늘 공부한 내용1. mlflow2. 라우팅과 프록시어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 하루오늘 공부한 내용1. mlflowEC2 환경 Docker - mlflow 세팅nginx 를 이용한 프록시/mlflow/ 로 접속 가능Gradio는 실패..2. 라우팅과 프록시라우팅은 프록시의 상위 개념이다.하지만 프록시가 항상 라우팅을 포함하지는 않는다.어려웠던 내용ec2 mlflow s3 연결궁금한 내용과 부족한 내용라우팅과 프록시 비슷하면서 다르다?느낀 점재미있다.오늘 하루다음주는 뭐하지? -->

Today I Learned (2024-12-13)목차Today I Learned (2024-12-1)오늘 공부한 내용1. 최종 프로젝트2. API GatewayAPI Gateway 란?3. Docker어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 하루오늘 공부한 내용1. 최종 프로젝트데이터 처리하기...너무 많습니다.2. API GatewayAPI Gateway 란?클라이언트와 서버 간의 요청을 중계하고 관리하는 역할을 수행하는 API 관리 도구3. Dockerhub 에 올려서 ecs에서 사용어려웠던 내용데이터 처리양이 많아서 일단 오래 걸림궁금한 내용과 부족한 내용API Gateway 활용느낀 점뭐부터 해야지..오늘 하루뭐했지? ㅠㅠ -->