Django에서 OpenAI API로 LLM 스트림 출력 시 실시간 출력 문제 해결AS-IS문제상황 인지Django를 사용하여 OpenAI API로 LLM의 스트림 출력 구현 시, HTML에서 실시간 출력이 되지 않는 문제 발생 해결하려고 하는 문제스트림 데이터를 HTML에서 지연 없이 실시간으로 출력 만들고 싶은 기능OpenAI API의 스트림 결과를 HTML 화면에 실시간으로 출력 Challenge문제해결을 위해 고민한 내용 Django에서 OpenAI API를 사용해 스트림 데이터를 반환 HTML에서 서버로부터 전달된 스트림 데이터를 실시간으로 렌더링 Nginx를 사용한 리버스 프록시 설정 문제 확인 어떻게 기술적으로 해결했는지Nginx 설정에서 proxy_buffering 옵션이 켜져..

[SSH] VSCode Remote SSH Permission errorAS-IS문제상황 인지VSCode Remote SSH를 통해 원격 서버에 연결된 상태에서 docker-compose.yml 파일 저장 시 권한 오류 발생 해결하려고 하는 문제파일 저장 권한 문제 해결 만들고 싶은 기능원격 서버의 파일을 수정 후 정상적으로 저장 Challenge문제해결을 위해 고민한 내용 현재 사용자 권한 확인 (ls -l 또는 whoami) 파일과 상위 디렉토리 권한 확인 파일 소유권과 그룹 권한 변경 시도 파일 수정 권한 부여를 위해 chmod 명령어 사용 참고 블로그VS Code에서 Remote SSH를 이용해 원격에 있는 파일을 저장할 때 permission 문제 어떻게 기술적으로 해결했는지 ..

AS-IS현재 상황에서 인식한 문제점과 해결하고자 하는 내용입니다.문제상황 인지 EC2에서 Docker와 Nginx를 통해 MLflow 서버를 실행하고 있음. MLflow 서버에 별도의 인증 절차가 없어 누구나 접속 가능한 보안 문제가 발생. 보안 그룹 설정은 있지만 근본적으로 접근 통제를 위한 추가적인 보안이 필요함.Challenge문제를 해결하기 위해 고민하고 기술적으로 접근한 과정입니다.문제 해결을 위해 고민한 내용 Nginx에서 인증 절차를 구현하기 위한 방법을 찾아야 함. 검색을 통해 Nginx에서 사용자 인증을 제공하는 htpasswd 방법을 발견함. 참고한 자료: htpasswd로 ID, 패스워드 생성시에 SHA 암호화방식으로 암호생성하기htpasswd 설치 방법 htpasswd..

Today I Learned (2024-12-16)목차Today I Learned (2024-12-16)오늘 공부한 내용1. Django LLM 테스트어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 하루오늘 공부한 내용1. Django LLM 테스트OPENAI API 를 이용해 Stream 출력기능 테스트어려웠던 내용아키텍처 설계..?궁금한 내용과 부족한 내용아키텍처 설계 고쳐야할듯ㅠ느낀 점어렵습니다오늘 하루순삭 -->

Today I Learned (2024-12-15)목차Today I Learned (2024-07-12)오늘 공부한 내용1. MLOps CI/CD어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 하루오늘 공부한 내용1. MLOps CI/CDMLFlow를 이용한 CI/CD 파이프라인 구축MLOps CI/CD모델 서빙 서버 구축어려웠던 내용MLFlow 모델 서빙궁금한 내용과 부족한 내용MLFlow 모델 활용느낀 점재미있는데 어렵다. 이게 맞나?오늘 하루주말 좋아~

AWS 기반 모델 학습 및 서빙 아키텍처1. 개요아키텍처는 AWS Cloud 인프라를 활용하여 모델 학습과 배포를 자동화하는 구조입니다.GitHub Actions를 통해 학습 파이프라인을 실행하며, Docker와 MLflow를 사용하여 모델 서빙 환경을 구축하고 모델 관리를 수행합니다.최종적으로 Slack을 통해 알림을 전달하여 작업 상태를 공유합니다.2. 주요 컴포넌트2.1 GitHub 및 GitHub Actions역할: 모델 학습 및 배포 파이프라인을 자동화합니다. 주요 동작:학습 파이프라인 실행AWS EC2 인스턴스에 접속하여 모델 학습 시작상태 알림을 Slack에 전송2.2 Slack Notification역할: GitHub Actions 파이프라인의 상태를 Slack에 알림으로 전달합니다.주요..

WEB(Django) CI/CD 아키텍처1. 개요해당 아키텍처는 CI/CD 파이프라인을 통해 애플리케이션 코드를 자동으로 빌드 및 배포하는 과정을 설명합니다. 개발자가 코드를 푸시하면 GitHub Actions가 Docker 이미지를 빌드하고 Amazon ECR에 푸시합니다.이후 ECS를 통해 Django 애플리케이션이 포함된 컨테이너를 배포하고 서비스를 갱신합니다.2. 주요 컴포넌트2.1 개발자역할: 애플리케이션 소스코드를 개발하고 GitHub에 푸시합니다.2.2 GitHub역할: 버전 관리 시스템으로 코드 변경 사항을 관리합니다.주요 동작:개발자의 코드 푸시를 감지하고 GitHub Actions를 트리거합니다.2.3 GitHub Actions역할: CI/CD 파이프라인의 핵심 자동화 도구입니다. ..

Today I Learned (2024-12-14)목차Today I Learned (2024-12-12)오늘 공부한 내용1. ECR / ECS2. Kubernetes어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 하루오늘 공부한 내용1. ECR / ECSecr -> ecs 배포 성공awsvpc -> bridge 로 변경2. KubernetesKubernetes는 컨테이너화된 애플리케이션의 배포와 관리를 자동화하는 플랫폼어려웠던 내용ECS 궁금한 내용과 부족한 내용ECS, k8s느낀 점뭐라도 하자오늘 하루탄핵소추안 가결 -->