캐싱(Caching)LangChain은 LLM을 위한 선택적 캐싱 레이어를 제공한다.이는 두 가지 이유로 유용하다.동일한 완료를 여러 번 요청하는 경우 LLM 공급자에 대한 API 호출 횟수를 줄여 비용을 절감할 수 있다.LLM 제공업체에 대한 API 호출 횟수를 줄여 애플리케이션의 속도를 높일 수 있다.InMoeryCache메모리 공간을 활용한 캐싱단점: 서버가 재시작되거나 메모리에서 사라지면 캐시 데이터도 함께 소실됨.%%timefrom langchain.globals import set_llm_cachefrom langchain.cache import InMemoryCacheset_llm_cache(InMemoryCache())response = chain.invoke({"country":"한국"..

Today I Learned (2024-07-12)목차Today I Learned (2024-07-12)오늘 공부한 내용1. KDT (AWS)EC2 (Elastic Compute Cloud)EBS (Elastic Block Store)Auto ScalingLoad BalancerCloudWatch정리2. ADsP3. LangChainPrompt TemplateLCEL(LangChain Expression Language)출력파서(Output Parser)어려웠던 내용궁금한 내용과 부족한 내용느낀 점오늘 공부한 내용1. KDT (AWS)EC2 (Elastic Compute Cloud)AWS에서 제공하는 가상 서버 서비스탄력적 컴퓨팅: 필요에 따라 인스턴스를 생성, 크기 조정, 종료 가능온디맨드(Elasti..