SQLite2 [LangChain & RAG 공부] 메모리 PART 3 '모델과 메모리' 중, Chpater8(메모리)를 공부했다. Client는 GPT와 대화할 때, 내가 과거에 알려줬던 정보를 기억하기를 바란다.하지만 GPT 모델 자체는 대화 내용을 기억하는 기능을 가지고 있지 않다!> 따라서 개발자들이 이전 대화를 기록하는 '메모리 기능'을 별도로 구현해야 한다!먼저 대화 버퍼 메모리에 대해 배워보자 대화 버퍼 메모리(ConversationBufferMemory) : 사람의 Input과 AI의 Output을 짝지어서 저장 memory = ConversationBufferMemory()memory.save_context( inputs={ "human": "안녕하세요, 비대면으로 은행 계좌를 개설하고 싶습니다. 어떻게 시작해야 하나요?" .. 2025. 8. 13. [LangChain & RAG 공부] 모델 오늘부터 PART 3 '모델과 메모리'에 대해서 공부할 것이다!PART 3는 Chapter7(모델), Chpater8(메모리)로 이루어져 있다.Let's go Chpater 07. 모델우리가 모델을 변경할 때는 RAG 시스템의 전체 구조는 그대로 유지하면서 LLM 모델만 교체하면 된다. 모델이 워낙 많아서 사용할 모델을 정하면 그때그때 API 키를 발급받고, '. env' 파일에 업데이트하여 사용하면 된다!LLM 답변 캐싱 : 동일한 질문에 대한 답변을 별도의 공간에 저장애플리케이션에서 캐싱을 위해 사용 가능한 방식인메모리 캐시 : 메모리 공간에 저장하여, 프로그램 종료 시 사라지지만, 가볍고 빠르다(단기)SQLite 캐시 : 데이터베이스 파일에 저장하여, 프로그램 종료해도 캐시 정보 유지(장기)간단하게.. 2025. 8. 12. 이전 1 다음
