본문 바로가기

chatopenai4

[LangChain & RAG 공부] 출력 파서 지난번 배운 PART 2의 '프롬프트'에 이어서,PART 2의 Chapter 6인 '출력 파서'에 대해서 배울 것이다.Chapter 6. 출력 파서 : LLM의 출력값을 더 유용하고 구조화된 형태로 해석해서 변환(파싱)하는 역할 주로 LangChain 프레임워크에서 다양한 종류의 '출력 데이터'를 파싱하고 처리하는 데 활용된다. 즉, 출력 파서를 사용해서 LLM의 응답을 구조화한다! 두 개의 output을 보면, 출력 파서 사용 전은 '우리가 원하는 핵심내용'이 빠져 있을 수 있다.출력 파서를 사용하면 위처럼 JSON 형식으로 구조화된 답변을 얻을 수 있다.(JSON : 파이썬의 딕셔너리처럼 key : value의 항목이 쌍으로 묶인 형식) 여기서 보낸 사람, 이메일 주소, 날짜 형식처럼 사전에 정의된 .. 2025. 8. 6.
[LangChain & RAG 공부] 프롬프트 오늘부터 PART 2 '프롬프트와 출력 파서'에 대해서 배울 것이다.PART 2는 Chapter5와 Chapter6으로 이루어져 있다.Chapter 05. 프롬프트프롬프트 단계 : 리트리버(retriever)에서 검색된 문서들을 바탕으로 언어 모델이 사용할 질문이나 명령을 생성하는 과정'RAG 이해' 게시글에서 사용했던 그림을 가져왔다.빨간 네모로 표시된 RAG 과정 이후 만나는 것이 Prompt이다. LLM 프롬프트 템플릿 : AI 모델과의 상호작용을 표준화하고 효율적으로 만들어 주는 구조화된 텍스트 형식5.1 프롬프트 템플릿 만들지시 사항(Instruction)사용자가 입력한 질문(Question)검색된 정보인 문맥(Context)c.f.1.당신은 질문-답변(Question-Answer) Task를 .. 2025. 8. 1.
[LangChain & RAG 공부] LangChain 시작하기2 이어서 PART 1의 CHAPTER4 "LangChain 시작하기'를 마저 진행하겠다.저번 시간에는 체인에 이것저것을 추가하면서 LLM에 대해 배워보았다.Chapter 04. LangChain 시작하기4.7 batch() 함수로 일괄 처리하기Runnable이라는 프로토콜을 사용해서 '사용자 정의 체인'을 만들 것이다. Runnable : LangChain에서 프롬프트 템플릿, LLM 호출기, 출력 파서 등 다양한 컴포넌트들을 연결하고 실행하는 방식을 표준화한 공통 인터페이스 Runnable 프로토콜 : 표준화된 인터페이스를 제공해 사용자의 요구에 맞게 체인을 호출할 수 있다. Runnable 표준 인터페이스stream() : 응답의 청크를 스트리밍 한다.invoke() : 입력에 대해 체인을 호출한다.b.. 2025. 7. 31.
[LangChain & RAG 공부] LangChain 시작 Chapter 04. LangChain 시작하기이제 실습을 시작해 보자.이 책의 저자가 깃허브에 올려놓은 프로젝트를 다운로드하였다. (이제 돈 쓸 시간..!)4.1 ChatOpenAI 주요 매개변수와 출력OpenAI 사의 채팅 전용 Large Language Model(LLM)이다.즉, 우리는 Chat GPT를 가져와서 사용할 것이다. 여러 가지 매개변수가 존재한다.temperature샘플링 온도(답변을 얼마나 창의적으로 할 것인지)0~2 사이의 값을 선택한다(높을수록 출력을 더 무작위 하게 만들고, 낮을수록 더 집중되고 결정론적으로 만든다.).max_tokens채팅 완성에서 생성할 토큰의 최대 개수값 미지정 시, 모델에서 허용된 최대 토큰 수까지 허용model_name적용가능한 모델 리스트c.f. gp.. 2025. 7. 29.