본문 바로가기
AI

[LangChain] Module - Model I/O & Prompt

by minNa2 2024. 8. 17.

<Model I/O>

- 개념(Concepts)

  • 모델의 조작을 용이하게 하기 위한 것
  • 모델이 무엇인지 명확하게 나타내는 인터페이스
  • 모델에 대한 입력을 빌드하는 유틸리티 및 모델 출력을 조작하는 유틸리티 포함

 

- 고려사항(Considerations)

1. 모델 호환성

  • 다양한 언어 모델들과 호환성 보장

 

2. 입력 전처리

  • 입력 데이터를 모델에 전달하기 전에 필요한 전처리 과정 진행 (토큰화, 정규화, 인코딩 등)
  • 전처리 단계에서 데이터의 일관성을 유지하고, 모델의 성능을 최대화 하기 위한 데이터 변환 필요

 

3. 출력 후처리

  • 모델이 생성한 출력을 해석 가능한 형식으로 변환하는 과정 필요

 

4. 사용자 정의 가능성

  • 다양한 사용자 요구를 반영할 수 있도록 입력 및 출력 처리 과정을 사용자 정의할 수 있는 기능 제공
  • 모듈의 유연성을 높여 다양한 모델 및 사용 사례에 대응

 


<Prompt>

- Concepts (언어 모델에 대한 프롬프트)

  • 사용자가 제공하는 지침이나 입력의 집합
  • 모델의 응답을 안내하고 문맥을 이해하며 질문에 답하거나 문장을 완성해 대화를 나누는 등 관련성 있고 일관된 언어 기발 출력을 생성하는데 도움을 주는 역할

 


<정리>

  • Model I/O: 언어 모델을 조작하고 처리하는 모듈
  • Prompt: 언어 모델에 입력으로 제공되는 프롬프트를 생성하고 관리(지시를 내리는 역할)

 

=> 프롬프트 모듈은 언어 모델에 제공할 입력을 생성하고 관리

=> Model I/O 모듈은 이 입력을 실제로 모델에 전달 및 모델의 출력을 수신하여 처리

반응형

'AI' 카테고리의 다른 글

[LangChian] LangChain과 LangChain4j의 차이점 (+ 예시)  (3) 2024.09.19
[LangChain] LangChain이란?  (2) 2024.09.16
[Ollama] Linux 라마 설치 방법  (1) 2024.09.13
[LangChain4j] ChatMessage 종류  (0) 2024.08.17