<Model I/O>
- 개념(Concepts)
- 모델의 조작을 용이하게 하기 위한 것
- 모델이 무엇인지 명확하게 나타내는 인터페이스
- 모델에 대한 입력을 빌드하는 유틸리티 및 모델 출력을 조작하는 유틸리티 포함
- 고려사항(Considerations)
1. 모델 호환성
- 다양한 언어 모델들과 호환성 보장
2. 입력 전처리
- 입력 데이터를 모델에 전달하기 전에 필요한 전처리 과정 진행 (토큰화, 정규화, 인코딩 등)
- 전처리 단계에서 데이터의 일관성을 유지하고, 모델의 성능을 최대화 하기 위한 데이터 변환 필요
3. 출력 후처리
- 모델이 생성한 출력을 해석 가능한 형식으로 변환하는 과정 필요
4. 사용자 정의 가능성
- 다양한 사용자 요구를 반영할 수 있도록 입력 및 출력 처리 과정을 사용자 정의할 수 있는 기능 제공
- 모듈의 유연성을 높여 다양한 모델 및 사용 사례에 대응
<Prompt>
- Concepts (언어 모델에 대한 프롬프트)
- 사용자가 제공하는 지침이나 입력의 집합
- 모델의 응답을 안내하고 문맥을 이해하며 질문에 답하거나 문장을 완성해 대화를 나누는 등 관련성 있고 일관된 언어 기발 출력을 생성하는데 도움을 주는 역할
<정리>
- Model I/O: 언어 모델을 조작하고 처리하는 모듈
- Prompt: 언어 모델에 입력으로 제공되는 프롬프트를 생성하고 관리(지시를 내리는 역할)
=> 프롬프트 모듈은 언어 모델에 제공할 입력을 생성하고 관리
=> Model I/O 모듈은 이 입력을 실제로 모델에 전달 및 모델의 출력을 수신하여 처리
반응형
'AI' 카테고리의 다른 글
[LangChian] LangChain과 LangChain4j의 차이점 (+ 예시) (3) | 2024.09.19 |
---|---|
[LangChain] LangChain이란? (2) | 2024.09.16 |
[Ollama] Linux 라마 설치 방법 (1) | 2024.09.13 |
[LangChain4j] ChatMessage 종류 (0) | 2024.08.17 |