[LLM] LLM 활용 방법

<랭체인으로 LLM 기반의 AI 서비스 개발하기> 책을 읽고 정리한 내용으로, 
개인 공부 목적의 포스팅입니다.

 

~책 보러가기~

---

1. 파인튜닝(Fine-Tuning)

기존의 LLM을 특정한 작업이나 상황에 맞게 조금 더 훈련시키는 과정이다. LLM을 특별한 상황에 더 잘 맞게 가르치는 것! 

전문적으로 사용하고 싶은 분야를 추가적으로 학습시키는 것으로, 더 정확하고 효과적으로 대응할 수 있다. 

 

한마디로 최적화 !

 

단점

• 학습을 위해 과도한 비용이 필요됨
• 데이터 준비가 어려움 

 

해서 LLM의 경우 RAG를 더 선호하는 편이다. 

 

2. RAG(Retrieval-Augmented Generation)

정보 검색과 생성을 결합한 인공지능 모델이다. RAG는 정보검색과 텍스트 생성 두 단계로 나뉜다. 

 

정보검색단계

1. 질문 : 사용자로부터 질문이 입력된다
2. 쿼리 : 모델은 대규모의 문서 데이터베이스나 콘텐츠 저장소에서 질문과 관련된 문서나 정보를 검색한다.
3. 정보 검색 결과 : 검색 결과 중에서 가장 관련성 높은 문서와 사용자의 질문을 결합해 LLM에 전달한다. 

 

텍스트 생성 단계

1. 정보전달 : 선택된 문서의 내용이 모델에 전달된다. 이 단계에서 모델은 문서의 정보를 활용하여 질문에 대한 의미를 이해한다. 
2. 텍스트 생성 : 전달받은 정보를 바탕으로 질문에 대한 답변을 생성한다.