LLM의 태생적인 한계와 시스템적인 솔루션

파인튜닝: LLM의 사고 방식이나 말투를 바꾸기 위해 수행

• LLM 등장 이후 Fine-tuning은 환각 방지를 위한 외부 지식 주입용으로 활용되었으나, 높은 훈련 비용과 적은 정확도 향상으로 다른 용도로 더 많이 쓰이기 시작했다.
• 특히 파인튜닝은 LLM의 말투나 사고방식과 같은 성격/성향 조정에 활용되어 **캐릭터챗**에 활발히 활용된다.

사내 지식 챗봇의 Basic 서비스가 된 RAG와 Agent

• 기업들은 자사 맥락과 문서를 학습한 LLM 서비스를 위해 RAG 기반 챗봇을 도입하고 있다.
• 이는 이미 2024년 중반부터 이어져온 추세로, 이제는 단순 RAG를 넘어 업무 자동화까지 가능한 AI 에이전트 솔루션을 적용하고 있다.