<aside>

목차

</aside>

Training LLMs

<aside> 📖

파라미터 수가 엄청 큰 모델을 Large Language Model, LLM이라 부른다.

• 다른 머신러닝 모델과 동일하게,주어진 데이터(자연어)의 패턴을 학습한다. </aside>

• Large Language Model Highlights ( 2024/6 )

• Large Params + Large Corpus

• Pre-trained 모델 성능은 학습 데이터 즉, Corpus 좌우된다.

• Pre-trained LLMs

Instruction Tuning

<aside> 📄

논문: Finetuned Language Models Are Zero-Shot Learners (2022)

• 모델의 fine-tuning을 잘하면 zero-shot 문제들도 해결이 가능하다는 내용이다.

  → Instruction tuning

</aside>

• 실험 1 - 지시사항(Instruction)에 대답하는 언어 모델 생성
• 실험 2 - Instruction Template을 만들고, 해당 형식으로 파인튜닝
• Instruction Tuning
• 결과
• 주요 Instruction Dataset

SFT (Supervised Fine Tuning )

<aside> 📄

SFT는 **Pre-trained 모델을 새로운 데이터셋으로 학습(fine-tuning)**시키는 과정을 말한다.

• 위의 Instruction Tuning은 SFT의 한 종류로 볼 수 있다.
• ex) 특정 Task나 분야, 데이터 포맷 </aside>