파인튜닝

영어	Fine-tuning
분류	기계학습 기법
목적	모델 맞춤화
관련 개념	전이학습, 사전훈련

'''파인튜닝'''(Fine-tuning)은 사전 훈련된 대규모 AI 모델을 특정 작업이나 도메인에 맞게 추가 학습시키는 기법입니다. [[youtube:5iC3WKqJOWw|파인튜닝 설명]] == 개요 == 대규모 언어 모델(LLM)이나 이미지 모델을 처음부터 훈련하려면 막대한 컴퓨팅 자원이 필요합니다. 파인튜닝은 이미 학습된 모델의 가중치를 기반으로 적은 데이터와 자원으로 특정 목적에 맞게 모델을 조정하는 효율적인 방법입니다. == 작동 원리 == === 사전 훈련 (Pre-training) === * 대규모 데이터로 일반적인 지식 학습 * GPT, BERT, LLaMA 등 기반 모델 * 수십억 파라미터 학습 === 파인튜닝 단계 === # 기반 모델 선택 # 도메인별 데이터셋 준비 # 학습률 조정 (보통 낮게 설정) # 추가 훈련 수행 # 성능 평가 및 조정 == 파인튜닝 유형 == === 전체 파인튜닝 (Full Fine-tuning) === * 모든 파라미터 업데이트 * 가장 높은 성능 가능 * 많은 자원 필요 === LoRA (Low-Rank Adaptation) === * 저차원 행렬만 학습 * 메모리 효율적 * 빠른 학습 가능 === PEFT (Parameter-Efficient Fine-Tuning) === * 일부 파라미터만 업데이트 * Adapter, Prefix-tuning 등 * 효율성과 성능 균형 === RLHF === * 인간 피드백 기반 강화학습 * [[ChatGPT]] 등에 사용 * 안전성 및 유용성 향상 == 활용 사례 == === 언어 모델 === * 고객 서비스 [[챗봇]] * 법률/의료 전문 AI * 코드 생성 모델 (Codex) === 이미지 모델 === * [[Stable Diffusion]] LoRA * 특정 스타일 학습 * 캐릭터/인물 학습 == 주요 플랫폼 == * OpenAI: GPT 모델 파인튜닝 API * Hugging Face: 다양한 오픈소스 모델 * Google Cloud: Vertex AI * AWS: SageMaker == 주의사항 == * 과적합(Overfitting) 주의 * 적절한 데이터 양 필요 * 기반 모델 라이선스 확인 * 비용 고려 == 관련 문서 == * [[전이학습]] * [[딥러닝]] * [[LLM]] * [[Stable Diffusion]] [[분류:인공지능]] [[분류:기계학습]] [[분류:딥러닝]]