GPU

영어	Graphics Processing Unit
한국어	그래픽 처리 장치
주요 제조사	NVIDIA, AMD, Intel
AI 활용	딥러닝 학습/추론

'''GPU'''(Graphics Processing Unit)는 원래 그래픽 렌더링을 위해 개발되었지만, 현재는 [[딥러닝]]과 AI 연산의 핵심 하드웨어입니다. [[youtube:SrAMBi_8tIk|GPU와 AI]] == 개요 == GPU는 수천 개의 코어를 가진 병렬 처리 장치입니다. 행렬 연산에 최적화되어 있어 딥러닝 학습과 추론에 필수적입니다. NVIDIA가 AI GPU 시장을 지배하고 있으며, 최신 AI 발전은 GPU 성능 향상에 크게 의존합니다. == GPU vs CPU == {| ! 항목 !! CPU !! GPU |- | 코어 수 || 수십 개 || 수천 개 |- | 클럭 속도 || 높음 || 상대적 낮음 |- | 작업 유형 || 순차적 || 병렬 |- | 최적화 || 복잡한 로직 || 행렬 연산 |} == AI용 GPU == === NVIDIA === * A100, H100, H200 * CUDA 생태계 * AI 시장 지배 * Tensor 코어 === AMD === * MI300X * ROCm 소프트웨어 * 경쟁 확대 === Intel === * Gaudi (Habana) * Ponte Vecchio * 시장 진입 == 주요 GPU 제품 == === 데이터센터 === * NVIDIA H100: 최신 플래그십 * NVIDIA A100: 이전 세대 * AMD MI300X: 경쟁 제품 === 소비자용 === * NVIDIA RTX 4090: 최고 성능 * RTX 4080, 4070 * AMD RX 7900 시리즈 === 클라우드 === * AWS: p5 (H100), p4d (A100) * GCP: A3 (H100), A2 (A100) * Azure: ND H100 == CUDA == NVIDIA의 병렬 컴퓨팅 플랫폼: * GPU 프로그래밍 * 딥러닝 프레임워크 지원 * cuDNN, TensorRT == 메모리 중요성 == === VRAM === * 모델 크기 결정 * LLM 학습에 필수 * HBM (고대역폭 메모리) === 예시 === * 7B 모델: 14GB+ (FP16) * 70B 모델: 140GB+ * H100: 80GB HBM3 == AI 칩 경쟁 == * Google TPU * AWS Trainium/Inferentia * Groq LPU * Cerebras WSE == 관련 문서 == * [[딥러닝]] * [[NVIDIA]] * [[AI 칩]] * [[클라우드 컴퓨팅]] [[분류:하드웨어]] [[분류:인공지능]] [[분류:반도체]]