에지 AI

영어	Edge AI
분류	AI 배포
특징	로컬 처리, 저지연
장치	스마트폰, IoT, 임베디드

'''에지 AI'''(Edge AI)는 클라우드가 아닌 로컬 장치에서 AI 추론을 실행하는 기술입니다. == 개요 == 에지 AI는 스마트폰, IoT 기기, 자동차 등 엣지 장치에서 직접 AI 모델을 실행합니다. 낮은 지연시간, 프라이버시 보호, 오프라인 작동이 장점이며, AI 칩 발전과 모델 경량화 기술로 가능해졌습니다. == 장점 == === 저지연 === * 실시간 처리 * 네트워크 지연 없음 * 즉각적 응답 === 프라이버시 === * 데이터 로컬 유지 * 클라우드 전송 불필요 * 개인정보 보호 === 오프라인 작동 === * 인터넷 불필요 * 연결 끊김 대응 * 안정적 서비스 === 비용 === * 클라우드 비용 절감 * 대역폭 절약 == 활용 분야 == === 스마트폰 === * [[얼굴 인식]] (Face ID) * 사진 향상 * 음성 인식 === 자동차 === * [[자율주행]] * ADAS * 차량 내 AI === 산업 === * 품질 검사 * 예측 유지보수 * 로봇 제어 === 스마트홈 === * 스마트 스피커 * 보안 카메라 * 가전 제어 === 의료 === * 웨어러블 진단 * 의료 기기 * 원격 모니터링 == 에지 AI 하드웨어 == === 전용 칩 === * Apple Neural Engine * Google TPU Mobile * Qualcomm Hexagon * NVIDIA Jetson === 가속기 === * NPU (Neural Processing Unit) * DSP * FPGA == 모델 최적화 == 에지 배포를 위한 기술: === 양자화 === * FP32 -> INT8 * 크기 감소 * 속도 향상 === 프루닝 === * 불필요한 연결 제거 * 희소 모델 === 지식 증류 === * 큰 모델 -> 작은 모델 * 성능 유지 == 프레임워크 == * TensorFlow Lite * PyTorch Mobile * ONNX Runtime * Core ML (Apple) == 관련 문서 == * [[GPU]] * [[딥러닝]] * [[IoT]] * [[자율주행]] [[분류:인공지능]] [[분류:IoT]] [[분류:하드웨어]]