설명 가능한 AI

영어	Explainable AI (XAI)
분류	AI 신뢰성
목적	AI 결정 설명
관련	AI 윤리, 투명성

'''설명 가능한 AI'''(Explainable AI, XAI)는 AI 시스템의 결정 과정을 인간이 이해할 수 있도록 설명하는 기술입니다. [[youtube:B8cR_FcWpuw|XAI 설명]] == 개요 == 딥러닝 모델은 뛰어난 성능을 보이지만 "블랙박스"처럼 작동하여 결정 이유를 알기 어렵습니다. XAI는 이러한 한계를 극복하여 AI의 신뢰성, 공정성, 책임성을 높입니다. 의료, 금융, 법률 등 고위험 분야에서 필수적입니다. == 필요성 == === 신뢰 구축 === * 사용자 신뢰 확보 * 의사결정 지원 * 오류 발견 === 규제 준수 === * EU AI Act * GDPR 설명권 * 금융 규제 === 디버깅 === * 모델 개선 * 편향 발견 * 오류 분석 == XAI 기법 == === LIME === * Local Interpretable Model-agnostic Explanations * 국소적 설명 * 모델 독립적 === SHAP === * SHapley Additive exPlanations * 게임 이론 기반 * 특성 기여도 === Attention 시각화 === * 트랜스포머 attention * 중요 부분 하이라이트 * 텍스트/이미지 === Grad-CAM === * CNN 설명 * 활성화 맵 * 이미지 영역 === 반사실적 설명 === * "만약 X였다면..." * 결정 경계 이해 * 대안 제시 == 접근 방식 == === 사후 설명 === * 학습된 모델 분석 * LIME, SHAP 적용 * 모델 수정 불필요 === 본질적 해석성 === * 해석 가능한 모델 설계 * 결정 트리, 선형 모델 * 성능 트레이드오프 == 활용 분야 == === 의료 === * 진단 근거 제시 * 의사 보조 * 환자 설명 === 금융 === * 대출 거절 사유 * 사기 탐지 근거 * 규제 보고 === 법률 === * 판결 예측 설명 * 법적 책임 === 자율주행 === * 결정 근거 * 사고 분석 == 한계 == * 설명의 충실성 * 복잡성 vs 정확성 * 사용자 이해도 차이 == 관련 문서 == * [[AI 윤리]] * [[딥러닝]] * [[기계학습]] * [[컴퓨터 비전]] [[분류:인공지능]] [[분류:AI 윤리]] [[분류:기계학습]]