XAI(eXplainable AI)

I. XAI의 개요

가. XAI(eXplainable AI)의 정의

   - 머신러닝 또는 인공지능의 의사결정에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 인공지능

---

II. XAI의 메커니즘 및 구현기술

가. XAI의 메커니즘

- XAI는 고양이 여부를 도출하고 판단의 근거까지 사용자에게 제공하여 도출 과정의 타당성을 제공

나. XAI의 구현기술

구현기술	상세설명	구현사례
기존 학습모델 변경	- 기존 학습 모델에 역산 과정을 추가하거나 학습 모델을 수정	- 합성곱 신경망에 역합성곱 신경망 추가
새로운 학습모델 개발	- 원인-결과와 같은 도출 과정이 표현 가능한 학습 모델을 새로이 만드는 것	- 확률적 AND-OR 그래프 기반의 분류 학습 모델
학습모델간 비교	- 방법은 설명하려는 학습 모델에 대한 세부 지식 없이 설명 가능한 타 모델과의 비교로 최종 결과를 설명하는 것	- 설명 가능한 다른 모델과 상호 대조 및 추론

- XAI를 위한 기술적 접근방법으로 1)기존 학습모델 변경, 2)새로운 학습모델 개발, 3)학습모델간 비교 방법이 존재

---

III. XAI의 평가지표(미국방연구원, DARPA)

   - 사용자 만족도, 설명모델 수준, 업무수행 향상도, 신뢰성 평가, 오류수정 수준