XAI3 part 3. Explainable AI(XAI Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI(XAI) AMT(Amazon Mechanical Turk) test - 사람들에게 직접 퀴즈를 내는 방식 - 어느 모델이 더 좋은지 고르는 방식 단점 : 매우 비싸다. Human annotation - pointing game -> bounding box를 활용해서 평가하는 방법 -> 이미지의 bounding box가 존재 할 때 모델이 보여주는 픽셀이 사람이 만든 bounding box안에 있으면 최고의 설명 -> 각 이미지마다 bounding box안에 들어가는 정확도를 계산해서 평가 - Weakly .. 2022. 7. 31. Part 2. Explainable AI (XAI) Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI (XAI) Saliency map-based 기반 설명 방법 CAM(Calss Activation Map) -> GAP(Global Average Pooling)이란 특정한 layer를 만든 후 이 layer와 activation을 합쳐서 설명하는 방법 -> CAM을 이용한 CNN의 최종 layer의 해상도는 비교적 낮기 때문에 upsampling을 통해 개선함 -> GAP Layer = 각 activation map의 모든 activation들의 평균 CAM의 장단점 - 장점 : 모델이 집중하는 obje.. 2022. 7. 31. Part 1. Explainable AI (XAI) Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI (XAI) Explainable AI (XAI)는 말 그대로 설명가능한 AI를 의미한다. 즉, - 모델 / 데이터 셋의 오류를 색출 - 모델이 얼마나 편향되어 있는지 - 설명을 통한 신뢰여부결정 의 역할이 존재한다. What is Explainability / Imterpretability - 사람이 그 이유를 이해할 수 있게 해주는 역할 - 설명을 통해 결과를 예측할 수 있게 해주는 역할 - 이유를 설명할 수 있게 해주는 역할 So what is XAI? -> 사람이 모델을 쓸 때 그 동작을 이해하고 신.. 2022. 7. 28. 이전 1 다음
