LG Aimers(AI 전문가 과정)/Module 4. 설명가능한 AI(Explainable AI)4 part 3. Explainable AI(XAI Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI(XAI) AMT(Amazon Mechanical Turk) test - 사람들에게 직접 퀴즈를 내는 방식 - 어느 모델이 더 좋은지 고르는 방식 단점 : 매우 비싸다. Human annotation - pointing game -> bounding box를 활용해서 평가하는 방법 -> 이미지의 bounding box가 존재 할 때 모델이 보여주는 픽셀이 사람이 만든 bounding box안에 있으면 최고의 설명 -> 각 이미지마다 bounding box안에 들어가는 정확도를 계산해서 평가 - Weakly .. 2022. 7. 31. Part 2. Explainable AI (XAI) Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI (XAI) Saliency map-based 기반 설명 방법 CAM(Calss Activation Map) -> GAP(Global Average Pooling)이란 특정한 layer를 만든 후 이 layer와 activation을 합쳐서 설명하는 방법 -> CAM을 이용한 CNN의 최종 layer의 해상도는 비교적 낮기 때문에 upsampling을 통해 개선함 -> GAP Layer = 각 activation map의 모든 activation들의 평균 CAM의 장단점 - 장점 : 모델이 집중하는 obje.. 2022. 7. 31. Part 1. Explainable AI (XAI) Module 4. 설명 가능한 AI 서울대학교 문태섭 교수님이 강의를 하셨고 Module 4에 관한 모든 내용은 LG Aimers 및 서울대학교 문태섭 교수님으로부터 나왔다. Explainable AI (XAI) Explainable AI (XAI)는 말 그대로 설명가능한 AI를 의미한다. 즉, - 모델 / 데이터 셋의 오류를 색출 - 모델이 얼마나 편향되어 있는지 - 설명을 통한 신뢰여부결정 의 역할이 존재한다. What is Explainability / Imterpretability - 사람이 그 이유를 이해할 수 있게 해주는 역할 - 설명을 통해 결과를 예측할 수 있게 해주는 역할 - 이유를 설명할 수 있게 해주는 역할 So what is XAI? -> 사람이 모델을 쓸 때 그 동작을 이해하고 신.. 2022. 7. 28. Module 4. 설명가능한 AI(Explainable AI) 이번 Module 3. 비지도학습은 서울대학교 문태섭 교수님이 진행을 해주셨다. Machine Learning은 크고 복잡한 데이터를 이해하고 이들 간의 관계성을 살펴보는 기술이지만, 본질적으로 해석 가능성을 제한하는 블랙박스인 경우가 많다. 현실에서 Machine Learning을 통해 얻은 결과를 활용할 때에 해석이 요구되는데, 모듈4를 통해 이러한 AI가 갖고 있는 한계를 보완하기 위한 AI기술인 Explainable AI 기술에 대해 학습함으로써 Machine Learning 모델과 그 의미에 대한 이해력을 높일 수 있을 것이다. 2022. 7. 28. 이전 1 다음
