- 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
- 모델을 벗기는 방법
- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
- 잘못 분류하면 큰 문제가 발생하는 경우일 때 왜 이렇게 선택했는지 파악할 수 있습니다.머신러닝으로 새로운 룰을 파악하고 싶은 분들
- 의료 분야 및 의사 결정에 머신러닝을 적용하거나 딥러닝을 적용한 후 원인을 파악할 필요가 있으신 분들
- 경계의 모호한 부분들을 집착하시는 분들
→ XAI는 머신러닝적인 관점이 많이 반영됩니다.
- 원인을 파악할 필요성이 없는 도메인 부분들 영화 추천은 정확도가 그렇게 치명적이지 않습니다. 다음번에 맞추면 되니까요.
- 마이크가 안되시는 분(매 모임 때마다 반드시 자신의 랜덤 발표 차례에 발표를 해주셔야 합니다)
- 관련된 논문들을 검토해봅시다.
- Book review
Chirstoph Molnar 의 Interpretable Machine Learning 책을 통해서 이론적인 배경에 대해서 작성하고, 설명가능모델을 실제로 구현해 볼 예정입니다.
Reference :
https://christophm.github.io/interpretable-ml-book/
- Lab ( 각자 )
- 실제로 구현해봅시다. 구현한 성과를 웹에 올려서 데모 해봅시다. → 프로젝트 단에서 직접 교류해봅시다.
- 소개
- 설명가능성의 중요성
- 설명가능성의 목표
- 성명가능성의 평가
2-3주차 설명가능한 기본모델
- Himani Sharma, Sunil Kumar, "A Survey on Decision Tree Algorithms of Classification in Data Mining" https://www.researchgate.net/publication/225237661_Decision_Trees
- Linear Regression
- Logistic Regression
- GLM, GAM. Etc
- Decision Tree
- Decision Rules
4주차 모델 제한이 없는 방법론 - 1
- Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. “All Models are Wrong, but Many are Useful: Learning a Variable’s Importance by Studying an Entire Class of Prediction Models Simultaneously.” http://arxiv.org/abs/1801.01489 (2018)
- Partial Dependence Plot (PDP)
- Individual Conditional Expectation (ICE)
- Feature Interaction & Permutation Importance
5~7 주차 모델 제한이 없는 방법론 -2
- Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin. "'Why Should I Trust You?': Explaining the Predictions of Any Classifier". https://arxiv.org/abs/1602.04938 (2016)
- Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin. “Anchors: High-Precision Model-Agnostic Explanations.” AAAI Conference on Artificial Intelligence (AAAI), 2018 https://homes.cs.washington.edu/~marcotcr/aaai18.pdf
- Dandl, Susanne, Christoph Molnar, Martin Binder, Bernd Bischl. “Multi-Objective Counterfactual Explanations”. In: Bäck T. et al. (eds) Parallel Problem Solving from Nature – PPSN XVI. PPSN 2020. Lecture Notes in Computer Science, vol 12269. Springer, Cham (2020)
- Local Surrogate (LIME)
- Scoped Rules (Achors)
- Shapley Values & SHAP (SHapley Additive exPlanations)
- Counterfactual Explanations
8~9주차 딥러닝에서의 근사적 접근(Neural Network Interpretation)
- Nguyen, Anh, et al. “Synthesizing the preferred inputs for neurons in neural networks via deep generator networks.” Advances in Neural Information Processing Systems. 2016
- Learned Features
- Pixel Attribution (Saliency Maps) (CAM)
- Detecting Concepts
- Adversarial Examples
10~11주차 프로젝트
- 프로젝트 → 개인적인 필요 및 흥미가 있는 설명가능 인공지능을 구현해봅시다.
왜 공부해야 하는지 당위성이 제일 중요합니다.
박상우
#뚝딱뚝딱 #카페인중독 #인대넓얕_인공지능대화를위한넓고얕은지식
자기 소개 및 개설 동기
인공지능 관련 스타트업을 준비하고 있는 박상우라고합니다.
끊임없는 호기심과 발전을 위해서 다시 한번 개설합니다.
이 분야에 관심 있는 사람들이 많이 없어서 관심 있는 사람들을 찾고자 이렇게 개설하게 되었습니다.
마루타가 되어주신 시즌1 분들께 심심한 감사와 사랑을 표현하며 좀 더 알찬 스터디가 되도록 노력하겠습니다.
소속
모두연 미니모 2기, 길 위의 사람들
풀잎스쿨 / LAB 참여 이력
LAB HIT(Human In The loop) LAB 참여
풀잎18기 설명가능한 인공지능 기획! 퍼실
풀잎15기 설명가능 인공지능 기초반 퍼실
풀잎25기 정복하자, NeRF - 논문으로 최신 트랜드까지 파악하기 참여
풀잎19기 CS231n Assignments로 따라잡기 참여
풀잎17기 Full Stack Deep Learning 참여
풀잎16기 인문학과 Al 참여
풀잎15기 Managing Kubernetes 참여
풀잎15기 Bayesian Data Analysis 참여
풀잎15기 파이썬 백엔드 입문 참여
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!
Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!
Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)
Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.
모임시작
2022년 01월 13일
모임일시
매주 목요일 19:30 ~ 21:30
모임장소
강남캠퍼스
모집기간
2021년 12월 10일 ~ 2022년 01월 11일
모집인원
10명
모집방법
신청 후 선발
165,000원
📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!
모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.
"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"
모임시작
2022년 01월 13일
모임일시
매주 목요일 19:30 ~ 21:30
모임장소
강남캠퍼스
모집기간
2021년 12월 10일 ~ 2022년 01월 11일
모집인원
10명
모집방법
신청 후 선발
165,000원
📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!
모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.
"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"
- 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
- 모델을 벗기는 방법
- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
- 잘못 분류하면 큰 문제가 발생하는 경우일 때 왜 이렇게 선택했는지 파악할 수 있습니다.머신러닝으로 새로운 룰을 파악하고 싶은 분들
- 의료 분야 및 의사 결정에 머신러닝을 적용하거나 딥러닝을 적용한 후 원인을 파악할 필요가 있으신 분들
- 경계의 모호한 부분들을 집착하시는 분들
→ XAI는 머신러닝적인 관점이 많이 반영됩니다.
- 원인을 파악할 필요성이 없는 도메인 부분들 영화 추천은 정확도가 그렇게 치명적이지 않습니다. 다음번에 맞추면 되니까요.
- 마이크가 안되시는 분(매 모임 때마다 반드시 자신의 랜덤 발표 차례에 발표를 해주셔야 합니다)
- 관련된 논문들을 검토해봅시다.
- Book review
Chirstoph Molnar 의 Interpretable Machine Learning 책을 통해서 이론적인 배경에 대해서 작성하고, 설명가능모델을 실제로 구현해 볼 예정입니다.
Reference :
https://christophm.github.io/interpretable-ml-book/
- Lab ( 각자 )
- 실제로 구현해봅시다. 구현한 성과를 웹에 올려서 데모 해봅시다. → 프로젝트 단에서 직접 교류해봅시다.
- 소개
- 설명가능성의 중요성
- 설명가능성의 목표
- 성명가능성의 평가
2-3주차 설명가능한 기본모델
- Himani Sharma, Sunil Kumar, "A Survey on Decision Tree Algorithms of Classification in Data Mining" https://www.researchgate.net/publication/225237661_Decision_Trees
- Linear Regression
- Logistic Regression
- GLM, GAM. Etc
- Decision Tree
- Decision Rules
4주차 모델 제한이 없는 방법론 - 1
- Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. “All Models are Wrong, but Many are Useful: Learning a Variable’s Importance by Studying an Entire Class of Prediction Models Simultaneously.” http://arxiv.org/abs/1801.01489 (2018)
- Partial Dependence Plot (PDP)
- Individual Conditional Expectation (ICE)
- Feature Interaction & Permutation Importance
5~7 주차 모델 제한이 없는 방법론 -2
- Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin. "'Why Should I Trust You?': Explaining the Predictions of Any Classifier". https://arxiv.org/abs/1602.04938 (2016)
- Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin. “Anchors: High-Precision Model-Agnostic Explanations.” AAAI Conference on Artificial Intelligence (AAAI), 2018 https://homes.cs.washington.edu/~marcotcr/aaai18.pdf
- Dandl, Susanne, Christoph Molnar, Martin Binder, Bernd Bischl. “Multi-Objective Counterfactual Explanations”. In: Bäck T. et al. (eds) Parallel Problem Solving from Nature – PPSN XVI. PPSN 2020. Lecture Notes in Computer Science, vol 12269. Springer, Cham (2020)
- Local Surrogate (LIME)
- Scoped Rules (Achors)
- Shapley Values & SHAP (SHapley Additive exPlanations)
- Counterfactual Explanations
8~9주차 딥러닝에서의 근사적 접근(Neural Network Interpretation)
- Nguyen, Anh, et al. “Synthesizing the preferred inputs for neurons in neural networks via deep generator networks.” Advances in Neural Information Processing Systems. 2016
- Learned Features
- Pixel Attribution (Saliency Maps) (CAM)
- Detecting Concepts
- Adversarial Examples
10~11주차 프로젝트
- 프로젝트 → 개인적인 필요 및 흥미가 있는 설명가능 인공지능을 구현해봅시다.
왜 공부해야 하는지 당위성이 제일 중요합니다.
끊임없는 호기심과 발전을 위해서 다시 한번 개설합니다.
이 분야에 관심 있는 사람들이 많이 없어서 관심 있는 사람들을 찾고자 이렇게 개설하게 되었습니다.
마루타가 되어주신 시즌1 분들께 심심한 감사와 사랑을 표현하며 좀 더 알찬 스터디가 되도록 노력하겠습니다.
LAB HIT(Human In The loop) LAB 참여
풀잎18기 설명가능한 인공지능 기획! 퍼실
풀잎15기 설명가능 인공지능 기초반 퍼실
풀잎25기 정복하자, NeRF - 논문으로 최신 트랜드까지 파악하기 참여
풀잎19기 CS231n Assignments로 따라잡기 참여
풀잎17기 Full Stack Deep Learning 참여
풀잎16기 인문학과 Al 참여
풀잎15기 Managing Kubernetes 참여
풀잎15기 Bayesian Data Analysis 참여
풀잎15기 파이썬 백엔드 입문 참여
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!
Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!
Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)
Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.