모두의연구소에서 만들면 다릅니다. AI학교 아이펠 DS과정 마침내 오픈!
어떤 모임인가요?
우리의 모델의 정확도는 기똥찹니다. 근데 실제로 적용하면 난리가 납니다. 그러면 정확도는 믿을 수 있을까요? 어떻게 해석 해야 할까요? 설명 가능 인공지능 모델에 대해서 스터디를 해봅시다.
  • 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
  • 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
  • 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
무엇을 공부하나요?
  • 모델을 벗기는 방법
어떤 사전지식이 필요한가요?
  • 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
  • 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
이런 분들이 들으면 좋아요!
머신러닝을 현업에 적용 하고 싶지만, 신뢰도가 의심스러운 분들
- 잘못 분류하면 큰 문제가 발생하는 경우일 때 왜 이렇게 선택했는지 파악할 수 있습니다.머신러닝으로 새로운 룰을 파악하고 싶은 분들
- 의료 분야 및 의사 결정에 머신러닝을 적용하거나 딥러닝을 적용한 후 원인을 파악할 필요가 있으신 분들
- 경계의 모호한 부분들을 집착하시는 분들
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- 일반적인 머신러닝을 접해보지 못하신 분들

→ XAI는 머신러닝적인 관점이 많이 반영됩니다.

- 원인을 파악할 필요성이 없는 도메인 부분들 영화 추천은 정확도가 그렇게 치명적이지 않습니다. 다음번에 맞추면 되니까요.
- 마이크가 안되시는 분(매 모임 때마다 반드시 자신의 랜덤 발표 차례에 발표를 해주셔야 합니다)
학습유형
하브루타
모임 운영 방식
- Paper review
- 관련된 논문들을 검토해봅시다.
- Book review

Chirstoph Molnar 의 Interpretable Machine Learning 책을 통해서 이론적인 배경에 대해서 작성하고, 설명가능모델을 실제로 구현해 볼 예정입니다.

Reference :

https://christophm.github.io/interpretable-ml-book/

- Lab ( 각자 )
- 실제로 구현해봅시다. 구현한 성과를 웹에 올려서 데모 해봅시다. → 프로젝트 단에서 직접 교류해봅시다.
커리큘럼
1주차 설명가능성이란?
  • 소개
  • 설명가능성의 중요성
  • 설명가능성의 목표
  • 성명가능성의 평가

2-3주차 설명가능한 기본모델
Paper review
Book review
  • Linear Regression
  • Logistic Regression
  • GLM, GAM. Etc
  • Decision Tree
  • Decision Rules

4주차 모델 제한이 없는 방법론 - 1
Paper review
  • Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. “All Models are Wrong, but Many are Useful: Learning a Variable’s Importance by Studying an Entire Class of Prediction Models Simultaneously.” http://arxiv.org/abs/1801.01489 (2018)
Book review
  • Partial Dependence Plot (PDP)
  • Individual Conditional Expectation (ICE)
  • Feature Interaction & Permutation Importance

5~7 주차 모델 제한이 없는 방법론 -2
Paper review
  • Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin. "'Why Should I Trust You?': Explaining the Predictions of Any Classifier". https://arxiv.org/abs/1602.04938 (2016)
  • Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin. “Anchors: High-Precision Model-Agnostic Explanations.” AAAI Conference on Artificial Intelligence (AAAI), 2018 https://homes.cs.washington.edu/~marcotcr/aaai18.pdf
  • Dandl, Susanne, Christoph Molnar, Martin Binder, Bernd Bischl. “Multi-Objective Counterfactual Explanations”. In: Bäck T. et al. (eds) Parallel Problem Solving from Nature – PPSN XVI. PPSN 2020. Lecture Notes in Computer Science, vol 12269. Springer, Cham (2020)
Book review
  • Local Surrogate (LIME)
  • Scoped Rules (Achors)
  • Shapley Values & SHAP (SHapley Additive exPlanations)
  • Counterfactual Explanations

8~9주차 딥러닝에서의 근사적 접근(Neural Network Interpretation)
Paper review
  • Nguyen, Anh, et al. “Synthesizing the preferred inputs for neurons in neural networks via deep generator networks.” Advances in Neural Information Processing Systems. 2016
Book review
  • Learned Features
  • Pixel Attribution (Saliency Maps) (CAM)
  • Detecting Concepts
  • Adversarial Examples

10~11주차 프로젝트
  • 프로젝트 → 개인적인 필요 및 흥미가 있는 설명가능 인공지능을 구현해봅시다.

교재 / 학습자료 / 준비물
https://christophm.github.io/interpretable-ml-book/
첫 시간 전 준비사항
하고 싶은 것,
왜 공부해야 하는지 당위성이 제일 중요합니다.
퍼실이 소개
박상우

박상우

#뚝딱뚝딱 #카페인중독 #인대넓얕_인공지능대화를위한넓고얕은지식

자기 소개 및 개설 동기

인공지능 관련 스타트업을 준비하고 있는 박상우라고합니다.
끊임없는 호기심과 발전을 위해서 다시 한번 개설합니다.
이 분야에 관심 있는 사람들이 많이 없어서 관심 있는 사람들을 찾고자 이렇게 개설하게 되었습니다.
마루타가 되어주신 시즌1 분들께 심심한 감사와 사랑을 표현하며 좀 더 알찬 스터디가 되도록 노력하겠습니다.

소속

모두연 미니모 2기, 길 위의 사람들

풀잎스쿨 / LAB 참여 이력

LAB HIT(Human In The loop) LAB 참여

풀잎18기 설명가능한 인공지능 기획! 퍼실

풀잎15기 설명가능 인공지능 기초반 퍼실

풀잎25기 정복하자, NeRF - 논문으로 최신 트랜드까지 파악하기 참여

풀잎19기 CS231n Assignments로 따라잡기 참여

풀잎17기 Full Stack Deep Learning 참여

풀잎16기 인문학과 Al 참여

풀잎15기 Managing Kubernetes 참여

풀잎15기 Bayesian Data Analysis 참여

풀잎15기 파이썬 백엔드 입문 참여

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.
설명가능한 인공지능 기획!

모임시작

2022년 01월 13일

모임일시

매주 목요일 19:30 ~ 21:30

모임장소

강남캠퍼스

모집기간

2021년 12월 10일 ~ 2022년 01월 11일

모집인원

10명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

백엔드 개발 능력에 AI 활용 능력까지 더하면 어떻게 되는지 궁금해?!
설명가능한 인공지능 기획!

모임시작

2022년 01월 13일

모임일시

매주 목요일 19:30 ~ 21:30

모임장소

강남캠퍼스

모집기간

2021년 12월 10일 ~ 2022년 01월 11일

모집인원

10명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

어떤 모임인가요?
우리의 모델의 정확도는 기똥찹니다. 근데 실제로 적용하면 난리가 납니다. 그러면 정확도는 믿을 수 있을까요? 어떻게 해석 해야 할까요? 설명 가능 인공지능 모델에 대해서 스터디를 해봅시다.
  • 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
  • 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
  • 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- 자체적으로 설명 가능한 모델에 대해서 알 수 있으며, 그것을 이용하여 설명이 불가능한 모델에 대해서 해석할 방법을 제시할 수 있습니다.
- 이미지 분류 시에 어떤 위치 정보 요소를 이용해서 분류를 결정을 했는지 알 수 있습니다.
- 문자 분류 시에 어떤 것을 이용하여 선택을 했는지 알 수 있습니다.- 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
- 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
무엇을 공부하나요?
  • 모델을 벗기는 방법
어떤 사전지식이 필요한가요?
  • 수학적 지식이 필요합니다. 통계에 대한 기초가 확실하게 있으시면 좋습니다.
  • 혼자서 R 혹은 파이썬으로 머신러닝 혹은 딥러닝 모델을 구축해보신 분들이면 좋습니다.
이런 분들이 들으면 좋아요!
머신러닝을 현업에 적용 하고 싶지만, 신뢰도가 의심스러운 분들
- 잘못 분류하면 큰 문제가 발생하는 경우일 때 왜 이렇게 선택했는지 파악할 수 있습니다.머신러닝으로 새로운 룰을 파악하고 싶은 분들
- 의료 분야 및 의사 결정에 머신러닝을 적용하거나 딥러닝을 적용한 후 원인을 파악할 필요가 있으신 분들
- 경계의 모호한 부분들을 집착하시는 분들
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- 일반적인 머신러닝을 접해보지 못하신 분들

→ XAI는 머신러닝적인 관점이 많이 반영됩니다.

- 원인을 파악할 필요성이 없는 도메인 부분들 영화 추천은 정확도가 그렇게 치명적이지 않습니다. 다음번에 맞추면 되니까요.
- 마이크가 안되시는 분(매 모임 때마다 반드시 자신의 랜덤 발표 차례에 발표를 해주셔야 합니다)
학습유형
하브루타
모임 운영 방식
- Paper review
- 관련된 논문들을 검토해봅시다.
- Book review

Chirstoph Molnar 의 Interpretable Machine Learning 책을 통해서 이론적인 배경에 대해서 작성하고, 설명가능모델을 실제로 구현해 볼 예정입니다.

Reference :

https://christophm.github.io/interpretable-ml-book/

- Lab ( 각자 )
- 실제로 구현해봅시다. 구현한 성과를 웹에 올려서 데모 해봅시다. → 프로젝트 단에서 직접 교류해봅시다.
커리큘럼
1주차 설명가능성이란?
  • 소개
  • 설명가능성의 중요성
  • 설명가능성의 목표
  • 성명가능성의 평가

2-3주차 설명가능한 기본모델
Paper review
Book review
  • Linear Regression
  • Logistic Regression
  • GLM, GAM. Etc
  • Decision Tree
  • Decision Rules

4주차 모델 제한이 없는 방법론 - 1
Paper review
  • Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. “All Models are Wrong, but Many are Useful: Learning a Variable’s Importance by Studying an Entire Class of Prediction Models Simultaneously.” http://arxiv.org/abs/1801.01489 (2018)
Book review
  • Partial Dependence Plot (PDP)
  • Individual Conditional Expectation (ICE)
  • Feature Interaction & Permutation Importance

5~7 주차 모델 제한이 없는 방법론 -2
Paper review
  • Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin. "'Why Should I Trust You?': Explaining the Predictions of Any Classifier". https://arxiv.org/abs/1602.04938 (2016)
  • Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin. “Anchors: High-Precision Model-Agnostic Explanations.” AAAI Conference on Artificial Intelligence (AAAI), 2018 https://homes.cs.washington.edu/~marcotcr/aaai18.pdf
  • Dandl, Susanne, Christoph Molnar, Martin Binder, Bernd Bischl. “Multi-Objective Counterfactual Explanations”. In: Bäck T. et al. (eds) Parallel Problem Solving from Nature – PPSN XVI. PPSN 2020. Lecture Notes in Computer Science, vol 12269. Springer, Cham (2020)
Book review
  • Local Surrogate (LIME)
  • Scoped Rules (Achors)
  • Shapley Values & SHAP (SHapley Additive exPlanations)
  • Counterfactual Explanations

8~9주차 딥러닝에서의 근사적 접근(Neural Network Interpretation)
Paper review
  • Nguyen, Anh, et al. “Synthesizing the preferred inputs for neurons in neural networks via deep generator networks.” Advances in Neural Information Processing Systems. 2016
Book review
  • Learned Features
  • Pixel Attribution (Saliency Maps) (CAM)
  • Detecting Concepts
  • Adversarial Examples

10~11주차 프로젝트
  • 프로젝트 → 개인적인 필요 및 흥미가 있는 설명가능 인공지능을 구현해봅시다.

교재 / 학습자료 / 준비물
https://christophm.github.io/interpretable-ml-book/
첫 시간 전 준비사항
하고 싶은 것,
왜 공부해야 하는지 당위성이 제일 중요합니다.
퍼실이 소개

박상우

박상우
#뚝딱뚝딱 #카페인중독 #인대넓얕_인공지능대화를위한넓고얕은지식
자기소개 및 개설동기
인공지능 관련 스타트업을 준비하고 있는 박상우라고합니다.
끊임없는 호기심과 발전을 위해서 다시 한번 개설합니다.
이 분야에 관심 있는 사람들이 많이 없어서 관심 있는 사람들을 찾고자 이렇게 개설하게 되었습니다.
마루타가 되어주신 시즌1 분들께 심심한 감사와 사랑을 표현하며 좀 더 알찬 스터디가 되도록 노력하겠습니다.
소속
모두연 미니모 2기, 길 위의 사람들
풀잎스쿨 / LAB 참여 이력

LAB HIT(Human In The loop) LAB 참여

풀잎18기 설명가능한 인공지능 기획! 퍼실

풀잎15기 설명가능 인공지능 기초반 퍼실

풀잎25기 정복하자, NeRF - 논문으로 최신 트랜드까지 파악하기 참여

풀잎19기 CS231n Assignments로 따라잡기 참여

풀잎17기 Full Stack Deep Learning 참여

풀잎16기 인문학과 Al 참여

풀잎15기 Managing Kubernetes 참여

풀잎15기 Bayesian Data Analysis 참여

풀잎15기 파이썬 백엔드 입문 참여

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.