모두의연구소에서 만들면 다릅니다. AI학교 아이펠 DS과정 마침내 오픈!
어떤 모임인가요?
  • 목표
    • 현시점에서 un-/self-supervised learning의 발전을 되돌아보며 아래에 대해서 토론 합니다.
      • 어떤 메소드적 마일스톤이 있었는지?
      • 코드 구현부분에서 어떤 이슈+ 새로운 기법이 있었는지?
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- self-supervised learning 발전에 획을 그었던 메소드에 대한 이해를 합니다.
- self-supervised learning 발전에 획을 그었던 메소드의 코드 구현을 함께 살펴봅니다.
- self-supervised learning 발전에 획을 그었던 논문에서 어떤 질문을 던지고 어떤 답을 찾았는지 함께 토론합니다.
- self-supervised learning 기술 발전의 맥을 짚어봅니다.
무엇을 공부하나요?
  • self-supervised learning이 발전에 크게 기여한 논문에 대해서 공부합니다.
  • self-supervised learning이 발전에 크게 기여한 논문의 구현에 대해서 공부합니다.
어떤 사전지식이 필요한가요?
  • AI 학술논문을 읽고 이해하는 능력이 필요합니다.
  • AI 학술논문을 읽고 요약해서 발표해야 합니다.
  • pytorch / tensorflow의 코드를 읽고 해석하는 능력이 필요합니다.
이런 분들이 들으면 좋아요!
- self-supervised learning을 배워야하는데 reference찾기에 어려움이 있으신 분들
- self-supervised learning에 대한 이론적인 이해가 필요하신분
- self-supervised learning에 대한 코드 구현에 대해서 공부하고 싶으신 분
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- AI 학술논문을 읽고 이해하는데 너무 오랜시간이 걸리시는 분들
- AI 메소드 코드를 해석하는데 너무 오랜시간이 걸리시는 분들
학습유형
사전학습
모임 운영 방식
- 진행방식
- 커리큘럼에 따른 논문 발표 + 코드 리뷰
- 2주간이 한세트가 되어 한주는 논문발표를 진행하고 이어지는 한주는 코드리뷰를 진행
- 상세
- 각 주에 깃헙을 통한 이슈등록 후 진행
- 논문 발표 (자유형식, 한편당 30분)
- 코드 리뷰 (orig repo fork해서, 코드를 읽으면서 설명, 한편당 30분)
커리큘럼
1주차) 논문읽기: Clustering을 위한 representation learning

2주차) 코드리뷰: Clustering을 위한 representation learning

3주차) 논문 읽기: representation learning의 발전
  • VQ-VAE: Neural Discrete Representation Learning
  • CPC v1: Representation Learning with Contrastive Predictive Coding

4주차) 코드리뷰: representation learning의 발전
  • VQ-VAE: Neural Discrete Representation Learning
  • CPC v1: Representation Learning with Contrastive Predictive Coding

5주차) 논문읽기: Instance-level contrastive learning
  • MoCo v1: Momentum Contrast for Unsupervised Visual Representation Learning
  • SimCLR: A Simple Framework for Contrastive Learning of Visual Representations

6주차) 코드리뷰: Instance-level contrastive learning
  • MoCo v1: Momentum Contrast for Unsupervised Visual Representation Learning
  • SimCLR: A Simple Framework for Contrastive Learning of Visual Representations

7주차) 논문 읽기: Negative 없이 하는 self-supervised learning
  • SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
  • SimSiam: Exploring Simple Siamese Representation Learning

8주차) 코드리뷰: Negative 없이 하는 self-supervised learning
  • SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
  • SimSiam: Exploring Simple Siamese Representation Learning

교재 / 학습자료 / 준비물
교재: Axiv 논문과 공개된 논문 repository
첫 시간 전 준비사항
  • 첫주 발표는 퍼실이 진행
  • 커리큘럼을 보고 contribution하고 싶은 논문 발표 또는 코드  리뷰를  정해오기
퍼실이 소개
강재욱

강재욱

#자연어처리 #unsupervised learning #질문왕

자기 소개 및 개설 동기

Unsupervised Learning팀에서 팀원들과 즐겁게 연구도 하고 서비스 개발도 합니다. 통계와 신호처리, 정보이론를 전공했습니다. 다양한 사람들과 배운 것을 나누고 소통하고 싶습니다.
최근 2년동안 self-supervised learning이 비약적인 발전을 하였습니다. 그 과정을 함께 돌아보고 교훈을 함께 얻고자 합니다.

소속

네이버 클로바

풀잎스쿨 / LAB 참여 이력

풀잎19기 거꾸로 보는 self-supervised learning 파트1 퍼실

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.
거꾸로 보는 self-supervised learning 파트1

모임시작

2022년 04월 16일

모임일시

매주 토요일 10:30 ~ 13:30

모임장소

온라인캠퍼스

모집기간

2022년 03월 13일 ~ 04월 15일

모집인원

20명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

백엔드 개발 능력에 AI 활용 능력까지 더하면 어떻게 되는지 궁금해?!
거꾸로 보는 self-supervised learning 파트1

모임시작

2022년 04월 16일

모임일시

매주 토요일 10:30 ~ 13:30

모임장소

온라인캠퍼스

모집기간

2022년 03월 13일 ~ 04월 15일

모집인원

20명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

어떤 모임인가요?
  • 목표
    • 현시점에서 un-/self-supervised learning의 발전을 되돌아보며 아래에 대해서 토론 합니다.
      • 어떤 메소드적 마일스톤이 있었는지?
      • 코드 구현부분에서 어떤 이슈+ 새로운 기법이 있었는지?
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- self-supervised learning 발전에 획을 그었던 메소드에 대한 이해를 합니다.
- self-supervised learning 발전에 획을 그었던 메소드의 코드 구현을 함께 살펴봅니다.
- self-supervised learning 발전에 획을 그었던 논문에서 어떤 질문을 던지고 어떤 답을 찾았는지 함께 토론합니다.
- self-supervised learning 기술 발전의 맥을 짚어봅니다.
무엇을 공부하나요?
  • self-supervised learning이 발전에 크게 기여한 논문에 대해서 공부합니다.
  • self-supervised learning이 발전에 크게 기여한 논문의 구현에 대해서 공부합니다.
어떤 사전지식이 필요한가요?
  • AI 학술논문을 읽고 이해하는 능력이 필요합니다.
  • AI 학술논문을 읽고 요약해서 발표해야 합니다.
  • pytorch / tensorflow의 코드를 읽고 해석하는 능력이 필요합니다.
이런 분들이 들으면 좋아요!
- self-supervised learning을 배워야하는데 reference찾기에 어려움이 있으신 분들
- self-supervised learning에 대한 이론적인 이해가 필요하신분
- self-supervised learning에 대한 코드 구현에 대해서 공부하고 싶으신 분
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- AI 학술논문을 읽고 이해하는데 너무 오랜시간이 걸리시는 분들
- AI 메소드 코드를 해석하는데 너무 오랜시간이 걸리시는 분들
학습유형
사전학습
모임 운영 방식
- 진행방식
- 커리큘럼에 따른 논문 발표 + 코드 리뷰
- 2주간이 한세트가 되어 한주는 논문발표를 진행하고 이어지는 한주는 코드리뷰를 진행
- 상세
- 각 주에 깃헙을 통한 이슈등록 후 진행
- 논문 발표 (자유형식, 한편당 30분)
- 코드 리뷰 (orig repo fork해서, 코드를 읽으면서 설명, 한편당 30분)
커리큘럼
1주차) 논문읽기: Clustering을 위한 representation learning

2주차) 코드리뷰: Clustering을 위한 representation learning

3주차) 논문 읽기: representation learning의 발전
  • VQ-VAE: Neural Discrete Representation Learning
  • CPC v1: Representation Learning with Contrastive Predictive Coding

4주차) 코드리뷰: representation learning의 발전
  • VQ-VAE: Neural Discrete Representation Learning
  • CPC v1: Representation Learning with Contrastive Predictive Coding

5주차) 논문읽기: Instance-level contrastive learning
  • MoCo v1: Momentum Contrast for Unsupervised Visual Representation Learning
  • SimCLR: A Simple Framework for Contrastive Learning of Visual Representations

6주차) 코드리뷰: Instance-level contrastive learning
  • MoCo v1: Momentum Contrast for Unsupervised Visual Representation Learning
  • SimCLR: A Simple Framework for Contrastive Learning of Visual Representations

7주차) 논문 읽기: Negative 없이 하는 self-supervised learning
  • SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
  • SimSiam: Exploring Simple Siamese Representation Learning

8주차) 코드리뷰: Negative 없이 하는 self-supervised learning
  • SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
  • SimSiam: Exploring Simple Siamese Representation Learning

교재 / 학습자료 / 준비물
교재: Axiv 논문과 공개된 논문 repository
첫 시간 전 준비사항
  • 첫주 발표는 퍼실이 진행
  • 커리큘럼을 보고 contribution하고 싶은 논문 발표 또는 코드  리뷰를  정해오기
퍼실이 소개

강재욱

강재욱
#자연어처리 #unsupervised learning #질문왕
자기소개 및 개설동기
Unsupervised Learning팀에서 팀원들과 즐겁게 연구도 하고 서비스 개발도 합니다. 통계와 신호처리, 정보이론를 전공했습니다. 다양한 사람들과 배운 것을 나누고 소통하고 싶습니다.
최근 2년동안 self-supervised learning이 비약적인 발전을 하였습니다. 그 과정을 함께 돌아보고 교훈을 함께 얻고자 합니다.
소속
네이버 클로바
풀잎스쿨 / LAB 참여 이력

풀잎19기 거꾸로 보는 self-supervised learning 파트1 퍼실

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.