모두의연구소에서 만들면 다릅니다. AI학교 아이펠 DS과정 마침내 오픈!
어떤 모임인가요?
NLP 분야 must-read 논문들을 읽고, 이해하고, 코드까지 확인해보는 모임입니다.
겉핥기 식으로 보는게 아니라 깊은 이해를 목표로 합니다.
논문을 직접 구현하거나, 어렵다면 구현된 코드를 보며 분석해 실제 알고리즘을 이해합니다.
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- 자연어 처리 must-read 논문 최소 4개 이상 완독
- 논문을 겉핥기식이 아닌 깊이 이해하며 읽은 경험 쌓기
- 모델의 구현 코드를 확인하며 실제 동작 알고리즘을 보기
무엇을 공부하나요?
자연어처리 분야 must-read 논문을 읽고 코드 구현하기.
어떤 사전지식이 필요한가요?
  • 1-2주에 한 편씩 논문을 읽고 발표할 수 있는 "영어 실력" 또는 "열정"
  • 자연어처리에 대한 기초적인 지식
    • Embedding, LSTM, Tokenize, ... 등의 키워드를 알고 이해하고 있는 수준의 지식
  • 프로그래밍 능력 : 모델 구현 또는 구현된 코드를 이해하고 해석할 수 있을 정도
이런 분들이 들으면 좋아요!
- 겉핥기로 읽었던 자연어 처리 논문들을 다시 제대로 읽어보고 싶은 분
- 자연어 처리(NLP) 모델 architecture와 실제 코드 구현에 관심이 있는 분
- 2-3주 간격으로 논문 발표 및 구현 코드 확인하는걸 성실하게 참여할 수 있는 분.
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- 자연어 처리 사전지식이 없으신 분
- 꾸준하고 성실하게 참여가 어려우신 분 : 논문 읽고 발표 및 코드 확인 등의 스터디
- 논문 읽기 + 코드 구현 라는 스터디 목적과 맞지 않으신 분
학습유형
사전학습
모임 운영 방식
0. 모임 시작 전 스터디원의 실력과 원하는 논문 등을 취합해 논문을 선정합니다.
------------
2-3주에 논문 한 편.
1. (선정된 논문을 각자 읽고 모입니다.) 모여서 랜덤하게 발표 파트를 정합니다.
2. 순서대로 논문을 발표하고, 피드백을 나눕니다. (추가적으로 나눌 내용, 궁금했던 내용 등 나누기)
3. (논문 코드 구현하기 또는 구현된 코드 확인하고 모입니다.) 코드를 랜덤하게 발표 파트를 정해 한 번 훑어 봅니다.
4. 각자 코드 구현하며 어려웠던 점 / 잘 안되거나 에러난 곳 등을 나눕니다.
커리큘럼
NLP 논문 정복!
자연어 처리 분야의 필수 논문을 자세하게 읽기 + 논문 구현 (또는 구현된 코드 분석)
아래는 예시입니다.

1주차
Attention is All You Need - 논문 발표

2주차
Attention is All You Need - 논문 구현 코드 확인

3주차
BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding - 논문 발표

4주차
BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding - 논문 구현 코드 확인

5주차
Transformer-XL : Attentive Language Models Beyond a Fixed-Length Context - 논문 발표

6주차
Transformer-XL : Attentive Language Models Beyond a Fixed-Length Context - 논문 구현 코드 확인

7주차
Big Bird: Transformers for Longer Sequences - 논문 발표

8주차
Big Bird: Transformers for Longer Sequences - 논문 구현 코드 확인

교재 / 학습자료 / 준비물
[논문]
  • Attention is All You Need
  • BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding
  • Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context
  • XLNet: Generalized Autoregressive Pretraining for Language Understanding
  • Electra: Conditional Generative Model based Predicate-Aware Query Approximation
  • Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
  • Big Bird: Transformers for Longer Sequences
첫 시간 전 준비사항
스터디 방향성 함께 설정
  • 함께 읽고 싶은 Must-read 논문 선정
  • 코드 구현까지 하고 싶은지, 코드만 보고 싶은지 등

퍼실이 소개
이송희

이송희

#INFP#NLP연구원

자기 소개 및 개설 동기

컴퓨터 공학과를 졸업하고 자연어 처리 공부를 하며,
대학 랩실에서 자연어처리 프로젝트를 참여하고 있습니다.
자연어처리 모델에 대해 겉핥기 식이 아닌 깊은 이해를 갖고 싶어 스터디를 개설하게 됐습니다.

소속

2B3E lab

풀잎스쿨 / LAB 참여 이력

풀잎20기 자연어처리 논문 정복하기 퍼실

풀잎19기 NLP w/DL : 캐글 첫 도전하기 참여

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.
자연어처리 논문 정복하기

모임시작

2022년 06월 14일

모임일시

매주 화요일 19:30 ~ 21:30

모임장소

온라인캠퍼스

모집기간

2022년 05월 31일 ~ 06월 18일

모집인원

10명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

백엔드 개발 능력에 AI 활용 능력까지 더하면 어떻게 되는지 궁금해?!
자연어처리 논문 정복하기

모임시작

2022년 06월 14일

모임일시

매주 화요일 19:30 ~ 21:30

모임장소

온라인캠퍼스

모집기간

2022년 05월 31일 ~ 06월 18일

모집인원

10명

모집방법

신청 후 선발

165,000원

📢 브라우저 창이나 탭을 동시에 한 개 이상 열어서 모임을 신청하는 경우 결제 오류가 발생할 수 있으니 하나씩 신청 부탁드려요!

모집 마감된 모임의 경우 '공석 알림 신청'을 해주시면, 추후 취소하는 참여자가 있는 경우에 이메일로 알림을 보내드립니다.

"모임이 더 궁금하다면 모두의연구소 커뮤니티 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!"

어떤 모임인가요?
NLP 분야 must-read 논문들을 읽고, 이해하고, 코드까지 확인해보는 모임입니다.
겉핥기 식으로 보는게 아니라 깊은 이해를 목표로 합니다.
논문을 직접 구현하거나, 어렵다면 구현된 코드를 보며 분석해 실제 알고리즘을 이해합니다.
모임이 더 궁금하다면 모두의연구소 커뮤니티(https://join.slack.com/t/modulabs/shared_invite/zt-24wqh8x3q-N4AzqCVF_qD1x4RQeqFzAQ) 채널 #04_풀잎스쿨 에서 퍼실이에게 직접 질문할 수 있어요!
무엇을 얻을 수 있나요?
- 자연어 처리 must-read 논문 최소 4개 이상 완독
- 논문을 겉핥기식이 아닌 깊이 이해하며 읽은 경험 쌓기
- 모델의 구현 코드를 확인하며 실제 동작 알고리즘을 보기
무엇을 공부하나요?
자연어처리 분야 must-read 논문을 읽고 코드 구현하기.
어떤 사전지식이 필요한가요?
  • 1-2주에 한 편씩 논문을 읽고 발표할 수 있는 "영어 실력" 또는 "열정"
  • 자연어처리에 대한 기초적인 지식
    • Embedding, LSTM, Tokenize, ... 등의 키워드를 알고 이해하고 있는 수준의 지식
  • 프로그래밍 능력 : 모델 구현 또는 구현된 코드를 이해하고 해석할 수 있을 정도
이런 분들이 들으면 좋아요!
- 겉핥기로 읽었던 자연어 처리 논문들을 다시 제대로 읽어보고 싶은 분
- 자연어 처리(NLP) 모델 architecture와 실제 코드 구현에 관심이 있는 분
- 2-3주 간격으로 논문 발표 및 구현 코드 확인하는걸 성실하게 참여할 수 있는 분.
이런 분들은 신청하기 전 다시 한 번 고민해보세요!
- 자연어 처리 사전지식이 없으신 분
- 꾸준하고 성실하게 참여가 어려우신 분 : 논문 읽고 발표 및 코드 확인 등의 스터디
- 논문 읽기 + 코드 구현 라는 스터디 목적과 맞지 않으신 분
학습유형
사전학습
모임 운영 방식
0. 모임 시작 전 스터디원의 실력과 원하는 논문 등을 취합해 논문을 선정합니다.
------------
2-3주에 논문 한 편.
1. (선정된 논문을 각자 읽고 모입니다.) 모여서 랜덤하게 발표 파트를 정합니다.
2. 순서대로 논문을 발표하고, 피드백을 나눕니다. (추가적으로 나눌 내용, 궁금했던 내용 등 나누기)
3. (논문 코드 구현하기 또는 구현된 코드 확인하고 모입니다.) 코드를 랜덤하게 발표 파트를 정해 한 번 훑어 봅니다.
4. 각자 코드 구현하며 어려웠던 점 / 잘 안되거나 에러난 곳 등을 나눕니다.
커리큘럼
NLP 논문 정복!
자연어 처리 분야의 필수 논문을 자세하게 읽기 + 논문 구현 (또는 구현된 코드 분석)
아래는 예시입니다.

1주차
Attention is All You Need - 논문 발표

2주차
Attention is All You Need - 논문 구현 코드 확인

3주차
BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding - 논문 발표

4주차
BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding - 논문 구현 코드 확인

5주차
Transformer-XL : Attentive Language Models Beyond a Fixed-Length Context - 논문 발표

6주차
Transformer-XL : Attentive Language Models Beyond a Fixed-Length Context - 논문 구현 코드 확인

7주차
Big Bird: Transformers for Longer Sequences - 논문 발표

8주차
Big Bird: Transformers for Longer Sequences - 논문 구현 코드 확인

교재 / 학습자료 / 준비물
[논문]
  • Attention is All You Need
  • BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding
  • Transformer-XL: Attentive Language Models Beyond a Fixed-Length Context
  • XLNet: Generalized Autoregressive Pretraining for Language Understanding
  • Electra: Conditional Generative Model based Predicate-Aware Query Approximation
  • Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
  • Big Bird: Transformers for Longer Sequences
첫 시간 전 준비사항
스터디 방향성 함께 설정
  • 함께 읽고 싶은 Must-read 논문 선정
  • 코드 구현까지 하고 싶은지, 코드만 보고 싶은지 등

퍼실이 소개

이송희

이송희
#INFP#NLP연구원
자기소개 및 개설동기
컴퓨터 공학과를 졸업하고 자연어 처리 공부를 하며,
대학 랩실에서 자연어처리 프로젝트를 참여하고 있습니다.
자연어처리 모델에 대해 겉핥기 식이 아닌 깊은 이해를 갖고 싶어 스터디를 개설하게 됐습니다.
소속
2B3E lab
풀잎스쿨 / LAB 참여 이력

풀잎20기 자연어처리 논문 정복하기 퍼실

풀잎19기 NLP w/DL : 캐글 첫 도전하기 참여

풀잎스쿨 참여 주의사항
Q. 풀잎스쿨은 강의인가요?
풀잎스쿨은 학원식 강의가 아닌, 플립러닝(flipped learning) 방식으로 참여자들이 함께 만들어 나가는 스터디 모임이에요. 따라서 출석과 사전 학습을 성실히 수행하고, 공부한 것을 함께 나눌 의지가 있으시다면 그 어디보다 많은 것을 얻어가실 수 있답니다!

Q. '퍼실이'는 누구인가요?
퍼실이는 함께 공부하는 스터디 리더예요. 강사가 아니어서 강의를 하지는 않지만, 커리큘럼을 기획하고 모임을 진행한답니다. 선의와 공유의 마음으로 기꺼이 지원해 모임을 이끌어 주시는 만큼, 퍼실이와 함께 따뜻한 모임을 함께 만들어 주세요. :)
부득이하게 모임 참석이 어렵거나 모임에 늦는 경우처럼, 원활한 참여가 어려운 경우에는 퍼실이가 미리 인지하고 준비하실 수 있도록 반드시 알려주세요!

Q. 사회적 거리두기 단계에 따라 안전하게 진행되나요?
모두의연구소는 사회적 거리두기 단계별 방역 조치를 지켜, 모든 연구원들이 안전한 환경에서 편안히 활동하실 수 있도록 노력하고 있습니다.
오프라인 모임 또한 사회적 거리두기 단계별 방역 조치에 따라 온라인으로 진행될 수 있습니다. 다만, 방역 조치상 오프라인 모임이 가능한 경우 오프라인 진행을 원칙으로 합니다. 추가적으로, 모임의 질을 위해 온•오프라인 병행은 '지양'하고 있습니다.
풀잎스쿨에는 온라인으로 진행되는 다양한 과정이 있답니다. 시간적•거리적 제약으로 오프라인 참여가 어려우신 분들은 온라인 과정을 주목해 주세요! :)

Q. 온라인 모임에 참여할 때 캠과 마이크를 반드시 켜야 하나요?
네. 모두의연구소는 연구원 분들이 최적의 환경에서 학습과 연구에 몰입하실 수 있는 환경 조성을 최우선으로 하고 있습니다. 따라서, 온라인 모임 시에는 토론과 질문이 빈번한 학습 환경에서의 몰입과 매끄러운 진행을 위해, 반드시 캠과 마이크를 켜서 대화에 참여하도록 안내하고 있습니다.
캠과 마이크를 켤 수 없는 경우에는 아쉽지만 참여를 제한하고 있으니, 반드시 캠과 마이크 기능이 포함된 도구를 준비해 주세요. 원활한 의사소통을 위해 자택 등의 조용한 공간에서 참여해 주시면 감사드리겠습니다.
환불정책
첫 모임 시작 전날까지 취소 및 전액 환불이 가능합니다.
환불 신청은 홈페이지 상단의 “문의글 작성” 에서 가능합니다.