CALM LAB (Context-Aware Language Modeling Lab)
모임 기간
2022.11.02 -
모임 일시
매주 수요일 19:30 ~ 21:30
장 소
강남
모집 기간
2022.10.15 - 2022.10.31
모집 인원
10명
선발 방식
사전 질문 기반 심사
랩 소개
운영 방식
참여 요건
랩장 소개
⭐️ 랩 소개
한 줄 소개
Context-Aware Language Modeling Lab
분야
ENGINEERING
목표 결과물
PAPER
LAB개설 동기에도 언급했듯, Goal-Oriented Dialogue System을 위한 Context-Aware Language Modeling대한 연구를 하는 연구실입니다.
논문서베이 수준에 그치지 않고, 구체적인 베이스라인에서부터 시작해서 구체적인 실험프로젝트를 진행하게 됩니다.
⭐️ 운영 방식
[활동계획]
CALM Lab의 활동계획은 1차연구+2차연구의 2-track으로 진행할 계획입니다.
우선 1차연구는 GPT-2을 활용해 POMDP Agent를 구현한 Goal-Oriented Dialogue System 선행연구를 바탕으로, 성능 및 기법상의 특징을 살펴보고 이를 개선해 보는 작업을 진행하려고 합니다. 이를 통해 우리 랩의 연구 베이스라인을 빠르게 구축해 보려고 합니다. 이 작업은 올해 중으로 마무리하는 것을 목표로 합니다.
2차연구는 1차연구와 병렬로 진행됩니다. Goal-Oriented Dialogue System을 위해서는 Language Model(NLG, NLU) 이외에도 강화학습, Graph Neural Network, 정보이론을 결합한 시도가 필요하기 때문에, 이런 시도를 했었던 선행연구 흐름을 살펴보고 주제와 타게팅되는 부분을 심화학습하는 준비기간이 최소 3달 혹은 그 이상 소요될 것이라 생각합니다.
그래서 2차연구의 전반부는 위 내용의 서베이 및 1차연구 진행상황의 공유로 진행되고, 본격적인 2차연구의 후반부는 23년 초부터 CALM Lab 시즌2로 진행할 계획입니다.
[운영방식]
운영방식은, 정기모임인 평일(수) 저녁에 2차연구 위주로 진행됩니다. 이번 시즌1에서는 주로 선행연구 논문서베이 및 1차연구 진행상황 공유로 진행될 예정입니다.
그리고 프로젝트 중심으로 진행되는 1차연구는 평일 혹은 주말(참여자 일정에 따라 가변적)에 별도의 프로젝트 진행일정을 가지게 됩니다.
랩의 모든 멤버들이 다 1차연구에 직접 참여하는 것이 의무는 아닙니다. 하지만 랩은 1차연구 참여자 중심으로 운영할 예정입니다.
⭐️ 커리큘럼
⭐️ 참여 요건
1차연구 참여 희망자는 주말 혹은 평일 최소 1일 이상의 풀타임 프로젝트 참여가 요구됩니다. 프로젝트 데이는 1차연구 참여자들의 일정에 따라 가변적일 수 있습니다.
1차연구 참여 지원자는 서베이+프로젝트구현+논문작성 등 최소 1가지 이상의 역할로 프로젝트에 구체적으로 기여할 수 있어야 합니다.
2차연구 참여 지원자 (중 1차연구 미참여자)는, NLP/GNN/RL/InformationTheory/CausalInference 등의 분야에서 매주 1편의 논문을 읽고 연구맥락과 관련지어 20분 길이의 세미나를 진행하실 수 있어야 합니다. 그러므로 위 분야 중 적어도 1가지 이상에 대한 지식을 가지고 계신 분이어야 합니다.
⭐️ 사전 질문
1차연구 참여 가능하신가요?
2차연구 참여 가능하신가요?
AI분야에서 연구활동하신 이력이 있으시면 간단히 공유 부탁드립니다.
본인이 이 랩에서 어떤 역할로 기여하고 싶으신가요?
⭐️ 랩장 소개
백병인
모두의연구소 · uhmppi1@gmail.com
I fell into AIFFEL!!
반갑습니다, 프로젝트 AIFFEL의 PM을 맡은 백병인입니다!