KBLM(Knowledge Based Language Model) LAB
모임 기간
2023.05.13 -
모임 일시
격주 토요일 10:00 ~ 12:00
장 소
온라인
모집 기간
2023.09.06 - 2023.09.19
모집 인원
4명
선발 방식
사전 질문 기반 심사
랩 소개
운영 방식
참여 요건
랩장 소개
⭐️ 랩 소개
한 줄 소개
Knowledge Based Language Model
분야
ENGINEERING
목표 결과물
PAPER
KBLM은 Knowledge Based Language Model의 줄임말로서 현재 많은 관심을 받고 있는 언어 모델에 외부 지식을 기반으로 보다 logical한 reasoning을 가능하게 하는 연구분야 중 하나입니다!
본 랩은 LM에 knowledge를 추가로 적용하는 방안과 해당 모델을 잘 경량화해서 application level에 활용될 수 있게 하는 방안에 초점을 맞추어 연구/개발을 진행해보려고 합니다
*본 랩은 일요일 20:00부터 21:00까지 온라인으로 진행됩니다.*
⭐️ 운영 방식
- 논의 후 선정된 base 논문들을 읽고 나서 공유하는 시간을 가집니다
- 코드가 공개되어 있는 모델을 우선으로 하여 간단한 실험 설계 및 구현을 진행 후 결과를 공유합니다
위의 두가지 스텝을 기본으로 팀원들간의 진행사항을 git repo와 슬랙을 통해 관리하려고 합니다!
⭐️ 커리큘럼
⭐️ 참여 요건
아래 조건은 minimum qualification입니다!
- 딥러닝 프레임워크 tensorflow / pytorch 사용 경험
- python programming language에 대한 기본적인 구현 능력
- transformer 모델에 대한 기본적인 이해
- 딥러닝 논문을 읽는데 문제가 없는 정도의 기본적인 배경지식 보유
- knowledge enhanced nlp에 대한 관심
아래 조건은 preferred qualification입니다!
- 모델 경량화에 대한 연구/개발 경험
- 많은 language model에 대한 활용 경험
- 모델 병렬처리에 대한 개발 경험
⭐️ 사전 질문
Resume 혹은 포트폴리와 같이 본인이 해왔던 일을 알 수 있는 자료를 보내주실 수 있으시면 메일로 보내주시면 감사합니다
주로 사용하시는 딥러닝 프레임워크가 어떤 것인가요?
딥러닝 모델 연구/개발 경험이 있으신가요? 있으시다면 어떤 분야의 연구/개발이었는지 간략한 소개 부탁드립니다
깃헙 레포나 기타 오픈소스 활동 등과 같이 본인이 구현한 내용에 대해 공유해주실 부분이 있다면 말씀해주시면 감사하겠습니다
⭐️ 랩장 소개
신정호
Samsung research · 0x01.leo@gmail.com
저는 삼성리서치에서 머신러닝 엔지니어로 근무하고 있는 신정호라고 합니다! AI 모델 개발 및 서비스 개발에 관심이 많고 새로운 기술 팔로업을 좋아합니다! 이번에 논문 제출이라는 목표로 새해에 새로운 경험을 해보고자 지원하게 되었습니다! 자세한 사항은 링크드인 링크로 대신합니다! https://www.linkedin.com/in/jeongho-shin-a23678183?utm_source=share&utm_campaign=share_via&utm_content=profile&utm_medium=ios_app