로그피엑스, logp(x) LAB
모임 기간
2024.08.17 - 2024.11.30
모임 일시
매주 토요일 10:30 ~ 12:30
장 소
강남
모집 기간
2024.07.17 - 2024.08.15
모집 인원
10명
선발 방식
사전 질문 기반 심사
랩 소개
운영 방식
참여 요건
랩장 소개
⭐️ 랩 소개
한 줄 소개
생성모델의 알고리즘을 분석하고 연구합니다.
분야
ENGINEERING
목표 결과물
PAPER, BOOK
생성모델의 알고리즘을 분석하고 연구합니다.
auto-regressive, variational inference, normalizing flow, adversarial network, diffusion, score-matching, flow-matching 등 모든 종류의 방법에 대해 열려있는 자세로 궁금해하는 일을 합니다.
⭐️ 운영 방식
격주로 한 번은 논문 리뷰 발표, 한 번은 연구 진행 발표로 나누어 운영할 계획입니다.
리뷰할 논문들은 아래의 논문들을 위주로 자유롭게 선정할 예정입니다.
연구 주제는 모임 시작과 함께 원하는 주제로 선정하거나,
논문을 리뷰하다가 아이디어가 떠오르면 진행할 수 있도록 하겠습니다.
1주차 - 8월 10일, 2주차 - 8월 17일
Kingma, Diederik, et al. "Variational diffusion models." Advances in neural information processing systems 34 (2021): 21696-21707.
3주차 - 8월 24일, 4주차 - 8월 31일
Kingma, Diederik, and Ruiqi Gao. "Understanding diffusion objectives as the elbo with simple data augmentation." _Advances in Neural Information Processing Systems_ 36 (2024).
5주차 - 9월 7일, 6주차 - 9월 14일
Song, Yang, et al. "Maximum likelihood training of score-based diffusion models." _Advances in neural information processing systems_ 34 (2021): 1415-1428.
7주차 - 9월 21일, 8주차 - 9월 28일
Albergo, Michael S., and Eric Vanden-Eijnden. "Building normalizing flows with stochastic interpolants." _arXiv preprint arXiv:2209.15571_ (2022).
10주차 - 10월 5일, 11주차 - 10월 12일
Shi, Yuyang, et al. "Diffusion Schrödinger bridge matching." _Advances in Neural Information Processing Systems_ 36 (2024).
12주차 - 10월 19일, 13주차 - 10월 26일
Chen, Ricky TQ, and Yaron Lipman. "Riemannian flow matching on general geometries." _arXiv preprint arXiv:2302.03660_ (2023)
14주차 - 11월 2일, 15주차 - 11월 9일, 16주차 - 11월 16일, 17주차 - 11월 23일
자유주제 연구 (Efficient Sampling, Likelihood Estimation 등)
⭐️ 커리큘럼
⭐️ 참여 요건
생성모델에 대해 알고리즘 레벨에서 충실히 알고 있고, 자유롭게 코드 작성이 가능해야 합니다.
아래 논문들에 대한 사전 숙지가 필요합니다. :)
Ho, Jonathan, Ajay Jain, and Pieter Abbeel. "Denoising diffusion probabilistic models." Advances in neural information processing systems 33 (2020): 6840-6851.
Song, Yang, et al. "Score-based generative modeling through stochastic differential equations." arXiv preprint arXiv:2011.13456 (2020).
Chen, Ricky TQ, et al. "Neural ordinary differential equations." Advances in neural information processing systems 31 (2018).
Lipman, Yaron, et al. "Flow matching for generative modeling." arXiv preprint arXiv:2210.02747 (2022).
⭐️ 사전 질문
끊임없이 열정적으로 궁금해하는 일에 함께할 준비가 되셨나요?
⭐️ 랩장 소개
박수철
없음 · pachelbel@naver.com
안녕하세요! 원래 음악을 전공했는데 배가 고파 개발자로 활동하다가,
AI로 이미지와 사운드를 만들어내는 일을 할 수 있다는 사실에 매료되어 생성모델 외길에 매진하였고,
눈을 떠보니 어느새 stochastic differential equation과 같은걸 공부하고 있게 되었네요.
생성모델의 매력은 결과물에서 느낄 수 있는 직관적인 놀라움과 함께 그 뒤에 숨어있는 수학적 알고리즘의 정교함에 있다고 생각합니다.
다소 지루하고 힘들 수 있지만 끊임없이 열정적으로 궁금해하는 자들만이 발견할 수 있는 아름다움을 찾아 떠나는 여정에 함께하지 않으시겠습니까?