랩 썸네일
LAB
logp(x) LAB
7월 5일 - 11월 29일
10:30 - 12:30
WEEKLYSAT요일
모두의연구소 강남캠퍼스
10

한 줄 소개

생성모델의 알고리즘을 분석하고 연구합니다.

분야

ENGINEERING

목표 결과물

PAPER, OPEN_SOURCE

랩 소개

안녕하세요! GAN, Diffusion 모델의 등장과 Stable-Diffusion과 같은 application의 등장으로 우리 생활 속 깊숙히 생성모델이 자리잡고 있습니다!~ 우리랩에서는 이러한 생성모델들의 핵심 원리와 알고리즘을 연구하여 생성모델의 상아탑에 조그마한 돌멩이 하나 얹어놓는 것을 목표로 하고 있습니다!~ 1기에서는 DPM-Solver, UniPC 등의 diffusion sampler들의 리뷰 논문을 작성하고, 2기에서는 이를 토대로 새로운 sampler를 제안하는 논문을 작성하였습니다. 3기에서는 ComfyUI를 기반으로하여 diffusion 뿐만 아니라 flow-matching의 sampling에 관련된 연구를 계획 중입니다.

##생성모델#이미지생성#comfyui

운영 방식

- 최근에 제안된 diffusion 및 flow-matching의 sampling에 관련된 paper들을 리뷰합니다. - ComfyUI를 기반으로 통합된 환경에서 여러 모델을 재현해볼 수 있도록 구현합니다. - Diffusion에 관련한 기초 지식에 대해 리뷰하지 않을 예정이므로 다음 paper들에 대한 사전 지식과, Runge-Kutta, Linear Multistep Method 등 수치해석에 대한 기본 지식이 필요합니다. Song, Yang, et al. "Score-based generative modeling through stochastic differential equations." arXiv preprint arXiv:2011.13456 (2020). Lipman, Yaron, et al. "Flow matching for generative modeling." arXiv preprint arXiv:2210.02747 (2022). Lu, Cheng, et al. "Dpm-solver: A fast ode solver for diffusion probabilistic model sampling in around 10 steps." Advances in Neural Information Processing Systems 35 (2022): 5775-5787. https://en.wikipedia.org/wiki/Linear_multistep_method https://en.wikipedia.org/wiki/Runge–Kutta_methods

커리큘럼

1주차 : 오리엔테이션, 3기 여정 모색

2-9주차 : sampling 관련 논문 탐색 및 리뷰

10-17주차 : sampling 방법론 연구 및 실험

18-22주차 : 논문 작성

참여 요건

diffusion 모델에 대한 심도있는 배경지식 한주도 빠짐없이 참여할 수 있는 물리적, 심적 여유

사전 질문

dpm-solver에 적용된 수학적 원리와 이론에 대해서 한줄로 간단히 설명해주세요!~

랩장 소개

avatar_img

박수철

없음pachelbel@naver.com

안녕하세요! 반갑습니다! :)