LLM이나 VLM 같은 큰 모델을 낮은 bit로 양자화하는 기법을 연구하는 LAB입니다. GPTQ, AWQ 등 주요 방법을 리뷰하고 재현합니다. VLM 양자화, LoRA 기반 양자화처럼 아직 연구 안된 부분들을 모색 및 제안하고 국제 학회 메인 트랙이나 워크샵에 투고 및 리뷰 디펜스 하는 것을 목표로 합니다. 저자 순서는 모두 공동 1저자가 목표이고 기여도에 따라 서로 논의 후 달라질 수 있을 것 같습니다. 정말 잘 되면 3개월 정도를 목표로 하고 있습니다. 일정에 따라 몇 개월 더 길어 질 수도 있을 것 같습니다. 부족해도 서로 마음 맞는 분들과 재밌게 연구 했으면 좋겠습니다. 랩장정보: Multimodal 생성 모델 위주로 연구했습니다. 현재는 quantization이나 경량화에 관심이 있습니다. (포트폴리오: https://saimino.github.io/dooho/)