차세대 뉴럴네트워크 연구를 진행하는 오픈 연구실입니다. 저희는 뉴럴네트워크의 구조 및 이론적 개선을 통해서 AI 학습 및 Inference의 성능(정확도 및 효율성)을 향상시키는 것이 주요목적입니다. AI의 활용성에 대한 연구보다 저희는 AI 자체를 내부적으로 강화하고자하는 연구 모임입니다. 저희 연구를 통해 미래의 뉴럴네트워크 기술 발전에 기여하고자 합니다. 또한, 국내외 인공지능 연구자들이 모여서 한국의 인공지능 경쟁력을 강화하는 것을 목적으로 합니다. 랩의 최종목표는 Top-Tier 컨퍼런스 (NeurIPS, ICML, ICLR, AAAI, etc)에 논문을 제출하는 것입니다. 1기가 성공적으로 마무리되었습니다. 1기에서는 워크샵 논문에 초점을 맞추었다면, 2기부터는 메인컨퍼런스만 제출할 예정입니다. 1기에서, 주제가 굉장히 브로드했다라는 것을 느꼈기에, 이번 2기부터는 특정 주제를 선정해서 진행하려고 합니다. 현재 NYU 교수이자 Meta의 부사장인 얀 르쿤 교수님의 JEPA 아키텍쳐를 개선하는 연구를 진행하려고 생각 중입니다. (확정은 아니기에, 추후 변동될 예정이 있습니다) 저희 연구실의 관심사는 주로 Training Dynamics (효과적이고 효율적인 학습 방법 e.g. LoRA), Quantization (Efficient ML), Neural Networks Architecture 개선등이 있습니다. 효율성을 개선하는 대부분의 주제에 관심을 가지고 있습니다. 현재 2기 랩을 구성하고 있는 연구자들은 Boston University와 University of Southern California에 재학중인 대학원생들 및 연구자들로 초기 멤버를 구성하고 있습니다. 연구를 위한 GPU (A40 x N)도 확보를 한 상태입니다. *본 랩에 참여하시는 분들이 대부분 본업이 있는 것을 당연히 고려하고 진행할 예정입니다.