Edge 디바이스를 위한 AI Compiler Backend LAB
모임 기간
2024.09.28 - 2024.11.16
모임 일시
매주 토요일 10:30 ~ 12:30
장 소
온라인
모집 기간
2024.09.10 - 2024.09.26
모집 인원
10명
선발 방식
사전 질문 기반 심사
랩 소개
운영 방식
참여 요건
랩장 소개
⭐️ 랩 소개
한 줄 소개
분야
ENGINEERING
목표 결과물
BOOK
본 LAB은 'Edge AI 디바이스를 위한 AI Compiler Backend 기술'을 연구하고 있습니다.
이 연구의 목표는 TensorRT-LLM 혹은 Triton (OpenAI)를 Nvidia Jetson 등 Edge AI 디바이스에서 널리 사용될 수 있도록 코드를 개선하고 기여하는 것입니다.
AI 기술은 단순히 새로운 모델을 개발하고 학습하는 것을 넘어, 실제로 우리 일상에서 유용하게 사용될 수 있는 기반 기술을 연구하는 것이 중요합니다.
본 LAB에서는 AI를 선도하는 NVIDIA와 OpenAI 등의 회사에서 관리하는 오픈소스 AI Infrastructure 소프트웨어에 실질적으로 기여하고, 전 세계 AI Compiler 커뮤니티에 모두의연구소를 홍보할 수 있는 기회를 제공하고자 합니다.
저희 모두의연구소와 함께 미래를 만들어 나갈 열정적인 연구원들을 기다리고 있습니다. 많은 관심과 참여 부탁드립니다.
감사합니다.
⭐️ 운영 방식
8주간 진행됨. 9/28(토) ~ 11/16(토)
첫 모임(9/28)과 마지막 모임(11/16)은 오프라인으로 진행합니다. (장소는 모두연 강남캠 또는 역삼캠 회의실입니다)
1-2주차: TensorRT-LLM 혹은 Triton Compiler 기술 문서 및 동영상 정독
3-4주차: GitHub Issues에서 본인이 풀 수 있는 문제 식별 및 문제 분석, 예상 솔루션에 대해서 제시
5-6주차: 코드 작성 스프린트 (2회)
7~8주차: 상호간 코드 리뷰 및 커밋, 결과를 정리하여 YouTube에 녹화하여 개시 (3분 내외)
⭐️ 커리큘럼
⭐️ 참여 요건
LAB 참여 조건은 다음과 같습니다.
**하드 스킬**
- 수강 경험(학교/Youtube 상관없음): 디지털 논리회로 설계, 컴파일러, 운영체제, 병렬 컴퓨팅, 인공지능 기초 중 1개 이상 수강 경험
**소프트 스킬**
- 탐구력, 호기심, 문제 해결력, 소통 능력(아는 것을 타인에게 잘 나눠주는 능력), 창의성(아이디어가 넘치는 사람), 공감력, 도덕성, 시민의식, 협동력 등을 두루 갖춘 사람
열정적인 분들의 많은 관심과 참여를 기다리고 있습니다.
감사합니다.
⭐️ 사전 질문
디지털 논리회로 설계, 컴파일러, 운영체제, 병렬컴퓨팅, 인공지능 기초 중 1개 이상 수강 경험이 있나요?
탐구력, 호기심, 문제해결력, 소통능력, 창의성, 공감력, 도덕성, 시민의식, 협동력 중 본인이 생각했을 때 가장 큰 장점이 무엇이 있나요? 있다면 그 장점을 드러낼 사례가 있었나요?
⭐️ 랩장 소개
원동식
한국과학기술원 · calcite_glitzy0z@icloud.com
안녕하세요 저는 2022년 부터 NVIDIA DLI 앰배서더로 활동 중이며 (가속 컴퓨팅분야) 현재 한국과학기술원 항공우주공학과 박사과정에 재학 중입니다.
연구 분야는 우주용 Edge AI 컴퓨팅 응용입니다.
정부출연연구기관에서 초고속비행체 유도제어시스템 구현을 위한 임베디드 하드웨어 및 실시간 임베디드 운영체제 기술 연구를 진행하였고, 이를 위한 인공지능 기반 기술 구현에 관심이 많았습니다.
최근에는 Edge AI 컴퓨팅의 우주 실증을 위해 SpaceX Falcon-9 발사체를 통해 우주로 발사하였으며, Edge AI 컴퓨팅 기술 고도화를 위한 기반 기술의 연구에 매진하고 있습니다.
특히, GPU 뿐만 아니라 CPU, NPU, FPGA 등 다양한 하드웨어 가속기를 공통적으로 활용할 수 있는 연산 최적화 알고리즘에 관심이 많습니다.
모두의연구소와 함께 미래를 만들어 나갈 열정적인 분들의 많은 관심과 참여를 기다리고 있습니다.
감사합니다.