랩 썸네일
LAB
AI Inference v.2 LAB
11월 15일 - 2월 14일
13:00 - 15:00
WEEKLYSAT요일
온라인
10

한 줄 소개

Artificial Efficient Intelligence

분야

NATURAL_SCIENCES, ENGINEERING

목표 결과물

OPEN_SOURCE, PAPER

랩 소개

# AI Inference Lab v.2: Artificial Efficient Intelligence ## 미션 모든 기업이 클라우드, 온프레미스, 엣지 어디서든 AI를 실용적으로 배포할 수 있게 만드는 것이 목표입니다. ## 글로벌 연구 네트워크 https://aerlabs.tech/ 🇰🇷 **AI Inference Lab v.1**: 삼성, 구글, SK, LG, ETRI, 서울대, KAIST 외 연구진 🇮🇳 **India Lab**: 오픈소스 AI 연구 커뮤니티 ### 상향식 연구 모델 본인이 중요하다고 생각하는 문제를 연구합니다. 하향식 지시는 없습니다. 연구자가 직접 문제를 정의하고 프로젝트를 제안합니다. 엄선된 연구원들과 함께 실행 가능한 고임팩트 아이디어를 선별합니다. --- ## 주간 구조 ### 📅 주간 기술 세미나 **1기 연사진**: RedHat, Baseten, IOI 금메달리스트, SGLang, NVIDIA 최신 AI 시스템 연구부터 프로덕션 레벨 구현까지 다룹니다. 이론과 실전의 결합. ### 🔬 프로젝트 기반 워킹 그룹 - **자율 팀 구성**: 공통 관심사와 상호보완적 전문성 중심 - **주간 진행상황 검토**: 빠른 반복, 지속적 피드백 - **전 과정 책임**: 초기 가설부터 벤치마크 결과까지 *Open Source First. Efficient AI for Everyone.*

#edge-ai
#model-optimization
#llm-compression
#ai-infrastructure
#efficient-ai

운영 방식

# 커리큘럼 ## AI Inference 연구 LAB (3개월 집중) ### [초기 준비 단계] (1주) * 오리엔테이션: Lab vision, full-stack co-design 철학 소개 * 연구 방향 설정: Quantization / Edge AI / Serving / Agent 중 선택 * 연구원 자기소개 및 기술 스택 공유 * 팀 구성 및 역할 분담 (Algorithm / System / Infra) * 마일스톤 설정: Week 4, 8, 12 체크포인트 ### [프로젝트 설계 및 개발 단계] (1~6주 차) * 주간 세미나: RedHat, SGLang, Nvidia, IOI Medalist 등 게스트 톡 * Week 2-3: 프로젝트 제안서 작성 + 알고리즘 설계 * Week 4-5: 프로토타입 구현 + 초기 벤치마크 * Week 6: 중간 발표 + 피드백 반영 * 벤치마크 메트릭: Latency, throughput, memory footprint 측정 ### [최적화 및 검증 단계] (7~10주 차) * 하드웨어 프로파일링: GPU/CPU/Edge device bottleneck 제거 * A/B 테스트: Baseline vs. Optimized 정량 비교 * 다양한 환경에서 검증: A100, H100, Jetson 등 * 버그 수정 및 edge case 처리 * 코드 리팩토링 및 재현성 확보 ### [오픈소스 배포 단계] (11~12주 차) * README, 문서화, Docker/Requirements 정리 * GitHub 공개 준비 * 최종 발표: Benchmark results + Demo * 커뮤니티 피드백 수집 * 선택: 블로그 포스트 또는 arXiv 제출 --- ## 운영 원칙 **Weekly Cadence** * 주 1회 세미나 (2시간): 외부 스피커 또는 논문 리뷰 * 팀별 sync-up: Progress + Blocker 해결

커리큘럼

[초기 준비 단계] (1주)

[프로젝트 설계 및 개발 단계] (1~6주 차)

[최적화 및 검증 단계] (7~10주 차)

[오픈소스 배포 단계] (11~12주 차)

참여 요건

# 자격 요건 및 우대 사항 ## 필수 자격 요건 **학력 및 전문성** - CS/AI/ML 관련 박사 학위 또는 이에 준하는 고영향 논문/프로젝트 실적 **기술 역량** - PyTorch/JAX/TensorFlow 전문가 수준: 대규모 확장 가능한 모델 개발 및 최적화 경험 - GPU 아키텍처, 메모리 계층, 병렬 컴퓨팅 및 최적화 기법에 대한 심층적 이해 - 대규모 팀 환경에서의 Git 활용: 코드 리뷰, 오픈소스 워크플로우 숙련 **연구 및 구현 능력** - 최신 AI 논문을 신속하게 독해하고 구현할 수 있는 능력 - 최첨단 AI 연구를 비판적으로 분석하고 빠른 프로토타이핑을 수행한 실적 ## 우대 사항 - **CUDA/Triton**: 커스텀 커널 최적화를 통한 성능 향상 경험 - **오픈소스 기여**: vLLM, Hugging Face 등 주요 프로젝트에 대한 의미 있는 기여 (PR 병합 등) - **학술 활동**: NeurIPS, ICML, ICLR 등 주요 학회에서 제1저자 논문 발표 경험 - **프로덕션 ML**: 고위험 대규모 환경에서 ML 시스템 운영 및 스케일링 경험 ## 핵심 역량 (가장 중요) **실행력** - 2주 이내 실용적 프로토타입 개발 능력 - 타이트한 타임라인 내에서 측정 가능한 혁신적 결과물 도출 **주도성** - 복잡한 문제를 독자적으로 정의하고 해결책을 설계하는 오너십 - 야심찬 프로젝트를 주도하여 발표 및 배포까지 완수한 경험 **협업 및 커뮤니케이션** - 다문화 팀 환경에서의 효과적인 멘토링 및 피드백 제공 - 교차 기능 팀과의 원활한 커뮤니케이션 - 팀원과의 적극적인 소통 및 건설적인 피드백 수용 자세

사전 질문

GitHub 링크를 공유하세요. 가장 자랑스러운 프로젝트 1개를 설명하고, 어떤 기술적 챌린지를 해결했는지 구체적으로 서술하세요.

최근 6개월 내 읽은 AI systems 논문 중 가장 인상 깊었던 것은?

그 논문의 핵심 아이디어를 직접 재구현한다면 어떤 부분이 가장 어려울 것 같습니까?

AI Inference Lab에서 3개월 동안 진행하고 싶은 프로젝트를 제안하세요.

오픈소스에 기여한 경험이 있다면 링크를 공유하세요 (PR, Issue, 본인 프로젝트 등).

없다면, 이 Lab에서 만들고 싶은 오픈소스 프로젝트를 설명하세요.

랩장 소개

default_avatar

강건

crystalinecohomology@gmail.com

현재 AI 스타트업에서 CSO로 재직 중입니다