고성능·저지연·확장 가능한 AI 추론 운영 플랫폼

운영은 정기 세미나와 실습, 논문·레포 리뷰, 벤치마크 재현, 오픈소스 엔진/서빙 프레임워크 비교 테스트, 결과 공유 등의 형태로 진행됩니다. 일부 커뮤니티는 8~12주 단위 트랙을 구성해 논문·문서화·코드 산출물을 목표로 하며, 온라인 위주 진행에 오프라인 모임을 간헐적으로 병행하기도 합니다

필수 요건 기본 역량 Python 사용 경험과 리눅스 셸/Docker 기본 명령에 익숙할 것 PyTorch 또는 주요 딥러닝 프레임워크 중 하나 실습 경험 Git으로 코드 버전 관리와 간단한 PR 리뷰 가능 장비/환경 GPU 접근 가능한 환경 1개 이상(개인/팀/클라우드 중 택1). 최소 사양 예시: LLM 실습 기본: 16–24GB VRAM 단일 GPU 또는 동급 클라우드 인스턴스 양자화·서빙 최적화 심화: 24–48GB VRAM 또는 2개 이상의 GPU 로컬 또는 원격 Linux 환경, Docker 활용 가능 우대 요건 추론/서빙 스택(vLLM, SGLang, TGI, TensorRT-LLM, Triton 등) 실사용 경험 모델 경량화(AWQ/GPTQ/프루닝/증류) 또는 프로파일링(Nsight, PyTorch Profiler) 경험 프로덕션 운영 경험(모니터링, 배포전략, SLA 관리)