딥러닝에서 OOM이 발생한다면 가장 효과적으로 처리하는 방법은 데이터 샤딩 이라는 기법을 활용해서 처리하는 방식입니다. 이번 블로그에서는 JAX를 통해 데이터 샤딩을 어떻게 하는지 알아보도록 하겠습니다.
2023.10.19|이영빈