5. 파이토치 - 분산 학습의 개념과 하드웨어
2024.10.08
분산학습의 개념조대협 (http://bcho.tistory.com)분산 학습 개념분산학습이란, 모델이 커서 하나의 머신이나 장치(CPU,GPU) 에서 학습이 불가능할때, 모델을 여러개의 GPU나 또는 여러개의 머신으로 나
출처
https://bcho.tistory.com/1439
Data parallelism,DDP,infiniband,NVLink,nvswitch,pytorch,분산학습,조대협