모델 병렬화1

• GPU 병렬화 기법 GPU 병렬화 기법GPU 병렬화는 수천 개의 코어를 활용하여 대규모 데이터를 동시에 처리하는 기술로, 딥러닝과 같은 고성능 컴퓨팅에서 필수적인 최적화 방식이다. 특히 LLM(Large Language Models)과 같은 대형 모델을 학습하거나, 방대한 데이터를 처리할 때 필수적인 기술로, 여러 작업을 병렬로 수행함으로써 전체 처리 시간을 크게 단축할 수 있다. 이러한 병렬화 기법에는 데이터 병렬 처리(DP), 모델 병렬 처리(MP), 파이프라인 병렬 처리(PP), 텐서 병렬 처리(TP), 그리고 완전 공유 데이터 병렬 처리(FSDP) 등이 있다. 데이터 병렬 처리데이터 병렬 처리(Data Parallelism, DP)는 대규모 데이터셋을 여러 개의 작은 배치로 나누고, 동일한 모델을 여러 GPU에 복사.. 개인공부&프로젝트 2025. 2. 4.