SageMaker HyperPod란 무엇인가요?
AmazonSageMaker HyperPod는 파운데이션 모델(FM) 훈련을 위한 기계 학습(ML) 인프라를 구축하고 최적화하는 것과 관련된 힘든 작업을 제거하여 훈련 시간을 최대 40% 단축합니다. SageMaker HyperPod는 SageMaker의 분산 훈련 라이브러리로 사전 구성되어 있으므로 고객이 액셀러레이터 수천 개에서 훈련 워크로드를 자동 분할할 수 있습니다. 따라서 워크로드를 병렬로 처리하여 모델 성능을 개선할 수 있습니다. 또한 SageMaker HyperPod는 체크포인트를 주기적으로 저장하므로, FM 훈련을 중단하지 않고 계속 진행할 수 있습니다. 훈련 중에 하드웨어 장애가 발생하면 SageMaker HyperPod가 장애를 자동 감지하여 결함이 있는 인스턴스를 복구하거나 교체한 후 마지막으로 저장된 체크포인트부터 훈련을 재개합니다. 그러므로 고객이 프로세스를 수동으로 관리할 필요가 없으며, 분산 환경에서도 훈련을 몇 주나 몇 달 동안 중단하지 않고 계속 진행할 수 있습니다.
SageMaker HyperPod의 이점
분산 훈련 라이브러리 최적화
SageMaker HyperPod는 SageMaker 분산 라이브러리로 사전 구성됩니다. 단 몇 줄의 코드로 훈련 스크립트에서 데이터 병렬 처리를 활성화할 수 있습니다. SageMaker HyperPod를 사용하면 모델과 훈련 데이터 세트를 여러 AWS GPU 인스턴스에 자동으로 분할하여 분산 훈련을 더 빠르게 수행할 수 있습니다.
자세히 알아보기 »
모델 성능 디버깅 및 개선
SageMaker HyperPod에서 특별히 구축된 ML 도구를 사용하여 훈련 성능을 개선할 수 있습니다. Amazon SageMaker with TensorBoard는 모델 아키텍처를 시각화하여 수렴되지 않는 검증 손실, 소실되는 그래디언트 등의 컨버전스 문제를 식별하고 해결함으로써 개발 시간을 절약하는 데 도움을 줍니다.
워크로드 일정 지정 및 오케스트레이션
자동 클러스터 상태 확인 및 복구
훈련 워크로드 중에 인스턴스에 결함이 생기면 SageMaker HyperPod가 결함이 있는 노드를 자동으로 탐지하여 정상 노드로 교체합니다. 결함이 있는 하드웨어를 탐지하기 위해 SageMaker HyperPod는 정기적으로 GPU 및 네트워크 무결성에 대한 일련의 상태 확인을 실행합니다.