Path
TPU에서 AI 워크로드 실행하기
관리: Google Cloud
활동 1개
최종 업데이트: 13시간
TPU에서 AI 워크로드 실행하기 학습 과정은 GPU에 능숙한 ML 엔지니어, AI 연구원, 플랫폼팀이 CUDA 기반 워크플로에서 Google Cloud의 TPU 아키텍처로 원활하게 전환할 수 있도록 지원합니다. 학습자는 심층적인 기술 교육과 대화형 데모를 통해 XLA 정적 그래프 컴파일, 멀티 호스트 GKE 및 Ray 조정, 높은 처리량의 분산 학습(TorchTPU, MaxText, Pathways), 매우 짧은 지연 시간의 추론 서빙(vLLM, SGLang, llm-d)을 마스터할 수 있습니다. 이 과정을 완료하면 실무자는 프로덕션 환경에서 파운데이션 모델, 에이전트형 RL 파이프라인, 업종별 AI 워크로드를 설계하고, XProf로 프로파일링하고, 복원력 있고 비용 효율적으로 확장할 수 있는 역량을 갖추게 됩니다.