AI 추론은 학습된 머신러닝 모델로 학습된 패턴을 적용하여 처음 접하는 새로운 데이터로 예측을 수행하는 프로세스입니다. 이 과정은 Cloud Run에 AI 추론 서비스를 빠르게 배포하는 데 관심이 있는 개발자, 데이터 과학자, ML 엔지니어를 대상으로 설계되었습니다. 클라우드 기반 서버리스 애플리케이션 배포 솔루션에는 익숙하지만 Google Cloud 서버리스 제품을 사용하여 AI 추론을 실행해 본 경험이 없는 사용자에게 유용한 과정입니다.

이 과정에는 GPU를 사용해 AI 추론 모델을 배포하고 생성형 AI 앱을 데이터 스토리지 서비스와 통합하는 예시가 포함되어 있습니다.