개요

이 실습에서는 Vertex AI Pipelines를 활용해 간단한 Kubeflow Pipelines SDK 파생 ML 파이프라인을 실행하는 방법을 배웁니다.

목표

이번 실습에서는 다음 작업을 수행합니다.

• 프로젝트 환경 설정
• 파이프라인 코드 검사 및 구성
• AI 파이프라인 실행

설정 및 요건

실습 시작 버튼을 클릭하기 전에

참고: 다음 안내를 확인하세요.

실습에는 시간제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

Qwiklabs 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

필요한 사항

이 실습을 완료하려면 다음이 필요합니다.

• 표준 인터넷 브라우저(Chrome 브라우저 권장)
• 실습을 끝까지 진행할 수 있는 충분한 시간

참고: 이미 개인용 Google Cloud 계정이나 프로젝트가 있어도 이 실습에서는 사용하지 마세요. 참고: Pixelbook을 사용하는 경우 시크릿 창을 열어 이 실습을 실행하세요.

실습을 시작하고 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에 있는 패널에서 이 실습에 사용해야 하는 임시 사용자 인증 정보를 확인할 수 있습니다.

   

2. 사용자 이름을 복사한 다음 Google 콘솔 열기를 클릭합니다. 실습에서 리소스가 실행되며 계정 선택 페이지를 표시하는 다른 탭이 열립니다.

   참고: 두 개의 탭을 각각 별도의 창으로 나란히 여세요.

3. 계정 선택 페이지에서 다른 계정 사용을 클릭합니다. 로그인 페이지가 열립니다.

   

4. 연결 세부정보 패널에서 복사한 사용자 이름을 붙여넣습니다. 그런 다음 비밀번호를 복사하여 붙여넣습니다.

참고: 연결 세부정보 패널에 표시된 사용자 인증 정보를 사용해야 합니다. Google Cloud Skills Boost 사용자 인증 정보를 사용하지 마세요. 개인용 Google Cloud 계정이 있어도 이 실습에서 사용하지 마세요(요금 청구 방지).

5. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

• 이용약관에 동의합니다.
• 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
• 무료 평가판을 신청하지 않습니다.

잠시 후 Cloud 콘솔이 이 탭에서 열립니다.

참고: 왼쪽 상단에 있는 탐색 메뉴를 클릭하면 Google Cloud 제품 및 서비스 목록이 있는 메뉴를 볼 수 있습니다.

프로젝트 권한 확인

Google Cloud에서 작업을 시작하기 전에 프로젝트가 Identity and Access Management(IAM) 내에서 올바른 권한을 보유하고 있는지 확인해야 합니다.

1. Google Cloud 콘솔의 탐색 메뉴()에서 IAM 및 관리자 > IAM을 선택합니다.

2. 기본 컴퓨팅 서비스 계정 {project-number}-compute@developer.gserviceaccount.com이 있고 editor 역할이 할당되어 있는지 확인하세요. 계정 프리픽스는 프로젝트 번호이며, 이 번호는 탐색 메뉴 > Cloud 개요 > 대시보드에서 확인할 수 있습니다.

참고: 계정이 IAM에 없거나 editor 역할이 없는 경우 다음 단계에 따라 필요한 역할을 할당합니다.

1. Google Cloud 콘솔의 탐색 메뉴에서 Cloud 개요 > 대시보드를 클릭합니다.
2. 프로젝트 번호(예: 729328892908)를 복사합니다.
3. 탐색 메뉴에서 IAM 및 관리자 > IAM을 선택합니다.
4. 역할 테이블 상단에서 주 구성원별로 보기 아래에 있는 액세스 권한 부여를 클릭합니다.
5. 새 주 구성원 필드에 다음을 입력합니다.

{project-number}-compute@developer.gserviceaccount.com

6. {project-number}는 프로젝트 번호로 바꿉니다.
7. 역할 필드에서 프로젝트(또는 기본) > 편집자를 선택합니다.
8. 저장을 클릭합니다.

작업 1. 프로젝트 환경 설정

Vertex AI Pipelines는 서버리스 프레임워크에서 실행됩니다. 이를 통해 사전에 컴파일된 파이프라인을 주문형으로 또는 일정에 따라 배포합니다. 원활한 실행을 위해서는 몇 가지 환경 구성이 필요합니다.

Qwiklabs 환경에서 파이프라인 코드를 원활하게 실행하려면 Compute 서비스 계정에 승격된 Cloud Storage 권한이 필요합니다.

1. Google Cloud 콘솔의 탐색 메뉴()에서 IAM 및 관리자 > IAM을 클릭합니다.

2. 기본 Compute 서비스 계정 {project-number}-compute@developer.gserviceaccount.com의 연필 아이콘을 클릭하여 스토리지 관리자 역할을 할당합니다.

3. 슬라이드 아웃 창에서 다른 역할 추가를 클릭합니다. 검색창에 스토리지 관리자를 입력합니다. 결과 목록에서 버킷 및 객체에 대한 전체 제어 권한이 부여되는 스토리지 관리자를 선택합니다.

4. 저장을 클릭해 이 역할을 Compute 서비스 계정에 할당합니다.

파이프라인이 실행되면 수집 및 내보내기 시 아티팩트에 액세스합니다.

5. Cloud Shell에서 이 코드 블록을 실행하여 프로젝트에 버킷을 만들고 각각 빈 파일이 포함된 폴더를 2개 만듭니다.

gcloud storage buckets create gs://{{{primary_project.project_id|Project ID}}} touch emptyfile1 touch emptyfile2 gcloud storage cp emptyfile1 gs://{{{primary_project.project_id|Project ID}}}/pipeline-output/emptyfile1 gcloud storage cp emptyfile2 gs://{{{primary_project.project_id|Project ID}}}/pipeline-input/emptyfile2

파이프라인이 이미 자동으로 생성된 상태이므로 Qwiklabs 프로젝트에서 실행될 수 있도록 몇 가지만 조정하면 됩니다.

6. 실습 애셋 폴더에서 AI 파이프라인을 다운로드합니다.

wget https://storage.googleapis.com/cloud-training/dataengineering/lab_assets/ai_pipelines/basic_pipeline.json

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 환경 구성

작업 2. 파이프라인 코드 구성 및 검사

파이프라인 코드에는 Python으로 작성된 2개의 AI 작업이 컴파일되어 있습니다. 매우 단순한 예시이지만 다양한 언어(TensorFlow, Python, Java 등)로 작성된 ML 절차를 손쉽게 배포할 수 있는 AI 파이프라인으로 조정하는 것이 얼마나 간단한지 잘 보여줍니다. 이 실습의 예시에서는 두 문자열 값에 연결과 역방향 실행이라는 2가지 작업을 수행합니다.

1. 먼저 AI 파이프라인 실행의 출력 폴더를 업데이트하도록 조정해야 합니다. Cloud Shell에서 Linux 스트림 편집기(sed) 명령어를 사용하여 이 설정을 조정합니다.

sed -i 's/PROJECT_ID/{{{primary_project.project_id|Project ID}}}/g' basic_pipeline.json

2. basic_pipeline.json을 검사하여 출력 폴더가 프로젝트로 설정되어 있는지 확인합니다.

tail -20 basic_pipeline.json

basic_pipeline.json의 주요 코드 섹션은 deploymentSpec 및 command 블록입니다. 아래는 입력 문자열을 연결하는 작업인 첫 번째 명령어 블록입니다. Python 3.7 엔진에서 실행하도록 지정된 Kubeflow Pipelines SDK(kfp) 코드입니다. 코드는 변경하지 않습니다. 아래 섹션은 참고용입니다.

"program_path=$(mktemp -d)\nprintf \"%s\" \"$0\" > \"$program_path/ephemeral_component.py\"\npython3 -m kfp.v2.components.executor_main --component_module_path \"$program_path/ephemeral_component.py\" \"$@\"\n", "\nimport kfp\nfrom kfp.v2 import dsl\nfrom kfp.v2.dsl import *\nfrom typing import *\n\ndef concat(a: str, b: str) -> str:\n return a + b\n\n" ], "image": "python:3.7"

3. 아래 명령어를 실행하면 전체 파일을 살펴볼 수 있습니다.

more basic_pipeline.json 참고: 스페이스바를 누르면 파일을 끝까지 살펴보게 됩니다. 파일을 일찍 닫으려면 q를 입력하여 more 명령어를 종료합니다.

4. 그런 다음, 업데이트된 basic_pipeline.json 파일에 액세스하여 AI 파이프라인 작업을 실행할 수 있도록 이 파일을 앞서 만든 Cloud Storage 버킷으로 옮깁니다.

gcloud storage cp basic_pipeline.json gs://{{{primary_project.project_id|Project ID}}}/pipeline-input/basic_pipeline.json

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 파이프라인 배포

작업 3. AI 파이프라인 실행

1. 콘솔에서 탐색 메뉴()를 열고 인공지능에서 Vertex AI를 클릭합니다.

2. 파란색 모든 권장 API 사용 설정을 클릭합니다.

3. API가 사용 설정되면 왼쪽 메뉴에서 파이프라인을 클릭합니다.

4. 상단 메뉴에서 실행 만들기를 클릭합니다.

5. 실행 세부정보에서 Cloud Storage에서 가져오기를 선택하고 Cloud Storage URL의 경우 프로젝트의 Cloud Storage 버킷에 만든 pipeline-input 폴더로 이동합니다. basic_pipeline.json 파일을 선택합니다.

6. 선택을 클릭합니다.

7. 리전에서 을(를) 선택합니다.

8. 나머지 기본값은 그대로 두고 계속을 클릭합니다.

런타임 구성의 기본값을 그대로 두어도 됩니다. Cloud Storage 출력 디렉터리가 이전 단계에서 만든 버킷 폴더로 설정된 것을 볼 수 있습니다. 파이프라인 매개변수가 basic_pipeline.json 파일의 값으로 미리 채워져 있지만 런타임에서 이 마법사를 통해 변경할 수 있습니다.

9. 제출을 클릭하여 파이프라인 실행을 시작합니다.

10. 파이프라인 대시보드로 돌아오게 되며 실행이 대기 중부터 실행 중을 거쳐 성공까지 진행됩니다. 전체 실행에 3~6분 걸립니다.

11. 성공 상태에 도달하면 실행 이름을 클릭해 실행 그래프와 세부정보를 확인합니다.

12. 단계마다 그래프 요소가 존재합니다. concat 객체를 클릭해 작업 세부정보를 확인합니다.

13. 작업 보기 버튼을 클릭합니다. 파이프라인 요청을 충족하기 위해 백엔드에 제출한 Vertex AI 커스텀 작업이 포함된 새 탭이 열립니다.

파이프라인 실행의 세부정보를 자세히 살펴보세요.

수고하셨습니다

Vertex AI Pipelines를 사용해 간단한 Kubeflow Pipelines SDK 파생 ML 파이프라인을 실행했습니다.

설명서 최종 업데이트: 2024년 4월 26일

실습 최종 테스트: 2024년 4월 26일

Copyright 2020 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.