GSP010

개요

이 실무형 실습에서는 Managed Apache Spark를 사용하여 컴퓨팅 집약적인 이미지 처리 작업을 머신 클러스터에 분산하는 방법을 알아봅니다. 이 실습은 과학 데이터 처리를 위한 실습 시리즈 중 하나입니다.

학습할 내용

• Apache Spark가 사전 설치된 Managed Apache Spark 클러스터를 만드는 방법
• 클러스터에 아직 설치되지 않은 외부 패키지를 사용하는 작업을 빌드하고 실행하는 방법
• 클러스터를 종료하는 방법

기본 요건

이 실습은 고급 레벨 실습입니다. Managed Apache Spark 및 Apache Spark에 익숙하면 좋지만 필수사항은 아닙니다. 이러한 서비스에 관해 더 빨리 습득하려면 다음 실습을 확인하세요.

• Managed Service for Apache Spark: Qwik Start - 명령줄
• Managed Service for Apache Spark: Qwik Start - 콘솔
• Managed Apache Spark 소개: Google Cloud 기반 Hadoop 및 Spark

준비가 되었다면 아래로 스크롤하여 이 실습에서 사용할 서비스에 대해 자세히 알아보세요.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 오른쪽에는 다음과 같은 항목이 포함된 실습 설정 및 액세스 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보(사용자 이름 및 비밀번호)
   • 필요한 경우 실습 진행을 위한 기타 정보

   실습 타이머는 페이지 상단에 있으며 남은 시간을 표시합니다.

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 설정 및 액세스 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 설정 및 액세스 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의하세요.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 마세요.
   • 무료 체험판을 신청하지 마세요.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

소개

Managed Apache Spark는 일괄 처리, 쿼리, 스트리밍, 머신러닝에 오픈소스 데이터 도구를 활용하는 관리형 Spark 및 Hadoop 서비스입니다. Managed Apache Spark 자동화를 통해 신속하게 클러스터를 만들고 손쉽게 관리하며 불필요한 클러스터 사용을 중지하여 비용을 절감할 수 있습니다. 관리에 드는 시간과 비용이 줄어드는 만큼 작업과 데이터에 집중할 수 있습니다.

다음과 같은 특성을 충족하는 컴퓨팅 집약적인 작업을 수평 확장하려면 Managed Apache Spark를 사용하는 것이 좋습니다.

1. 이 작업은 대규모 병렬 처리가 가능합니다. 즉, 여러 머신에서 데이터의 여러 하위 집합을 처리할 수 있습니다.
2. 이미 계산을 수행하는 Apache Spark 코드가 있거나 Apache Spark에 익숙합니다.
3. 작업 분산이 데이터 하위 집합 전반에 걸쳐 균일합니다.

서로 다른 하위 집합에 서로 다른 양의 처리가 필요한 경우(또는 Apache Spark를 아직 모르는 경우) Cloud Dataflow의 Apache Beam은 자동 확장 데이터 파이프라인을 제공하므로 매력적인 대안입니다.

이 실습에서 실행할 작업은 OpenCV에 지정된 이미지 처리 규칙 집합을 사용하여 이미지의 얼굴 윤곽을 그립니다. 이와 같이 직접 코딩한 규칙은 그다지 잘 작동하지 않으므로 Vision API를 사용하는 것이 더 나은 방법입니다. 하지만 이 실습은 컴퓨팅 집약적인 작업을 분산된 방식으로 수행하는 예시입니다.

작업 1. Compute Engine에서 개발 머신 만들기

먼저 서비스를 호스팅할 가상 머신을 만듭니다.

1. Cloud 콘솔에서 Compute Engine > VM 인스턴스 > 인스턴스 만들기로 이동합니다.

2. 머신 구성에서

   다음 값을 선택합니다.

   • 이름: devhost
   • 시리즈: E2
   • 머신 유형: e2-standard-2 (vCPU 2개)

3. 보안을 클릭합니다.

   • 액세스 범위 섹션에서 모든 Cloud APIs에 대한 전체 액세스 허용을 선택합니다.

4. 만들기를 클릭합니다. 이 인스턴스는 개발 bastion 호스트 역할을 합니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

Compute Engine에서 개발 머신을 만듭니다.

5. 이제 콘솔에서 SSH 버튼을 클릭하여 인스턴스에 SSH로 연결합니다.

작업 2. 소프트웨어 설치

이제 소프트웨어를 설정해 작업을 실행합니다. 오픈소스 빌드 도구인 sbt를 사용하여 Managed Apache Spark 클러스터에 제출할 작업의 JAR을 빌드합니다. 이 JAR에는 작업을 실행하는 데 필요한 프로그램과 패키지가 포함됩니다. 이 작업은 Cloud Storage 버킷에 저장된 이미지 파일 세트에서 얼굴을 감지한 후, 얼굴 윤곽선이 표시된 이미지 파일을 생성해 동일한 Cloud Storage 버킷 또는 다른 Cloud Storage 버킷에 저장합니다.

1. Scala 및 sbt를 설정합니다. SSH 창에서 다음 명령어를 사용하여 Scala와 sbt를 설치하면 코드를 컴파일할 수 있습니다.

sudo apt-get install -y dirmngr unzip apt-transport-https bc scala sudo apt-get update sudo mkdir -p /etc/apt/keyrings curl -sL "https://keyserver.ubuntu.com/pks/lookup?op=get&search=0x99E82A75642AC823" | sudo gpg --dearmor -o /etc/apt/keyrings/scalasbt-archive-keyring.gpg echo "deb [signed-by=/etc/apt/keyrings/scalasbt-archive-keyring.gpg] https://repo.scala-sbt.org/scalasbt/debian all main" | sudo tee /etc/apt/sources.list.d/sbt.list sudo apt-get update sudo apt-get install -y sbt

이제 기능 감지기 파일을 빌드합니다. 이 실습의 코드는 GitHub의 Managed Apache Spark 저장소에 있는 솔루션을 약간 수정한 것입니다. 코드를 다운로드한 후 이 실습의 디렉터리로 cd하고 Managed Apache Spark에 제출할 수 있도록 기능 감지기의 'fat JAR'을 빌드합니다.

2. SSH 창에서 다음 명령어를 실행합니다.

gcloud storage cp gs://spls/gsp124/cloud-dataproc.zip . unzip cloud-dataproc.zip cd cloud-dataproc/codelabs/opencv-haarcascade echo "sbt.version=1.9.8" > project/build.properties

3. 빌드를 실행합니다. 이 명령어는 기능 감지기의 'fat JAR'을 빌드하여 Managed Apache Spark에 제출할 수 있도록 합니다.

sed -i 's/scalaVersion := "2.12.*/scalaVersion := "2.12.19"/' build.sbt sbt assembly 참고: 이 단계를 처리하는 데 약 5분 이상 소요됩니다. 잠시 기다려 주세요.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

개발 머신에 소프트웨어를 설치합니다.

작업 3. Cloud Storage 버킷 만들기 및 이미지 수집

이제 기능 감지기 파일을 빌드했으므로 Cloud Storage 버킷을 만들고 여기에 몇 가지 샘플 이미지를 추가합니다.

1. 프로젝트 ID를 가져와서 버킷 이름을 지정합니다.

GCP_PROJECT=$(gcloud config get-value core/project)

2. 버킷 이름을 지정하고 셸 변수를 버킷 이름으로 설정합니다. 셸 변수는 버킷을 참조하는 명령어에 사용됩니다.

MYBUCKET="${USER//google}-image-${RANDOM}" echo MYBUCKET=${MYBUCKET}

3. Cloud SDK의 gcloud와 함께 제공되는 gsutil 프로그램을 사용하여 샘플 이미지를 저장할 버킷을 만듭니다.

gcloud storage buckets create gs://${MYBUCKET}

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

Cloud Storage 버킷을 만듭니다.

4. 버킷에 샘플 이미지를 다운로드합니다.

curl https://www.publicdomainpictures.net/pictures/20000/velka/family-of-three-871290963799xUk.jpg | gcloud storage cp - gs://${MYBUCKET}/imgs/family-of-three.jpg curl https://www.publicdomainpictures.net/pictures/10000/velka/african-woman-331287912508yqXc.jpg | gcloud storage cp - gs://${MYBUCKET}/imgs/african-woman.jpg curl https://www.publicdomainpictures.net/pictures/10000/velka/296-1246658839vCW7.jpg | gcloud storage cp - gs://${MYBUCKET}/imgs/classroom.jpg

다음 이미지를 Cloud Storage 버킷에 다운로드했습니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

버킷에 샘플 이미지를 다운로드합니다.

5. 버킷의 콘텐츠를 보려면 이를 실행합니다.

gcloud storage ls -R gs://${MYBUCKET}

출력:

gs://gcpstaging20392-student-image-23218/imgs/: gs://gcpstaging20392-student-image-23218/imgs/african-woman.jpg gs://gcpstaging20392-student-image-23218/imgs/classroom.jpg gs://gcpstaging20392-student-image-23218/imgs/family-of-three.jpg `

작업 4. Managed Apache Spark 클러스터 만들기

1. SSH 창에서 다음 명령어를 실행하여 클러스터 이름을 지정하고 MYCLUSTER 변수를 설정합니다. 클러스터를 참조하는 명령어에서 이 변수를 사용합니다.

MYCLUSTER="${USER/_/-}-qwiklab" echo MYCLUSTER=${MYCLUSTER}

2. 사용할 전역 Compute Engine 리전을 설정하고 새 클러스터를 만듭니다.

gcloud config set dataproc/region {{{project_0.default_region | "REGION"}}} gcloud dataproc clusters create ${MYCLUSTER} \ --bucket=${MYBUCKET} \ --worker-machine-type=e2-standard-2 \ --master-machine-type=e2-standard-2 \ --initialization-actions=gs://spls/gsp010/install-libgtk.sh \ --image-version=2.0 \ --worker-boot-disk-size=30GB \ --master-boot-disk-size=30GB

3. 리전 대신 영역을 사용하라는 메시지가 표시되면 Y를 입력합니다.

몇 분 정도 소요될 수 있습니다. 이 실습에서는 워커 노드 2개가 포함된 기본 클러스터 설정이면 충분합니다. 클러스터가 사용하는 총 코어 수를 줄이기 위해 e2-standard-2가 워커 및 마스터 머신 유형으로 지정됩니다.

initialization-actions 플래그의 경우 클러스터 머신마다 libgtk2.0-dev 라이브러리를 설치하는 스크립트를 전달합니다. 이 라이브러리는 코드 실행에 필요합니다.

참고: 클러스터가 생성에 실패하면 클러스터를 삭제한 후(gcloud dataproc clusters delete ${MYCLUSTER}) 이전 클러스터 생성 명령어를 다시 시도해 보세요.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

Managed Apache Spark 클러스터를 만듭니다. 참고: 명령줄 플래그를 사용하여 클러스터 설정을 맞춤설정하는 방법은 Cloud SDK gcloud dataproc clusters create 참조를 참고하세요.

작업 5. Managed Apache Spark 클러스터에 작업 제출

이 실습에서 실행하는 프로그램은 얼굴 감지기로 사용되므로 입력된 haar 분류기는 얼굴을 설명해야 합니다. Haar 분류기는 프로그램이 감지할 기능을 설명하는 데 사용되는 XML 파일입니다. haar 분류기 파일을 다운로드하고 Managed Apache Spark 클러스터에 작업을 제출할 때 첫 번째 인수에 Cloud Storage 경로를 포함합니다.

1. SSH 창에서 다음 명령어를 실행하여 얼굴 인식 구성 파일을 버킷에 로드합니다.

curl https://raw.githubusercontent.com/opencv/opencv/master/data/haarcascades/haarcascade_frontalface_default.xml | gcloud storage cp - gs://${MYBUCKET}/haarcascade_frontalface_default.xml

2. Cloud Storage 버킷의 imgs 디렉터리에 업로드한 이미지 세트를 기능 감지기의 입력으로 사용합니다. 해당 디렉터리의 경로를 작업 제출 명령어의 두 번째 인수로 포함해야 합니다.

• Managed Apache Spark에 작업을 제출합니다.

cd ~/cloud-dataproc/codelabs/opencv-haarcascade gcloud dataproc jobs submit spark \ --cluster ${MYCLUSTER} \ --jar target/scala-2.12/feature_detector-assembly-1.0.jar -- \ gs://${MYBUCKET}/haarcascade_frontalface_default.xml \ gs://${MYBUCKET}/imgs/ \ gs://${MYBUCKET}/out/

두 번째 인수에 지정된 Cloud Storage 버킷에 사용할 다른 이미지를 추가할 수 있습니다.

3. 작업을 모니터링하려면 Cloud Platform 콘솔에서 탐색 메뉴 > 모든 제품 보기를 선택합니다. 그런 다음 분석에서 Managed Apache Spark > 작업을 클릭합니다.

상태가 '성공'으로 표시되면 다음 단계로 진행해도 됩니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다.

Managed Apache Spark 클러스터에 작업을 제출합니다.

4. 작업이 완료되면 탐색 메뉴 > Cloud Storage로 이동하여 생성한 버킷(사용자 이름 뒤에 student-image와 임의의 숫자가 붙습니다)을 찾아 클릭합니다.

5. 외부 디렉터리에서 이미지를 클릭합니다.

6. 다운로드 아이콘을 클릭하면 이미지가 컴퓨터에 다운로드됩니다.

얼굴 인식은 얼마나 정확한가요? 이와 같이 직접 코딩한 규칙은 그다지 잘 작동하지 않으므로 Vision API 를 사용하는 것이 더 나은 방법입니다. 다음 단계에서 작동 방식을 확인할 수 있습니다.

7. (선택사항) 버킷에서 imgs 폴더로 이동하여 버킷에 업로드한 다른 이미지를 클릭합니다. 이렇게 하면 세 개의 샘플 이미지가 다운로드됩니다. 이미지를 컴퓨터에 저장합니다.

8. 이 링크를 클릭하여 Vision API 페이지로 이동하고, API 사용해 보기 섹션으로 스크롤한 후 버킷에서 다운로드한 이미지를 업로드합니다. 이미지 감지 결과가 몇 초 안에 표시됩니다. 기본 머신러닝 모델은 계속 개선되고 있으므로 결과가 동일하지 않을 수 있습니다.

9. (선택사항) 기능 감지기를 개선하기 위한 실험을 진행하려면 FeatureDetector 코드를 수정하고 sbt assembly, gcloud dataproc, jobs submit 명령어를 다시 실행합니다.

작업 6. 배운 내용 테스트하기

아래는 이 실습에서 배운 내용을 복습하기 위한 객관식 테스트입니다. 최선을 다해 풀어보세요.

수고하셨습니다

관리형 Apache Spark 클러스터를 가동하고 작업을 실행하는 방법을 알아보았습니다.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2026년 7월 6일

실습 최종 테스트: 2026년 7월 6일

Copyright 2026 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.