Axel VILLANUEVA
회원 가입일: 2024
골드 리그
41870포인트
회원 가입일: 2024
Dataflow 과정 시리즈의 마지막 편에서는 Dataflow 운영 모델의 구성요소를 소개합니다. 파이프라인 성능의 문제를 해결하고 최적화하기 위한 도구와 기법을 살펴봅니다. 그런 다음 Dataflow 파이프라인의 테스트, 배포, 안정성 권장사항을 검토합니다. 마지막으로 Dataflow 파이프라인을 사용자가 수백 명이나 되는 조직으로 쉽게 확장할 수 있는 템플릿을 검토해 보겠습니다. 이 강의는 데이터 플랫폼이 예상치 못한 상황에서도 안정성과 복원력을 갖추도록 하는데 도움이 됩니다.
Gemini Notebook을 사용하여 Professional Data Engineer 자격증 시험을 위한 맞춤형 학습 가이드를 만드는 방법을 알아보세요. Gemini Notebook 기능을 검토하고, Gemini Notebook에서 노트북을 만들고, 학습 가이드를 사용하여 자격증 시험을 연습하는 방법을 익힐 수 있습니다.
Dataflow 과정 시리즈의 두 번째 편에서는 Beam SDK를 사용하여 파이프라인을 개발하는 방법을 자세히 살펴보겠습니다. 먼저 Apache Beam 개념에 대한 복습부터 시작하겠습니다. 다음으로 윈도우, 워터마크, 트리거를 사용하여 스트리밍 데이터를 처리하는 방법을 알아봅니다. 그런 다음 파이프라인의 소스 및 싱크 옵션, 정형 데이터를 표현하는 스키마, State 및 Timer API를 사용하여 스테이트풀(Stateful) 변환을 수행하는 방법을 다룹니다. 이제 파이프라인 성능을 극대화하는 데 도움이 되는 권장사항을 살펴보겠습니다. 과정의 마지막 부분에서는 Beam에서 비즈니스 로직을 표현하기 위한 SQL과 DataFrame을 소개하고 Beam 노트북을 사용하여 파이프라인을 반복적으로 개발하는 방법을 알아봅니다.
이 과정은 Dataflow를 사용한 서버리스 데이터 처리에 관한 3개 과정으로 이루어진 시리즈 중 1부입니다. 이 첫 번째 과정에서는 Apache Beam이 무엇인지, Dataflow와 어떤 관계가 있는지 복습하는 내용으로 시작합니다. 다음으로 Apache Beam의 비전과 Beam 이식성 프레임워크의 이점에 대해 설명합니다. Beam 이식성 프레임워크는 개발자가 선호하는 프로그래밍 언어를 원하는 실행 백엔드와 함께 사용할 수 있다는 비전을 실현합니다. 그런 다음 Dataflow를 통해 컴퓨팅과 스토리지를 분리하면서 비용을 절감하는 방법과 ID, 액세스, 관리 도구가 Dataflow 파이프라인과 상호작용하는 방식을 알아봅니다. 마지막으로 Dataflow에서 사용 사례에 맞는 적절한 보안 모델을 구현하는 방법을 살펴봅니다.
머신러닝을 데이터 파이프라인에 통합하면 데이터에서 더 많은 인사이트를 도출할 수 있습니다. 이 과정에서는 머신러닝을 Google Cloud의 데이터 파이프라인에 포함하는 방법을 알아봅니다. 맞춤설정이 거의 또는 전혀 필요 없는 경우에 적합한 AutoML에 대해 알아보고 맞춤형 머신러닝 기능이 필요한 경우를 위해 Notebooks 및 BigQuery 머신러닝(BigQuery ML)도 소개합니다. Vertex AI를 사용해 머신러닝 솔루션을 프로덕션화하는 방법도 다루어 보겠습니다.
이 과정에서는 스트리밍 데이터 파이프라인을 빌드할 때 직면하는 실제 과제를 해결하기 위해 실습을 진행합니다. Google Cloud 제품을 사용하여 지속적이고 무제한적인 데이터를 관리하는 데 중점을 둡니다.
초급 Google Cloud에서 ML API용으로 데이터 준비하기 기술 배지를 완료하여 Dataprep by Trifacta로 데이터 정리, Dataflow에서 데이터 파이프라인 실행, Managed Service for Apache Spark에서 클러스터 생성 및 Apache Spark 작업 실행, Cloud Natural Language API, Google Cloud Speech-to-Text API, Video Intelligence API를 포함한 ML API 호출과 관련된 기술 역량을 입증하세요.
중급 BigQuery ML을 사용한 예측 모델링을 위한 데이터 엔지니어링 기술 배지를 획득하여 Dataprep by Trifact로 데이터 변환 파이프라인을 BigQuery에 빌드, Cloud Storage, Dataflow, BigQuery를 사용한 ETL(추출, 변환, 로드) 워크플로 빌드, BigQuery ML을 사용하여 머신러닝 모델을 빌드하는 기술 역량을 입증할 수 있습니다.
이 중급 과정에서는 Google Cloud에서 강력한 일괄 데이터 파이프라인을 설계, 빌드, 최적화하는 방법을 알아봅니다. 기본적인 데이터 처리를 넘어, 시의적절한 비즈니스 인텔리전스와 중요한 보고에 필수적인 대규모 데이터 변환과 효율적인 워크플로 조정에 대해 살펴봅니다. Apache Beam용 Dataflow와 Apache Spark용 서버리스(Dataproc Serverless)를 사용하여 구현을 실습하고, 파이프라인 안정성과 운영 우수성을 보장하기 위해 데이터 품질, 모니터링, 알림에 대한 중요한 고려사항을 다룹니다. 데이터 웨어하우징, ETL/ELT, SQL, Python, Google Cloud 개념에 대한 기본적인 지식이 있으면 좋습니다.
초급 Lakehouse 데이터 보호 기술 배지 과정을 완료하여 Knowledge Catalog 내에서 IAM, BigQuery, Lakehouse, Data Catalog를 사용해 Lakehouse 테이블을 만들고 보호하는 기술 역량을 입증하세요.
초급 Knowledge Catalog로 데이터 메시 빌드하기 기술 배지 과정을 완료하여, Knowledge Catalog를 통해 데이터 메시를 빌드해 Google Cloud에서 데이터 보안, 거버넌스, 탐색을 활용하는 역량을 입증하세요. Knowledge Catalog에서 애셋에 태그를 지정하고, IAM 역할을 할당하고, 데이터 품질을 평가하는 기술을 연습하고 테스트할 수 있습니다.
초급 Dataplex로 데이터 정리 및 제어 기술 배지 과정을 완료하여, Dataplex 애셋 생성, 관점 유형 생성, Dataplex의 항목에 관점 적용 등의 기술을 입증하세요. 기술 배지 과정을 이수하면 실무형 실습과 챌린지 평가를 통해 특정 제품에 대한 실무 지식을 검증받을 수 있습니다. 과정을 완료하여 배지를 획득하거나 챌린지 실습으로 바로 넘어가 지금 배지를 획득하세요. 배지를 획득하면 자신의 숙련도를 증명하고 직업 프로필을 개선하며 궁극적으로는 더 나은 채용 기회를 얻을 수 있습니다. 획득한 배지를 추적하려면 프로필로 이동하세요.
이 과정에서는 Google Cloud에서 Terraform을 사용하는 방법을 소개합니다. 학습자는 Terraform을 사용하여 코드형 인프라를 구현하는 방법을 설명하고, Terraform의 주요 특징과 기능을 적용하여 Google Cloud 인프라를 생성하고 관리할 수 있게 됩니다. 또한 Terraform을 사용하여 Google Cloud 리소스를 빌드하고 관리하는 실무형 실습도 진행합니다.
중급 Google Cloud에서 Terraform으로 인프라 빌드 기술 배지 과정을 완료하여 Terraform을 사용하는 코드형 인프라(IaC) 원칙, Terraform 구성으로 Google Cloud 리소스 프로비저닝 및 관리, 효과적인 상태 관리(로컬 및 원격), 재사용성 및 구성을 위한 Terraform 코드 모듈화 등에 관한 기술을 입증하세요.
규모와 관계없이 모든 조직이 클라우드의 강력한 기능과 유연성을 활용하여 운영 방식을 혁신하고 있습니다. 하지만 클라우드 리소스를 효과적으로 관리하고 확장하는 것은 복잡한 작업일 수 있습니다. 이 과정에서는 클라우드의 현대적 운영, 안정성, 복원력의 기본 개념과 Google Cloud가 이러한 노력을 지원하는 데 어떤 도움이 되는지 살펴봅니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축할 수 있도록 돕는 것을 목표로 합니다.
조직이 데이터와 애플리케이션을 클라우드로 이전함에 따라 빠르게 진화하는 보안 과제 환경에 대응해야 합니다. 이 과정에서는 클라우드 보안의 기반, Google Cloud의 보안 내재화 설계 인프라의 가치, 심층 방어 전략을 살펴보고, AI 기반 운영 및 규정 준수 도구가 조직이 엄격한 글로벌 규제 요구사항을 충족하는 데 어떻게 도움이 되는지 강조합니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축할 수 있도록 돕는 것을 목표로 합니다.
많은 기존 기업은 최신 고객 기대에 부응할 수 없는 기존 시스템과 앱을 사용합니다. 비즈니스 리더는 노후화된 IT 시스템을 유지할지 아니면 새로운 제품과 서비스에 투자할지 결정해야 하는 경우가 많습니다. 이 과정에서는 이러한 과제를 살펴보고 클라우드 기술을 사용하여 이를 극복할 수 있는 솔루션을 제공합니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축하는 데 도움이 되는 것을 목표로 합니다.
인공지능(AI)과 머신러닝(ML)은 광범위한 산업을 빠르게 혁신하고 있는 정보 기술의 중요한 진화입니다. 'Google Cloud 인공지능으로 혁신하기' 과정에서는 조직이 AI와 ML을 사용하여 비즈니스 프로세스를 혁신하는 방법을 살펴봅니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축하는 데 도움이 되는 것을 목표로 합니다.
클라우드 기술은 강력한 자산이며, 데이터와 결합하면 혁신과 향상된 고객 경험을 위한 촉매제가 됩니다. 'Google Cloud를 통한 데이터 혁신 살펴보기' 과정에서는 조직이 클라우드를 활용하여 데이터의 접근성, 실행 가능성, 가치를 높이는 방법을 살펴봅니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축하는 데 도움이 되는 것을 목표로 합니다.
디지털 혁신은 현대 조직에 있어 중요한 여정이며, 의미 있는 혁신으로 나아가기 위해서는 가장 먼저 클라우드 컴퓨팅에 대한 강력한 기준을 수립해야 합니다. 'Google Cloud를 통한 디지털 혁신' 과정에서는 조직이 운영을 현대화하는 데 도움이 되는 핵심 기술과 전략적 프레임워크를 소개합니다. 이 과정에서는 기본적인 클라우드 개념, 글로벌 네트워크 인프라, 공동 책임 모델을 살펴보고 리더가 클라우드로의 전환을 자신 있게 이끌 수 있도록 지원합니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축할 수 있도록 돕는 것을 목표로 합니다.
중급 BigQuery로 데이터 웨어하우스 빌드 기술 배지를 완료하여 데이터를 조인하여 새 테이블 만들기, 조인 관련 문제 해결, 합집합으로 데이터 추가, 날짜로 파티션을 나눈 테이블 만들기, BigQuery에서 JSON, 배열, 구조체 작업하기와 관련된 기술 역량을 입증하세요.
데이터 레이크와 데이터 웨어하우스를 사용하는 기존 접근방식은 효과적일 수 있지만, 특히 대규모 엔터프라이즈 환경에서는 단점이 있습니다. 이 과정에서는 데이터 레이크하우스의 개념과 데이터 레이크하우스를 만드는 데 사용되는 Google Cloud 제품을 소개합니다. 레이크하우스 아키텍처는 개방형 표준 데이터 소스를 사용하며 데이터 레이크와 데이터 웨어하우스의 장점을 결합하여 많은 단점을 해결합니다.
이 과정에서는 데이터-AI 수명 주기를 지원하는 Google Cloud 빅데이터 및 머신러닝 제품과 서비스를 소개합니다. Google Cloud에서 Vertex AI를 사용하여 빅데이터 파이프라인 및 머신러닝 모델을 빌드하는 프로세스, 문제점 및 이점을 살펴봅니다.