회원 가입일: 2026
Dataflow를 사용한 서버리스 데이터 처리: 파이프라인 개발
Earned 9월 11, 2026 EDT
Dataflow를 사용한 서버리스 데이터 처리: 기초
Earned 9월 7, 2026 EDT
Knowledge Catalog로 데이터 메시 빌드하기
Earned 7월 28, 2026 EDT
Google Cloud에서 ML API용으로 데이터 준비하기
Earned 7월 20, 2026 EDT
멀티 에이전트 아키텍처 배포
Earned 7월 15, 2026 EDT
BigQuery로 스트리밍 분석
Earned 7월 11, 2026 EDT
BigQuery 데이터에서 인사이트 도출
Earned 7월 10, 2026 EDT
BigQuery로 데이터 웨어하우스 빌드
Earned 7월 10, 2026 EDT
Dataflow 과정 시리즈의 두 번째 편에서는 Beam SDK를 사용하여 파이프라인을 개발하는 방법을 자세히 살펴보겠습니다. 먼저 Apache Beam 개념에 대한 복습부터 시작하겠습니다. 다음으로 윈도우, 워터마크, 트리거를 사용하여 스트리밍 데이터를 처리하는 방법을 알아봅니다. 그런 다음 파이프라인의 소스 및 싱크 옵션, 정형 데이터를 표현하는 스키마, State 및 Timer API를 사용하여 스테이트풀(Stateful) 변환을 수행하는 방법을 다룹니다. 이제 파이프라인 성능을 극대화하는 데 도움이 되는 권장사항을 살펴보겠습니다. 과정의 마지막 부분에서는 Beam에서 비즈니스 로직을 표현하기 위한 SQL과 DataFrame을 소개하고 Beam 노트북을 사용하여 파이프라인을 반복적으로 개발하는 방법을 알아봅니다.
이 과정은 Dataflow를 사용한 서버리스 데이터 처리에 관한 3개 과정으로 이루어진 시리즈 중 1부입니다. 이 첫 번째 과정에서는 Apache Beam이 무엇인지, Dataflow와 어떤 관계가 있는지 복습하는 내용으로 시작합니다. 다음으로 Apache Beam의 비전과 Beam 이식성 프레임워크의 이점에 대해 설명합니다. Beam 이식성 프레임워크는 개발자가 선호하는 프로그래밍 언어를 원하는 실행 백엔드와 함께 사용할 수 있다는 비전을 실현합니다. 그런 다음 Dataflow를 통해 컴퓨팅과 스토리지를 분리하면서 비용을 절감하는 방법과 ID, 액세스, 관리 도구가 Dataflow 파이프라인과 상호작용하는 방식을 알아봅니다. 마지막으로 Dataflow에서 사용 사례에 맞는 적절한 보안 모델을 구현하는 방법을 살펴봅니다.
초급 Knowledge Catalog로 데이터 메시 빌드하기 기술 배지 과정을 완료하여, Knowledge Catalog를 통해 데이터 메시를 빌드해 Google Cloud에서 데이터 보안, 거버넌스, 탐색을 활용하는 역량을 입증하세요. Knowledge Catalog에서 애셋에 태그를 지정하고, IAM 역할을 할당하고, 데이터 품질을 평가하는 기술을 연습하고 테스트할 수 있습니다.
초급 Google Cloud에서 ML API용으로 데이터 준비하기 기술 배지를 완료하여 Dataprep by Trifacta로 데이터 정리, Dataflow에서 데이터 파이프라인 실행, Managed Service for Apache Spark에서 클러스터 생성 및 Apache Spark 작업 실행, Cloud Natural Language API, Google Cloud Speech-to-Text API, Video Intelligence API를 포함한 ML API 호출과 관련된 기술 역량을 입증하세요.
고급 멀티 에이전트 아키텍처 배포 기술 배지를 획득하고 다음 역량을 입증하세요. 여기에는 ADK를 사용하여 멀티 에이전트 시스템을 구축하고, 에이전트 간(A2A) 프로토콜을 사용하여 에이전트를 연결하고, 모델 컨텍스트 프로토콜(MCP)을 사용하여 외부 도구를 통합하고, 에이전트 엔진에 완전한 멀티 에이전트 솔루션을 배포하는 작업이 포함됩니다.
BigQuery로 스트리밍 분석 과정을 완료하여 기술 배지를 획득하세요. 이 과정에서는 Pub/Sub, Dataflow, BigQuery를 함께 사용하여 데이터를 스트리밍하고 분석할 수 있습니다.
초급 BigQuery 데이터에서 인사이트 도출 기술 배지 과정을 완료하여 SQL 쿼리 작성, 공개 테이블 쿼리, BigQuery로 샘플 데이터 로드, BigQuery의 쿼리 검사기를 통한 일반적인 문법 오류 문제 해결, BigQuery 데이터를 연결해 Data Studio에서 보고서를 생성하는 작업과 관련된 기술 역량을 입증하세요.
중급 BigQuery로 데이터 웨어하우스 빌드 기술 배지를 완료하여 데이터를 조인하여 새 테이블 만들기, 조인 관련 문제 해결, 합집합으로 데이터 추가, 날짜로 파티션을 나눈 테이블 만들기, BigQuery에서 JSON, 배열, 구조체 작업하기와 관련된 기술 역량을 입증하세요.