회원 가입일: 2024
Dataflow를 사용한 서버리스 데이터 처리: 운영
Earned 10월 31, 2024 EDT
Dataflow를 사용한 서버리스 데이터 처리: 파이프라인 개발
Earned 9월 5, 2024 EDT
Dataflow를 사용한 서버리스 데이터 처리: 기초
Earned 7월 6, 2024 EDT
Google Cloud 기초: 핵심 인프라
Earned 7월 3, 2024 EDT
Dataflow 과정 시리즈의 마지막 편에서는 Dataflow 운영 모델의 구성요소를 소개합니다. 파이프라인 성능의 문제를 해결하고 최적화하기 위한 도구와 기법을 살펴봅니다. 그런 다음 Dataflow 파이프라인의 테스트, 배포, 안정성 권장사항을 검토합니다. 마지막으로 Dataflow 파이프라인을 사용자가 수백 명이나 되는 조직으로 쉽게 확장할 수 있는 템플릿을 검토해 보겠습니다. 이 강의는 데이터 플랫폼이 예상치 못한 상황에서도 안정성과 복원력을 갖추도록 하는데 도움이 됩니다.
Dataflow 과정 시리즈의 두 번째 편에서는 Beam SDK를 사용하여 파이프라인을 개발하는 방법을 자세히 살펴보겠습니다. 먼저 Apache Beam 개념에 대한 복습부터 시작하겠습니다. 다음으로 윈도우, 워터마크, 트리거를 사용하여 스트리밍 데이터를 처리하는 방법을 알아봅니다. 그런 다음 파이프라인의 소스 및 싱크 옵션, 정형 데이터를 표현하는 스키마, State 및 Timer API를 사용하여 스테이트풀(Stateful) 변환을 수행하는 방법을 다룹니다. 이제 파이프라인 성능을 극대화하는 데 도움이 되는 권장사항을 살펴보겠습니다. 과정의 마지막 부분에서는 Beam에서 비즈니스 로직을 표현하기 위한 SQL과 DataFrame을 소개하고 Beam 노트북을 사용하여 파이프라인을 반복적으로 개발하는 방법을 알아봅니다.
이 과정은 Dataflow를 사용한 서버리스 데이터 처리에 관한 3개 과정으로 이루어진 시리즈 중 1부입니다. 이 첫 번째 과정에서는 Apache Beam이 무엇인지, Dataflow와 어떤 관계가 있는지 복습하는 내용으로 시작합니다. 다음으로 Apache Beam의 비전과 Beam 이식성 프레임워크의 이점에 대해 설명합니다. Beam 이식성 프레임워크는 개발자가 선호하는 프로그래밍 언어를 원하는 실행 백엔드와 함께 사용할 수 있다는 비전을 실현합니다. 그런 다음 Dataflow를 통해 컴퓨팅과 스토리지를 분리하면서 비용을 절감하는 방법과 ID, 액세스, 관리 도구가 Dataflow 파이프라인과 상호작용하는 방식을 알아봅니다. 마지막으로 Dataflow에서 사용 사례에 맞는 적절한 보안 모델을 구현하는 방법을 살펴봅니다.
Google Cloud 기초: 핵심 인프라 과정은 Google Cloud 사용에 관한 중요한 개념 및 용어를 소개합니다. 이 과정에서는 동영상 및 실무형 실습을 통해 중요한 리소스 및 정책 관리 도구와 함께 Google Cloud의 다양한 컴퓨팅 및 스토리지 서비스를 살펴보고 비교합니다.