Viacheslav Melnyk
Member since 2022
Gold League
25305 points
Member since 2022
In the last installment of the Dataflow course series, we will introduce the components of the Dataflow operational model. We will examine tools and techniques for troubleshooting and optimizing pipeline performance. We will then review testing, deployment, and reliability best practices for Dataflow pipelines. We will conclude with a review of Templates, which makes it easy to scale Dataflow pipelines to organizations with hundreds of users. These lessons will help ensure that your data platform is stable and resilient to unanticipated circumstances.
In this second installment of the Dataflow course series, we are going to be diving deeper on developing pipelines using the Beam SDK. We start with a review of Apache Beam concepts. Next, we discuss processing streaming data using windows, watermarks and triggers. We then cover options for sources and sinks in your pipelines, schemas to express your structured data, and how to do stateful transformations using State and Timer APIs. We move onto reviewing best practices that help maximize your pipeline performance. Towards the end of the course, we introduce SQL and Dataframes to represent your business logic in Beam and how to iteratively develop pipelines using Beam notebooks.
This course is part 1 of a 3-course series on Serverless Data Processing with Dataflow. In this first course, we start with a refresher of what Apache Beam is and its relationship with Dataflow. Next, we talk about the Apache Beam vision and the benefits of the Beam Portability framework. The Beam Portability framework achieves the vision that a developer can use their favorite programming language with their preferred execution backend. We then show you how Dataflow allows you to separate compute and storage while saving money, and how identity, access, and management tools interact with your Dataflow pipelines. Lastly, we look at how to implement the right security model for your use case on Dataflow.
完成 透過 BigQuery 建構資料倉儲 技能徽章中階課程,即可證明您具備下列技能: 彙整資料以建立新資料表、排解彙整作業問題、利用聯集附加資料、建立依日期分區的資料表, 以及在 BigQuery 使用 JSON、陣列和結構體。
完成 在 Google Cloud 實作 Cloud 安全防護措施:基礎知識 技能徽章中階課程, 即可證明您具備下列技能:運用 Identity and Access Management (IAM) 建立及指派角色、 建立及管理服務帳戶、啟用虛擬私有雲 (VPC) 網路中的私人連線、 運用 Identity-Aware Proxy 限制應用程式存取權、 運用 Cloud Key Management Service (KMS) 管理金鑰和已加密資料,以及建立私人 Kubernetes 叢集。
完成 使用資料庫遷移服務將 MySQL 資料遷移至 Cloud SQL 技能徽章入門課程,證明您具備下列技能: 使用「資料庫遷移服務」中各種可用的工作類型和連線選項, 將 MySQL 資料遷移至 Cloud SQL,以及在執行「資料庫遷移服務」工作時 遷移 MySQL 使用者資料。
完成在 BigQuery 執行預測資料分析技能徽章中階課程, 即可證明您具備下列技能:可匯入 CSV 和 JSON 檔案,在 BigQuery 建立資料集; 可運用 BigQuery 的強大功能與複雜的 SQL 分析概念,包括使用 BigQuery ML 根據足球賽事資料訓練出預期進球模型,評估世界盃進球的精彩程度。
完成「使用 Google Data Cloud 共用資料」課程,即可獲得技能徽章。 在本課程中,您會透過 Google Cloud 資料共用合作夥伴, 使用專屬資料集進行數據分析, 獲得豐富的實務經驗。客戶訂閱這類資料後,即可在自家平台查詢, 並用自己的資料集補強。此外,也能使用圖表 工具,打造客戶專用的資訊主頁。
完成 Looker 資料模型管理技能徽章中階課程,即可證明您具備下列技能:維護 LookML 專案的健全性、運用 SQL Runner 驗證資料、採用 LookML 最佳做法、改良查詢及 報表,並執行永久衍生資料表和快取政策。
完成「在 Looker 建構 LookML 物件」技能徽章入門課程, 即可證明您具備下列技能: 建立新的維度和測量指標、檢視畫面和衍生資料表;根據需求設定測量指標篩選器和類型; 更新維度和測量指標; 建構及調整「探索」;將檢視表彙整至現有「探索」;以及配合業務需求決定要建立哪些 LookML 物件。
完成「運用 BigQuery ML 建立機器學習模型」技能徽章中階課程,即可證明您具備下列技能: 可使用 BigQuery ML 建立及評估機器學習模型,並根據資料進行預測。
完成 從 BigQuery 資料取得深入分析結果 技能徽章入門課程,即可證明您具備下列技能: 撰寫 SQL 查詢、查詢公開資料表、將樣本資料載入 BigQuery、使用 BigQuery 的查詢驗證工具 排解常見語法錯誤,以及在 Data Studio 中 透過連結 BigQuery 資料建立報表。
完成「為 Looker 資訊主頁和報表準備資料」技能徽章入門課程, 即可證明您具備下列技能:可篩選、排序和 pivot 資料、合併不同的 Looker 探索結果, 還能使用函式和運算子建構 Looker 資訊主頁和報表,取得資料分析結果和圖表。
完成 使用 Firebase 開發無伺服器應用程式 技能徽章中階課程, 即可證明您具備下列技能:使用 Firebase 架構及建構無伺服器的網頁應用程式、 運用 Firestore 管理資料庫、使用 Cloud Build 自動部署內容, 以及將 Google 助理功能整合至應用程式。
完成 運用 Cloud Run 開發無伺服器應用程式 技能徽章中階課程, 即可證明您具備下列技能:整合 Cloud Run 和 Cloud Storage 以管理資料、 使用 Cloud Run 和 Pub/Sub 架構可復原的非同步系統、 使用 Cloud Run 建構 REST API 閘道,以及在 Cloud Run 建構及部署服務。
完成 Google Kubernetes Engine 成本效益最佳化 技能徽章中階課程, 即可證明您具備下列技能:建立及管理多租戶叢集、依據命名空間監控資源使用量、 設定自動調度叢集和 Pod 資源以提升效能、設定負載平衡以最佳化 資源分配,以及導入有效性和完備性探測,確保應用程式維持健康並符合成本效益。
完成「在 Google Cloud 使用 Terraform 建構基礎架構」技能徽章中階課程, 即可證明自己具備下列知識與技能:使用 Terraform 的基礎架構即程式碼 (IaC) 原則、運用 Terraform 設定佈建及管理 Google Cloud 資源、有效管理狀態 (本機和遠端),以及將 Terraform 程式碼模組化,以利重複使用和管理。
Learn how to use Gemini Notebook to create a personalized study guide for the Professional Cloud Architect certification exam. You'll review Gemini Notebook features, create a notebook in Gemini Notebook, and learn how to use a study guide to practice for a certification exam.
完成 在 Google Cloud 部署 Kubernetes 應用程式 技能徽章中階課程,即可證明您具備下列技能: 設定及建構 Docker 容器映像檔、建立及管理 Google Kubernetes Engine (GKE) 叢集、運用 kubectl 有效 管理叢集,以及運用強大的持續推送軟體更新做法來部署 Kubernetes 應用程式。
完成「在 Compute Engine 導入 Cloud Load Balancing」技能徽章入門課程,即可證明您具備下列技能: 在 Compute Engine 建立及部署虛擬機器, 以及設定網路和應用程式負載平衡器。
完成透過 Google Cloud 建構網站技能徽章課程,即可獲得入門級技能徽章。 本課程以 Get Cooking in Cloud 系列影片為基礎, 涵蓋以下主題:在 Cloud Run 部署網站在 Compute Engine 託管網頁應用程式在 Google Kubernetes Engine 建立、 部署及擴充網站使用 Cloud Build 將單體式應用程式遷移至微服務架構
完成使用 BigQuery ML 為預測模型進行資料工程技能徽章中階課程, 即可證明自己具備下列知識與技能:運用 Dataprep by Trifacta 建構連至 BigQuery 的資料轉換 pipeline; 使用 Cloud Storage、Dataflow 和 BigQuery 建構「擷取、轉換及載入」(ETL) 工作負載, 以及使用 BigQuery ML 建構機器學習模型。
完成「設定 Google Cloud 網路」課程,即可獲得技能徽章。 您將瞭解如何在 Google Cloud Platform 執行基本的網路工作,包括建立自訂網路、新增子網路防火牆規則,還有建立 VM 並測試 VM 之間的通訊延遲。
完成 建立 Google Cloud 網路 課程即可獲得技能徽章。這個課程將說明 部署及監控應用程式的多種方法,包括查看 IAM 角色及新增/移除 專案存取權、建立虛擬私有雲網路、部署及監控 Compute Engine VM、編寫 SQL 查詢、在 Compute Engine 部署及監控 VM,以及 使用 Kubernetes 透過多種方法部署應用程式。
完成 在 Google Cloud 為機器學習 API 準備資料 技能徽章入門課程,即可證明您具備下列技能: 使用 Dataprep by Trifacta 清理資料、在 Dataflow 執行資料管道、在 Managed Service for Apache Spark 建立叢集和執行 Apache Spark 工作,以及呼叫機器學習 API,包含 Cloud Natural Language API、Google Cloud Speech-to-Text API 和 Video Intelligence API。
只要修完「在 Google Cloud 設定應用程式開發環境」課程,就能獲得技能徽章。 在本課程中,您將學會如何使用以下技術的基本功能,建構和連結以儲存空間為中心的雲端基礎架構:Cloud Storage、Identity and Access Management、Cloud Functions 和 Pub/Sub。