Dans le dernier volet de la série de cours sur Dataflow, nous allons présenter les composants du modèle opérationnel de Dataflow. Nous examinerons les outils et techniques permettant de résoudre les problèmes et d'optimiser les performances des pipelines. Nous passerons ensuite en revue les bonnes pratiques en matière de test, de déploiement et de fiabilité pour les pipelines Dataflow. Nous terminerons par une présentation des modèles, qui permettent de faire évoluer facilement les pipelines Dataflow pour les adapter aux organisations comptant des centaines d'utilisateurs. Ces leçons vous aideront à vous assurer que votre plate-forme de données est stable et résiliente face aux imprévus.
Intégrer le machine learning à des pipelines de données renforce la capacité à dégager des insights des données. Ce cours passera en revue plusieurs façons d'intégrer le machine learning à des pipelines de données sur Google Cloud. Vous découvrirez AutoML pour les cas ne nécessitant que peu de personnalisation (voire aucune), ainsi que Notebooks et BigQuery ML pour les situations qui requièrent des capacités de machine learning plus adaptées. Enfin, vous apprendrez à utiliser des solutions de machine learning en production avec Vertex AI.
Ce cours est le premier d'une série en trois volets sur le traitement des données sans serveur avec Dataflow. Dans ce premier cours, nous allons commencer par rappeler ce qu'est Apache Beam et sa relation avec Dataflow. Ensuite, nous aborderons la vision d'Apache Beam et les avantages de son framework de portabilité, qui permet aux développeurs d'utiliser le langage de programmation et le backend d'exécution de leur choix. Nous vous montrerons aussi comment séparer le calcul du stockage et économiser de l'argent grâce à Dataflow, puis nous examinerons les interactions entre les outils de gestion de l'identification et des accès avec vos pipelines Dataflow. Enfin, nous verrons comment implémenter le modèle de sécurité adapté à votre cas d'utilisation sur Dataflow.
Dans ce cours, vous allez vous exercer à résoudre des problèmes concrets rencontrés lors de la création de pipelines de flux données. L'objectif principal est de gérer des données continues et illimitées avec les produits Google Cloud.
Dans ce cours de niveau intermédiaire, vous apprendrez à concevoir, créer et optimiser des pipelines de données en batch robustes sur Google Cloud. Au-delà des bases de la gestion des données, vous explorerez les transformations de données à grande échelle et l'orchestration efficace des workflows, essentielles pour l'informatique décisionnelle et les rapports critiques. Vous vous entraînerez à utiliser Dataflow pour Apache Beam et Serverless pour Apache Spark (Dataproc Serverless) pour l'implémentation, et vous aborderez des considérations importantes concernant la qualité des données, la surveillance et les alertes pour assurer la fiabilité des pipelines et l'excellence opérationnelle. Il est recommandé d'avoir des connaissances de base sur l'entreposage de données, les processus ETL/ELT, SQL, Python et les concepts de Google Cloud.
Bien que les approches traditionnelles utilisant des lacs de données et des entrepôts de données puissent être efficaces, elles présentent des inconvénients, en particulier dans les grands environnements d'entreprise. Ce cours présente le concept de data lakehouse et les produits Google Cloud utilisés pour en créer un. Une architecture de lakehouse utilise des sources de données basées sur des normes ouvertes et combine les meilleures fonctionnalités des lacs et des entrepôts de données, ce qui permet de pallier de nombreuses lacunes.
Découvrez comment utiliser Gemini Notebook pour créer un guide de préparation personnalisé pour l'examen de certification Professional Data Engineer. Vous allez passer en revue les fonctionnalités de Gemini Notebook, créer un notebook dans Gemini Notebook, et apprendre à utiliser un guide d'étude pour vous entraîner à passer un examen de certification.
Obtenez un badge de compétence en suivant le cours Déployer et sécuriser des API sans serveur avec API Gateway, dans lequel vous apprendrez à utiliser API Gateway pour déployer, sécuriser et gérer des API avec une passerelle entièrement gérée.
Obtenez le badge de compétence de niveau Débutant 'Organiser et gouverner les données avec Dataplex' pour démontrer vos compétences dans les domaines suivants : création d'assets Dataplex, création de types d'aspects et application d'aspects aux entrées dans Dataplex. Les badges de compétence valident vos connaissances sur des produits spécifiques lors d'ateliers pratiques et d'évaluations. Décrochez un badge en suivant un cours ou accédez directement à l'atelier challenge correspondant pour l'obtenir dès aujourd'hui. Les badges attestent de votre niveau de maîtrise, améliorent votre profil professionnel et, par conséquent, vous permettent d'accroître vos opportunités de carrière. Accédez à votre profil pour retrouver les badges que vous avez obtenus.
Obtenez un badge de compétence en suivant le cours Mettre en œuvre des flux de travail de messagerie et d'automatisation basés sur les événements dans lequel vous apprendrez à utiliser Pub/Sub depuis la console Cloud. Vous découvrirez également comment les jobs Cloud Scheduler peuvent vous faire gagner du temps et quand Pub/Sub Lite permet de réaliser des économies sur l'ingestion d'événements.
Obtenez un badge de compétence en suivant le cours Google Cloud Compute : principes de base, où vous apprendrez à utiliser des machines virtuelles (VM), des disques persistants et des serveurs Web à l'aide de Compute Engine.
Obtenez le badge de compétence de niveau débutant "Créer des applications d'IA concrètes avec Gemini et Imagen" pour démontrer vos compétences dans les domaines suivants : reconnaissance d'image, traitement du langage naturel, génération d'images à l'aide des puissants modèles Gemini et Imagen de Google, et déploiement d'applications sur la plate-forme Vertex AI.
Obtenez le Badge de Compétence en suivant le cours Implémenter des solutions vocales et linguistiques avec des API pré-entraînées, où vous apprendrez à utiliser des outils d'API liés à la parole pour synthétiser et transcrire la parole.
Cloud Storage, Cloud Functions et Cloud Pub/Sub sont tous des services Google Cloud Platform qui peuvent être utilisés pour stocker, traiter et gérer des données. Ces trois services peuvent être utilisés ensemble pour créer différentes applications basées sur les données. Dans ce cours, vous allez utiliser Cloud Storage pour stocker des images, Cloud Functions pour les traiter et Cloud Pub/Sub pour les envoyer à une autre application.
Obtenez un badge de compétence en suivant le cours Analyse de flux dans BigQuery, où vous utiliserez Pub/Sub, Dataflow et BigQuery ensemble pour diffuser des données afin de les analyser.
Terminez le cours intermédiaire Créer un entrepôt de données avec BigQuery pour recevoir un badge démontrant vos compétences dans les domaines suivants : la jointure de données pour créer des tables, la résolution des problèmes liés aux jointures, l'ajout de données avec des unions, la création de tables partitionnées par date, et l'utilisation d'objets JSON, ARRAY et STRUCT dans BigQuery.
Terminez le cours d'introduction Dégager des insights des données BigQuery pour recevoir un badge démontrant vos compétences dans les domaines suivants : l'écriture de requêtes SQL, l'interrogation de tables publiques, le chargement d'exemples de données dans BigQuery, la résolution d'erreurs de syntaxe courantes avec l'outil de validation des requêtes de BigQuery et la création de rapports dans Data Studio en se connectant aux données BigQuery.
Terminez le cours d'introduction Préparer des données pour les API de ML sur Google Cloud pour recevoir un badge démontrant vos compétences dans les domaines suivants : le nettoyage des données avec Dataprep by Trifacta, l'exécution de pipelines de données dans Dataflow, la création de clusters et l'exécution de jobs Apache Spark dans Managed Service for Apache Spark, et l'appel d'API de ML comme l'API Cloud Natural Language, l'API Google Cloud Speech-to-Text et l'API Video Intelligence.
Terminez le cours intermédiaire Ingénierie des données pour la modélisation prédictive avec BigQuery ML pour recevoir un badge démontrant vos compétences dans les domaines suivants : la création de pipelines de transformation des données dans BigQuery avec Dataprep by Trifacta ; l'utilisation de Cloud Storage, Dataflow et BigQuery pour créer des workflows ETL (Extract, Transform and Load) ; et la création de modèles de machine learning avec BigQuery ML.