GSP207

Informações gerais

O SDK do Apache Beam é um modelo de programação de código aberto para pipelines de dados. No Google Cloud, você pode usar um programa do Apache Beam definir um pipeline e o Dataflow para executá-lo.

Neste laboratório, você vai configurar um ambiente de desenvolvimento em Python para o Dataflow (usando o SDK do Apache Beam para Python) e executar um exemplo de pipeline do Dataflow.

Atividades

Neste laboratório, você vai aprender a:

• Criar um bucket do Cloud Storage para armazenar os resultados de um pipeline do Dataflow
• Instalar o SDK do Apache Beam para Python
• Executar um pipeline do Dataflow de maneira remota

Configuração e requisitos

Antes de clicar no botão Começar o Laboratório

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima (recomendado) ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.

Observação: use apenas a conta de estudante neste laboratório. Se usar outra conta do Google Cloud, você poderá receber cobranças nela.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento. No painel Detalhes do Laboratório, à esquerda, você vai encontrar o seguinte:

   • O botão Abrir Console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer Login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Username"}}}

   Você também encontra o nome de usuário no painel Detalhes do Laboratório.

4. Clique em Próxima.

5. Copie a Senha abaixo e cole na caixa de diálogo de Olá.

   {{{user_0.password | "Password"}}}

   Você também encontra a senha no painel Detalhes do Laboratório.

6. Clique em Próxima.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.

Ativar o Cloud Shell

O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

1. Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.

2. Clique nas seguintes janelas:

   • Continue na janela de informações do Cloud Shell.
   • Autorize o Cloud Shell a usar suas credenciais para fazer chamadas de APIs do Google Cloud.

Depois de se conectar, você verá que sua conta já está autenticada e que o projeto está configurado com seu Project_ID, . A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:

Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}

A gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

3. (Opcional) É possível listar o nome da conta ativa usando este comando:

gcloud auth list

4. Clique em Autorizar.

Saída:

ACTIVE: * ACCOUNT: {{{user_0.username | "ACCOUNT"}}} To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (Opcional) É possível listar o ID do projeto usando este comando:

gcloud config list project

Saída:

[core] project = {{{project_0.project_id | "PROJECT_ID"}}} Observação: consulte a documentação completa da gcloud no Google Cloud no guia de visão geral da gcloud CLI.

Configurar a região

• No Cloud Shell, execute o seguinte comando para definir a região do projeto deste laboratório:

gcloud config set compute/region {{{project_0.default_region | "REGION"}}}

Ativar a API Dataflow

Para ter acesso à API Dataflow, reinicie a conexão.

1. Execute os comandos a seguir para desativar e reativar a "API Dataflow".

gcloud services disable dataflow.googleapis.com gcloud services enable dataflow.googleapis.com

Você pode verificar se a API Dataflow foi ativada com sucesso.

2. No console do Cloud, digite "API Dataflow" na barra de pesquisa superior. Clique no resultado para API Dataflow.

Depois que a API for ativada, a opção para desativá-la vai aparecer na página.

Tarefa 1: criar um bucket do Cloud Storage

Quando você executa um pipeline usando o Dataflow, os resultados são armazenados em um bucket do Cloud Storage. Nesta tarefa, você vai criar um bucket do Cloud Storage para os resultados do pipeline que serão executados em uma tarefa posterior.

1. No Menu de navegação (), clique em Cloud Storage > Buckets.
2. Clique em Criar bucket.
3. Na caixa de diálogo Criar bucket, especifique os seguintes atributos:

• Nome: para garantir que o bucket tenha um nome exclusivo, use "-bucket". Não inclua informações sensíveis, porque o namespace dele é global e aparece para o público.
• Tipo de local: multirregional
• Local: us
• Defina o local onde os dados do bucket serão armazenados

4. Clique em Criar.

5. Se a mensagem "O acesso público será bloqueado" aparecer, clique em Confirmar.

Testar a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se a tarefa tiver sido concluída corretamente, você vai receber uma pontuação de avaliação.

Criar um bucket do Cloud Storage

Tarefa 2: instalar o SDK do Apache Beam para Python

1. Para garantir que você esteja em uma versão aceita do Python, comece executando a imagem Docker Python3.9:

docker run -it -e DEVSHELL_PROJECT_ID=$DEVSHELL_PROJECT_ID python:3.9 /bin/bash

Esse comando extrai um contêiner do Docker com a versão estável mais recente do Python 3.9. Em seguida, abre um shell para você executar os comandos abaixo dentro do contêiner.

2. Depois que o contêiner estiver em execução, execute o comando a seguir em um ambiente virtual para instalar a versão mais recente do SDK do Apache Beam para Python:

pip install 'apache-beam[gcp]'==2.67.0

Você vai receber alguns avisos relacionados às dependências. Eles podem ser ignorados neste laboratório.

3. Execute o exemplo do wordcount.py no local com o seguinte comando:

python -m apache_beam.examples.wordcount --output OUTPUT_FILE

Vai aparecer uma mensagem parecida com esta:

INFO:root:Missing pipeline option (runner). Executing pipeline using the default runner: DirectRunner. INFO:oauth2client.client:Attempting refresh to obtain initial access_token

Esta mensagem pode ser ignorada.

4. Liste os arquivos que estão no seu ambiente de nuvem local para gerar o nome de OUTPUT_FILE:

ls

5. Copie o nome de OUTPUT_FILE e cat nele:

cat <file name>

Os resultados vão apresentar todas as palavras no arquivo e quantas vezes elas aparecem.

Tarefa 3: executar um exemplo de pipeline do Dataflow de forma remota

1. Defina a variável de ambiente BUCKET para o bucket que você criou anteriormente:

BUCKET=gs://<bucket name provided earlier>

2. Agora você vai executar o exemplo wordcount.py remotamente:

python -m apache_beam.examples.wordcount --project $DEVSHELL_PROJECT_ID \ --runner DataflowRunner \ --staging_location $BUCKET/staging \ --temp_location $BUCKET/temp \ --output $BUCKET/results/output \ --region {{{project_0.default_region | "filled in at lab start"}}}

Execute o comando novamente até o job iniciar e aparecer a seguinte mensagem:

JOB_MESSAGE_DETAILED: Workers have started successfully.

Continue o laboratório.

Tarefa 4: confirmar que o job do Dataflow foi concluído

1. Abra o Menu de navegação e selecione Dataflow na lista de serviços.

Primeiro, você verá seu job wordcount com o status Em execução.

2. Clique no nome dele para ver o processo. Quando todas as caixas estiverem marcadas, você poderá continuar monitorando os registros no Cloud Shell.

O processo vai estar completo quando o status for Concluído.

Testar a tarefa concluída

Clique em Verificar meu progresso para conferir a tarefa realizada. Se você concluiu a tarefa, vai receber uma pontuação de avaliação.

Executar um pipeline de exemplo de forma remota

3. No console do Cloud, clique em Menu de navegação > Cloud Storage.

4. Clique no nome do bucket. Nele, você vai encontrar os diretórios resultados e preparo.

5. Clique na pasta resultados para ver os arquivos de saída criados pelo seu job:

6. Clique em um arquivo para ver a contagem de palavras dele.

Tarefa 5: testar seus conhecimentos

Responda às perguntas de múltipla escolha a seguir para reforçar os conceitos abordados neste laboratório. Use seu conhecimento sobre o conteúdo visto até aqui.

Parabéns!

Você aprendeu a configurar um ambiente de desenvolvimento em Python para o Dataflow (usando o SDK do Apache Beam para Python) e a executar um exemplo de pipeline do Dataflow.

Próximas etapas / Saiba mais

Este laboratório faz parte de uma série chamada Qwik Starts. Ela foi desenvolvida para apresentar os vários recursos disponíveis no Google Cloud. Pesquise "Qwik Starts" no catálogo do Google Cloud Skills Boost para encontrar algum laboratório que seja do seu interesse.

Para ter uma cópia do livro que foi a base deste laboratório, acesse Data Science on the Google Cloud Platform, na O'Reilly Media (em inglês).

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 15 de outubro de 2025

Laboratório testado em 15 de outubro de 2025

Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.