Instruções e requisitos de configuração do laboratório
Proteja sua conta e seu progresso. Sempre use uma janela anônima do navegador e suas credenciais para realizar este laboratório.

Análise de dados sem servidor com Beam: MapReduce no Beam (Python)

Laboratório 1 hora 30 minutos universal_currency_alt 5 créditos show_chart Avançado
info Este laboratório pode incorporar ferramentas de IA para ajudar no seu aprendizado.
Este conteúdo ainda não foi otimizado para dispositivos móveis.
Para aproveitar a melhor experiência, acesse nosso site em um computador desktop usando o link enviado a você por e-mail.

Visão geral

Neste laboratório, você identificará as operações Map e Reduce, executará o pipeline e usará parâmetros da linha de comando.

Objetivos

  • Identificar as operações Map e Reduce

  • Executar o pipeline

  • Usar parâmetros da linha de comando

Configuração

Para cada laboratório, você recebe um novo projeto do Google Cloud e um conjunto de recursos por um determinado período e sem custos financeiros.

  1. Faça login no Qwiklabs em uma janela anônima.

  2. Confira o tempo de acesso do laboratório (por exemplo, 1:15:00) e finalize todas as atividades nesse prazo.
    Não é possível pausar o laboratório. Você pode reiniciar o desafio, mas vai precisar refazer todas as etapas.

  3. Quando tudo estiver pronto, clique em Começar o laboratório.

  4. Anote as credenciais (Nome de usuário e Senha). É com elas que você vai fazer login no Console do Google Cloud.

  5. Clique em Abrir Console do Google.

  6. Clique em Usar outra conta, depois copie e cole as credenciais deste laboratório nos locais indicados.
    Se você usar outras credenciais, vai receber mensagens de erro ou cobranças.

  7. Aceite os termos e pule a página de recursos de recuperação.

Ative o Google Cloud Shell

O Google Cloud Shell é uma máquina virtual com ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud.

O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

  1. No console do Cloud, clique no botão "Abrir o Cloud Shell" na barra de ferramentas superior direita.

    Ícone do Cloud Shell em destaque

  2. Clique em Continuar.

O provisionamento e a conexão do ambiente podem demorar um pouco. Quando você estiver conectado, já estará autenticado, e o projeto estará definido com seu PROJECT_ID. Exemplo:

ID do projeto em destaque no terminal do Cloud Shell

A gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

  • Para listar o nome da conta ativa, use este comando:
gcloud auth list

Saída:

Credentialed accounts: - @.com (active)

Exemplo de saída:

Credentialed accounts: - google1623327_student@qwiklabs.net
  • Para listar o ID do projeto, use este comando:
gcloud config list project

Saída:

[core] project =

Exemplo de saída:

[core] project = qwiklabs-gcp-44776a13dea667a6 Observação: a documentação completa da gcloud está disponível no guia com informações gerais sobre a gcloud CLI .

Inicie o editor de código do Google Cloud Shell

Use o editor de código do Google Cloud Shell para facilitar a criação e edição de diretórios e arquivos na instância do Cloud Shell.

  • Clique em Abrir editor depois de ativar o Google Cloud Shell.

Botão "Abrir editor"

Agora há três interfaces disponíveis:

  • O editor de código do Cloud Shell
  • O console, que pode ser alternado pelo Cloud Shell quando você clica nas guias correspondentes
  • A linha de comando do Cloud Shell, que você pode acessar clicando em Abrir terminal no Console

Três interfaces: o editor de código do Cloud Shell, o console e a linha de comando do Cloud Shell. Os três em destaque

Verifique as permissões do projeto

Antes de começar a trabalhar no Google Cloud, veja se o projeto tem as permissões corretas no Identity and Access Management (IAM).

  1. No console do Google Cloud, em Menu de navegação (Ícone do menu de navegação), selecione IAM e administrador > IAM.

  2. Confira se a conta de serviço padrão do Compute {project-number}-compute@developer.gserviceaccount.com está na lista e recebeu o papel de editor. O prefixo da conta é o número do projeto, que está no Menu de navegação > Visão geral do Cloud > Painel.

Nome da conta de serviço padrão e status do editor do Compute Engine destacados na página com a guia "Permissões"

Observação: se a conta não estiver no IAM ou não tiver o papel de editor, siga as etapas abaixo.
  1. No console do Google Cloud, em Menu de navegação, clique em Visão geral do Cloud > Painel.
  2. Copie o número do projeto, por exemplo, 729328892908.
  3. Em Menu de navegação, clique em IAM e administrador > IAM.
  4. Clique em Permitir acesso, logo abaixo de Visualizar por principais na parte de cima da tabela de papéis.
  5. Em Novos principais, digite:
{número-do-projeto}-compute@developer.gserviceaccount.com
  1. Substitua {project-number} pelo número do seu projeto.
  2. Em Papel, selecione Projeto (ou Básico) > Editor.
  3. Clique em Save.

Tarefa 1: Preparações de Laboratório

Etapas específicas devem ser concluídas para executar este laboratório com êxito:

  • Crie o bucket do Cloud Storage (que foi concluído automaticamente quando o ambiente de laboratório foi iniciado)

  • Clonagem do repositório github no Cloud Shell

git clone https://github.com/GoogleCloudPlatform/training-data-analyst
  • Upgrade dos pacotes e instalação do Apache Beam

cd training-data-analyst/courses/data_analysis/lab2/python
sudo ./install_packages.sh

Tarefa 2: identifique as operações Map e Reduce

  1. No editor de código do Cloud Shell, navegue até o diretório /training-data-analyst/courses/data_analysis/lab2/python e visualize o arquivo is_popular.py no editor do Cloud Shell. Não faça alterações no código.

Como alternativa, visualize o arquivo com o nano. Não faça alterações no código.

cd ~/training-data-analyst/courses/data_analysis/lab2/python
nano is_popular.py

Você sabe responder a estas perguntas sobre o arquivo is_popular.py?

  • Quais argumentos personalizados estão definidos?

  • Qual é o prefixo de resposta padrão?

  • Como a variável output_prefix está definida em main()?

  • Como os argumentos do pipeline, como --runner, estão definidos?

  • Quais são as principais etapas no pipeline?

  • Quais dessas etapas acontecem paralelamente?

  • Quais delas são agregações?

Tarefa 3: execute o pipeline

  1. Execute o pipeline localmente:

cd ~/training-data-analyst/courses/data_analysis/lab2/python
python3 ./is_popular.py
  1. Identifique o arquivo de saída. Esse arquivo deve ser output<suffix> e pode estar fragmentado.

ls -al /tmp
  1. Examine o arquivo de saída, substituindo '-*' pelo sufixo apropriado.

cat /tmp/output-*

Tarefa 4: use parâmetros da linha de comando

  1. Altere o prefixo de saída do valor padrão:

python3 ./is_popular.py --output_prefix=/tmp/myoutput
  1. Qual será o nome do novo arquivo criado?

  2. Observe que agora temos um novo arquivo no diretório /tmp:

ls -lrt /tmp/myoutput*

Finalize o laboratório

Clique em Terminar o laboratório após a conclusão. O Google Cloud Ensina remove os recursos usados e limpa a conta por você.

Você vai poder avaliar sua experiência no laboratório. Basta selecionar o número de estrelas, digitar um comentário e clicar em Enviar.

O número de estrelas indica o seguinte:

  • 1 estrela = muito insatisfeito
  • 2 estrelas = insatisfeito
  • 3 estrelas = neutro
  • 4 estrelas = satisfeito
  • 5 estrelas = muito satisfeito

Feche a caixa de diálogo se não quiser enviar feedback.

Para enviar seu feedback, fazer sugestões ou correções, use a guia Suporte.

Copyright 2026 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de empresas e produtos podem ser marcas registradas das empresas a que estão associados.

Antes de começar

  1. Os laboratórios criam um projeto e recursos do Google Cloud por um período fixo
  2. Os laboratórios têm um limite de tempo e não têm o recurso de pausa. Se você encerrar o laboratório, vai precisar recomeçar do início.
  3. No canto superior esquerdo da tela, clique em Começar o laboratório

Usar a navegação anônima

  1. Copie o nome de usuário e a senha fornecidos para o laboratório
  2. Clique em Abrir console no modo anônimo

Fazer login no console

  1. Faça login usando suas credenciais do laboratório. Usar outras credenciais pode causar erros ou gerar cobranças.
  2. Aceite os termos e pule a página de recursos de recuperação
  3. Não clique em Terminar o laboratório a menos que você tenha concluído ou queira recomeçar, porque isso vai apagar seu trabalho e remover o projeto

Este conteúdo não está disponível no momento

Você vai receber uma notificação por e-mail quando ele estiver disponível

Ótimo!

Vamos entrar em contato por e-mail se ele ficar disponível

Um laboratório por vez

Confirme para encerrar todos os laboratórios atuais e iniciar este

Use a navegação anônima para executar o laboratório

A melhor maneira de executar este laboratório é usando uma janela de navegação anônima ou privada. Isso evita conflitos entre sua conta pessoal e a conta de estudante, o que poderia causar cobranças extras na sua conta pessoal.