GSP103
Visão geral
O Serviço Gerenciado para Apache Spark é um serviço de nuvem totalmente gerenciado, rápido e fácil de usar que executa clusters do Apache Spark e do Apache Hadoop (links em inglês) de maneira mais simples e econômica. As operações que costumavam levar horas ou dias agora são concluídas em segundos ou minutos. Crie clusters do Serviço Gerenciado para Apache Spark rapidamente e os redimensione a qualquer momento para evitar que seus pipelines de dados excedam os limites dos clusters.
Neste laboratório, você vai aprender a usar o console do Google Cloud para criar um cluster do Apache Spark gerenciado, executar um job simples do Apache Spark no cluster e mudar o número de workers.
Atividades deste laboratório
Neste laboratório, você vai aprender a:
- Criar um cluster do Apache Spark gerenciado no console do Google Cloud
- Executar um job simples do Apache Spark.
- Mudar o número de workers do cluster
Configuração e requisitos
Antes de clicar no botão Começar o Laboratório
Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.
Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.
Confira os requisitos para concluir o laboratório:
- Acesso a um navegador de Internet padrão (recomendamos o Chrome).
Observação: para executar este laboratório, use o modo de navegação anônima (recomendado) ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e de estudante, o que poderia causar cobranças extras na sua conta pessoal.
- Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.
Observação: use apenas a conta de estudante neste laboratório. Se usar outra conta do Google Cloud, você poderá receber cobranças nela.
Como iniciar seu laboratório e fazer login no console do Google Cloud
-
Clique no botão Começar laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento.
À direita, você encontra o painel Configuração e acesso ao laboratório com as seguintes informações:
- O botão Abrir console do Google Cloud
- As credenciais temporárias (nome de usuário e senha) que você vai usar no laboratório
- Outros dados, se necessários
O timer do laboratório fica na parte de cima da página e mostra o tempo restante.
-
Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.
O laboratório ativa os recursos e depois abre a página "Login" em outra guia.
Dica: coloque as guias em janelas separadas lado a lado.
Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.
-
Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Login.
{{{user_0.username | "Username"}}}
Você também encontra o nome de usuário no painel Configuração e acesso ao laboratório.
-
Clique em Avançar.
-
Copie a Senha abaixo e cole na caixa de diálogo Olá!.
{{{user_0.password | "Password"}}}
Você também encontra a senha no painel Configuração e acesso ao laboratório.
-
Clique em Avançar.
Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud.
Observação: se você usar sua própria conta do Google Cloud neste laboratório, talvez receba cobranças adicionais.
-
Acesse as próximas páginas:
- Aceite os Termos e Condições.
- Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
- Não se inscreva em testes sem custo financeiro.
Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.
Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.
Ativar o Cloud Shell
O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.
-
Clique em Ativar o Cloud Shell
na parte de cima do console do Google Cloud.
-
Clique nas seguintes janelas:
- Continue na janela de informações do Cloud Shell.
- Autorize o Cloud Shell a usar suas credenciais para fazer chamadas de APIs do Google Cloud.
Depois de se conectar, você verá que sua conta já está autenticada e que o projeto está configurado com seu Project_ID, . A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:
Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}
A gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.
- (Opcional) É possível listar o nome da conta ativa usando este comando:
gcloud auth list
- Clique em Autorizar.
Saída:
ACTIVE: *
ACCOUNT: {{{user_0.username | "ACCOUNT"}}}
To set the active account, run:
$ gcloud config set account `ACCOUNT`
- (Opcional) É possível listar o ID do projeto usando este comando:
gcloud config list project
Saída:
[core]
project = {{{project_0.project_id | "PROJECT_ID"}}}
Observação: consulte a documentação completa da gcloud no Google Cloud no guia de visão geral da gcloud CLI.
Confirme se a API Cloud Dataproc está ativada
Para criar um cluster do Apache Spark gerenciado no Google Cloud, a API Cloud Dataproc precisa estar ativada. Siga as etapas abaixo para confirmar o status da API:
-
Clique no menu de navegação > APIs e serviços > Biblioteca.
-
Digite API Cloud Dataproc na caixa de diálogo Pesquisar APIs e serviços. O console exibirá a Cloud Dataproc API nos resultados da pesquisa.
-
Clique em Cloud Dataproc API para exibir o status da API. Caso a API ainda não esteja ativada, clique no botão Ativar.
Depois disso, continue com as instruções do laboratório.
Conceder um papel do IAM necessário à conta de serviço do Compute Engine
-
No console do Google Cloud, no menu de navegação (
), selecione IAM e administrador > IAM.
-
Clique em Editar principal (ícone de lápis) para a conta de serviço padrão do Compute Engine ([project-number]-compute@developer.gserviceaccount.com).
-
Clique em + Adicionar outro papel.
-
Em Selecionar um papel, pesquise Admin de armazenamento e selecione essa opção nos resultados.
-
Clique em Salvar.
Tarefa 1: Criar um cluster
- No Cloud Shell, execute o comando abaixo para criar um cluster chamado
example-cluster com VMs e2-standard-2 e discos permanentes padrão de 30 GB:
gcloud dataproc clusters create example-cluster \
--region={{{ project_0.default_region }}} \
--zone={{{ project_0.default_zone }}} \
--master-machine-type=e2-standard-2 \
--master-boot-disk-type=pd-standard \
--master-boot-disk-size=30GB \
--worker-machine-type=e2-standard-2 \
--worker-boot-disk-type=pd-standard \
--worker-boot-disk-size=30GB \
--num-workers=2
- Se for preciso confirmar uma zona ou autorizar o Cloud Shell, digite Y ou clique em Autorizar.
A criação do cluster pode levar alguns minutos. A resposta ao comando mostra Created [... example-cluster] quando o cluster estiver pronto.
Clique em Verificar meu progresso para conferir a tarefa realizada.
Criar um cluster
Tarefa 2: Enviar um job
Para executar um job de exemplo do Spark, faça o seguinte:
- No console do Google Cloud, selecione Menu de navegação (
) > Mostrar todos os produtos e, na seção Análise, clique em Apache Spark gerenciado > Clusters.
O cluster recém-criado example-cluster vai aparecer na lista com o status Em execução.
-
Clique em Jobs no painel à esquerda para abrir a visualização de jobs do Apache Spark gerenciado. Depois clique em Enviar job.
-
Defina os campos a seguir para atualizar o job. Aceite os valores padrão para todos os outros campos:
| Campo |
Valor |
| Região |
|
| Cluster |
example-cluster |
| Tipo de job |
Spark |
| Classe principal ou jar |
org.apache.spark.examples.SparkPi |
| Arquivos jar |
file:///usr/lib/spark/examples/jars/spark-examples.jar |
| Argumentos |
1.000 (define o número de tarefas) |
- Clique em Enviar.
Observação sobre como o job calcula Pi: o job do Spark estima um valor de Pi usando o método de Monte Carlo. Ele gera pontos x,y em um plano de coordenadas que modela um círculo dentro de um quadrado unitário. O argumento de entrada (1.000) determina o número de pares x,y a serem gerados. Quanto mais pares gerados, maior a acurácia da estimativa. Esse cálculo usa nós de worker do Apache Spark gerenciado para fazer o cálculo em paralelo. Para saber mais, leia Como fazer a estimativa de Pi usando o método de Monte Carlo (em inglês) e veja o JavaSparkPi.java no GitHub.
Seu job é exibido na lista Jobs, que mostra os jobs do projeto com os respectivos clusters, tipos e status atuais. O status do job é mostrado como Em execução e, depois que ele termina, como Concluído.
Clique em Verificar meu progresso para conferir a tarefa realizada.
Enviar um job
Tarefa 3: Ver a saída do job
Para ver a saída do job concluído, faça o seguinte:
-
Clique no código da tarefa na lista Jobs.
-
Selecione ATIVADA em QUEBRA DE LINHA ou role até o final à direita para conferir o valor calculado de Pi. A saída com QUEBRA DE LINHA ATIVADA deve ficar assim:

Seu job calculou com sucesso o valor bruto do Pi!
Tarefa 4: Atualizar um cluster para mudar o número de workers
Para alterar o número de instâncias de worker no seu cluster, faça o seguinte:
-
Selecione Clusters no painel de navegação à esquerda para voltar à visualização de clusters do Apache Spark gerenciado.
-
Clique em example-cluster na lista Clusters. Por padrão, a página exibe uma visão geral do uso de CPU do cluster.
-
Clique em Configuração para mostrar as configurações atuais do seu cluster.
-
Clique em Editar. O número de nós de trabalho agora é editável.
-
Digite 4 no campo Nós de trabalho.
-
Clique em Salvar.
Seu cluster foi atualizado. Confira o número de instâncias de VM no cluster.
Clique em Verificar meu progresso para conferir a tarefa realizada.
Atualizar um cluster
-
Para executar novamente o job com o cluster atualizado, clique em Jobs no painel à esquerda e selecione ENVIAR JOB.
-
Preencha os mesmos campos que você definiu na seção Envie um job:
| Campo |
Valor |
| Região |
|
| Cluster |
example-cluster |
| Tipo de job |
Spark |
| Classe principal ou jar |
org.apache.spark.examples.SparkPi |
| Arquivos jar |
file:///usr/lib/spark/examples/jars/spark-examples.jar |
| Argumentos |
1.000 (define o número de tarefas) |
- Clique em Enviar.
Tarefa 5: Testar seu conhecimento
Responda às perguntas de múltipla escolha a seguir para reforçar sua compreensão dos conceitos abordados neste laboratório. Use tudo o que você aprendeu até aqui.
Parabéns!
Agora você sabe como usar o console do Google Cloud para criar e atualizar um cluster do Apache Spark gerenciado e enviar um job nesse cluster.
Próximas etapas / Saiba mais
Este laboratório também faz parte de uma série chamada Qwik Starts. Ela foi desenvolvida para apresentar os vários recursos disponíveis no Google Cloud. Confira a lista de "Qwik Starts" no catálogo de laboratórios para encontrar outro tópico que seja do seu interesse.
Treinamento e certificação do Google Cloud
Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.
Manual atualizado em 27 de agosto de 2026
Laboratório testado em 27 de agosto de 2026
Copyright 2026 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.