GSP1210

Visão geral

Este laboratório apresenta o Gemini, uma família de modelos multimodais de IA generativa desenvolvidos pelo Google. Você vai usar a API Gemini para saber como o Gemini Flash pode entender e gerar respostas com base em texto, imagens e vídeo.

Os recursos multimodais do Gemini permitem:

• analisar imagens: detectar objetos, entender interfaces do usuário, interpretar diagramas e comparar semelhanças e diferenças visuais.
• processar vídeos: gerar descrições, extrair tags e destaques e responder a perguntas sobre o conteúdo do vídeo.

Você vai testar esses recursos em tarefas práticas usando a API Gemini na Vertex AI.

Pré-requisitos

Antes de fazer este laboratório, você precisa saber os seguintes conceitos:

• Noção básica de programação em Python.
• Conceitos gerais sobre APIs.
• Executar códigos Python em um notebook do Jupyter no Vertex AI Workbench.

Objetivos

Neste laboratório, você aprenderá a:

• interagir com a API Gemini na Vertex AI.
• usar o modelo Gemini Flash para analisar imagens e vídeos.
• fornecer ao Gemini comandos de texto, imagem e vídeo para gerar respostas informativas.
• conhecer as aplicações práticas dos recursos multimodais do Gemini.

Configuração e requisitos

Antes de clicar no botão Começar o Laboratório

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima (recomendado) ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.

Observação: use apenas a conta de estudante neste laboratório. Se usar outra conta do Google Cloud, você poderá receber cobranças nela.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento. No painel Detalhes do Laboratório, à esquerda, você vai encontrar o seguinte:

   • O botão Abrir Console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer Login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Username"}}}

   Você também encontra o nome de usuário no painel Detalhes do Laboratório.

4. Clique em Próxima.

5. Copie a Senha abaixo e cole na caixa de diálogo de Olá.

   {{{user_0.password | "Password"}}}

   Você também encontra a senha no painel Detalhes do Laboratório.

6. Clique em Próxima.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.

Tarefa 1: abrir o notebook no Vertex AI Workbench

1. No menu de navegação () do console do Google Cloud, clique em Vertex AI > Workbench.

2. Ache a instância e clique no botão Abrir o JupyterLab.

A interface do JupyterLab para sua instância do Workbench é aberta em uma nova guia do navegador.

Tarefa 2: configurar o notebook

1. Abra o arquivo .

2. Na caixa de diálogo Selecionar Kernel, escolha Python 3 na lista de kernels disponíveis.

3. Execute as seções Vamos começar e Importar bibliotecas do notebook.

   • Para ID do projeto, use , e em Local, use .

Observação: é possível pular as células do notebook que tenham a indicação Somente Colab. Se você receber uma resposta 429 de uma das execuções de células do notebook, aguarde 1 minuto antes de executar a célula novamente para prosseguir.

Tarefa 3: usar o modelo Gemini Flash

O Gemini Flash é um modelo multimodal compatível com comandos multimodais. É possível incluir textos, imagens e vídeos nos comandos e receber respostas em texto ou código.

Nesta tarefa, execute as células do notebook para entender como usar o modelo Gemini Flash. Volte aqui para verificar seu progresso à medida que concluir os objetivos.

Compreensão de imagens em várias imagens

Um dos recursos do Gemini é a capacidade de fazer avaliações de várias imagens. Neste exemplo, você vai usar o Gemini para calcular o custo total de uma compra de mercado usando uma imagem de frutas e uma lista de preços.

Analise a seção Compreensão de imagens em várias imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão de imagens em várias imagens

Compreensão de telas e interfaces

O Gemini também pode extrair informações de telas de dispositivos, interfaces, capturas de tela, ícones e layouts. Neste exemplo, você vai usar o Gemini para extrair informações sobre um fogão para ajudar um usuário a navegar na interface e responder em diferentes idiomas:

Analise a seção Compreensão de telas e interfaces do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão de telas e interfaces

Compreensão dos relacionamentos de entidades em diagramas técnicos

O Gemini tem recursos multimodais que permitem que ele compreenda diagramas e tome medidas práticas, como otimização ou geração de códigos. Neste exemplo, você vai saber como o Gemini decifra um diagrama de relacionamento de entidades (ER, na sigla em inglês), entender as relações entre tabelas, identificar requisitos para otimização em um ambiente específico como o BigQuery e até mesmo gerar o código correspondente.

Analise a seção Understanding entity relationships in technical diagrams do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Compreensão dos relacionamentos de entidades em diagramas técnicos

Recomendações com base em várias imagens

O Gemini é capaz de comparar imagens e oferecer recomendações. Isso pode ser útil em setores como e-commerce e varejo. Neste exemplo, você vai usar o Gemini para recomendar os óculos mais adequados para um rosto com formato oval.

Analise a seção Recomendações com base em várias imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Recomendações com base em várias imagens

Semelhanças/diferenças

O Gemini pode comparar imagens e identificar semelhanças ou diferenças entre objetos. Neste exemplo, você vai usar o Gemini para comparar duas imagens do mesmo local e identificar as diferenças entre elas.

Analise a seção Semelhanças/diferenças do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Semelhanças/diferenças

Geração de descrições de vídeos

O Gemini pode gerar a descrição de um vídeo. Neste exemplo, você vai usar o Gemini para gerar a descrição de um vídeo da costa do mar Mediterrâneo.

Confira a seção Geração de descrições de vídeos do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Geração de descrições de vídeos

Extração de tags de objetos de vídeos

O Gemini também é capaz de extrair tags em um vídeo. Neste exemplo, você vai usar o Gemini para extrair tags de objetos em um vídeo de uma sessão de fotos e gerar hashtags.

Confira a seção Extração de tags de objetos de vídeos do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Extração de tags de objetos de vídeos

Fazer mais perguntas sobre um vídeo

O Gemini pode responder perguntas sobre um vídeo. Neste exemplo, você vai usar o Gemini para responder perguntas sobre o vídeo e retornar uma resposta JSON.

Confira a seção Fazer mais perguntas sobre um vídeo do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Fazer mais perguntas sobre um vídeo

Recuperar mais informações, além das que estão no vídeo

O Gemini também pode recuperar mais informações, além das que aparecem no vídeo. Neste exemplo, você vai usar o Gemini para recuperar informações extras sobre o vídeo, como fazer perguntas específicas sobre o trajeto de um trem.

Confira a seção Recuperar mais informações, além das que estão no vídeo do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Recuperar mais informações, além das que estão no vídeo

Parabéns!

Você concluiu o laboratório. Nele, você aprendeu a usar a API Gemini na Vertex AI para gerar texto a partir de comandos com textos e imagens.

Próximas etapas / Saiba mais

Confira os recursos a seguir para saber mais sobre o Gemini:

• Visão geral do Gemini
• IA generativa na documentação da Vertex AI
• IA generativa no YouTube
• Confira o manual da Vertex AI para acessar uma galeria selecionada e pesquisável de notebooks da IA generativa.
• Conheça outros notebooks e exemplos no Repositório da IA generativa do Google Cloud (em inglês).

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 25 de março de 2025

Laboratório testado em 25 de março de 2025

Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.