GSP1210

Überblick

In diesem Lab lernen Sie Gemini kennen, eine Familie von multimodalen generativen KI-Modellen, die von Google entwickelt wurden. Mithilfe der Gemini API erkunden Sie, wie Gemini Flash Antworten anhand von Texten, Bildern und Videos verstehen und generieren kann.

Die multimodalen Funktionen von Gemini ermöglichen Folgendes:

• Bilder analysieren: Objekte erkennen, Benutzeroberflächen verstehen, Diagramme interpretieren und visuelle Ähnlichkeiten und Unterschiede vergleichen.
• Videos verarbeiten: Beschreibungen generieren, Tags und Highlights extrahieren und Fragen zu Videoinhalten beantworten.

Sie testen diese Funktionen mit der Gemini API in Vertex AI anhand praktischer Aufgaben.

Vorbereitung

Für dieses Lab sollten Sie folgende Konzepte kennen:

• Grundlegende Kenntnisse der Programmierung mit Python
• Grundlegende API-Konzepte
• Ausführen von Python-Code in einem Jupyter-Notebook in Vertex AI Workbench

Lernziele

Aufgaben in diesem Lab:

• Mit der Gemini API in Vertex AI interagieren
• Verwenden Sie das Gemini Flash-Modell, um Bilder und Videos zu analysieren.
• Sie können Text-, Bild- und Video-Prompts in Gemini eingeben, um informative Antworten zu generieren.
• Sie lernen praktische Anwendungen der multimodalen Funktionen von Gemini kennen.

Einrichtung und Anforderungen

Vor dem Klick auf „Start Lab“ (Lab starten)

Lesen Sie diese Anleitung. Labs sind zeitlich begrenzt und können nicht pausiert werden. Der Timer beginnt zu laufen, wenn Sie auf Lab starten klicken, und zeigt Ihnen, wie lange Google Cloud-Ressourcen für das Lab verfügbar sind.

In diesem praxisorientierten Lab können Sie die Lab-Aktivitäten in einer echten Cloud-Umgebung durchführen – nicht in einer Simulations- oder Demo-Umgebung. Dazu erhalten Sie neue, temporäre Anmeldedaten, mit denen Sie für die Dauer des Labs auf Google Cloud zugreifen können.

Für dieses Lab benötigen Sie Folgendes:

• Einen Standardbrowser (empfohlen wird Chrome)

Hinweis: Nutzen Sie den privaten oder Inkognitomodus (empfohlen), um dieses Lab durchzuführen. So wird verhindert, dass es zu Konflikten zwischen Ihrem persönlichen Konto und dem Teilnehmerkonto kommt und zusätzliche Gebühren für Ihr persönliches Konto erhoben werden.

• Zeit für die Durchführung des Labs – denken Sie daran, dass Sie ein begonnenes Lab nicht unterbrechen können.

Hinweis: Verwenden Sie für dieses Lab nur das Teilnehmerkonto. Wenn Sie ein anderes Google Cloud-Konto verwenden, fallen dafür möglicherweise Kosten an.

Lab starten und bei der Google Cloud Console anmelden

1. Klicken Sie auf Lab starten. Wenn Sie für das Lab bezahlen müssen, wird ein Dialogfeld geöffnet, in dem Sie Ihre Zahlungsmethode auswählen können. Auf der linken Seite befindet sich der Bereich „Details zum Lab“ mit diesen Informationen:

   • Schaltfläche „Google Cloud Console öffnen“
   • Restzeit
   • Temporäre Anmeldedaten für das Lab
   • Ggf. weitere Informationen für dieses Lab

2. Klicken Sie auf Google Cloud Console öffnen (oder klicken Sie mit der rechten Maustaste und wählen Sie Link in Inkognitofenster öffnen aus, wenn Sie Chrome verwenden).

   Im Lab werden Ressourcen aktiviert. Anschließend wird ein weiterer Tab mit der Seite „Anmelden“ geöffnet.

   Tipp: Ordnen Sie die Tabs nebeneinander in separaten Fenstern an.

   Hinweis: Wird das Dialogfeld Konto auswählen angezeigt, klicken Sie auf Anderes Konto verwenden.

3. Kopieren Sie bei Bedarf den folgenden Nutzernamen und fügen Sie ihn in das Dialogfeld Anmelden ein.

   {{{user_0.username | "Username"}}}

   Sie finden den Nutzernamen auch im Bereich „Details zum Lab“.

4. Klicken Sie auf Weiter.

5. Kopieren Sie das folgende Passwort und fügen Sie es in das Dialogfeld Willkommen ein.

   {{{user_0.password | "Password"}}}

   Sie finden das Passwort auch im Bereich „Details zum Lab“.

6. Klicken Sie auf Weiter.

   Wichtig: Sie müssen die für das Lab bereitgestellten Anmeldedaten verwenden. Nutzen Sie nicht die Anmeldedaten Ihres Google Cloud-Kontos. Hinweis: Wenn Sie Ihr eigenes Google Cloud-Konto für dieses Lab nutzen, können zusätzliche Kosten anfallen.

7. Klicken Sie sich durch die nachfolgenden Seiten:

   • Akzeptieren Sie die Nutzungsbedingungen.
   • Fügen Sie keine Wiederherstellungsoptionen oder Zwei-Faktor-Authentifizierung hinzu (da dies nur ein temporäres Konto ist).
   • Melden Sie sich nicht für kostenlose Testversionen an.

Nach wenigen Augenblicken wird die Google Cloud Console in diesem Tab geöffnet.

Hinweis: Wenn Sie auf Google Cloud-Produkte und ‑Dienste zugreifen möchten, klicken Sie auf das Navigationsmenü oder geben Sie den Namen des Produkts oder Dienstes in das Feld Suchen ein.

Aufgabe 1: Notebook in Vertex AI Workbench öffnen

1. Klicken Sie in der Google Cloud Console im Navigationsmenü () auf Vertex AI > Workbench.

2. Suchen Sie die Instanz und klicken Sie auf JupyterLab öffnen.

Die JupyterLab-Oberfläche für Ihre Workbench-Instanz wird in einem neuen Browsertab geöffnet.

Aufgabe 2: Notebook einrichten

1. Öffnen Sie die -Datei.

2. Wählen Sie im Dialogfeld Kernel auswählen in der Liste der verfügbaren Kernel die Option Python 3 aus.

3. Gehen Sie die Abschnitte Erste Schritte und Bibliotheken importieren des Notebooks durch.

   • Verwenden Sie als Projekt-ID den Wert und als Standort die Option .

Hinweis: Notebookzellen mit dem Hinweis Nur Colab können Sie überspringen. Wenn Sie bei der Ausführung einer der Notebook-Zellen eine 429-Antwort erhalten, warten Sie eine Minute, bevor Sie die Zelle noch einmal ausführen und dann fortfahren.

Aufgabe 3: Gemini Flash-Modell verwenden

Gemini Flash ist ein multimodales Modell, das multimodale Prompts unterstützt. Sie können Texte, Bilder und Videos in Ihre Prompts einfügen und erhalten Text‑ oder Codeantworten.

In dieser Aufgabe gehen Sie die Notebookzellen durch und lernen, wie Sie das Gemini Flash-Modell verwenden können. Sie können immer wieder hierher zurückkehren, um Ihren Fortschritt beim Erreichen der Ziele zu sehen.

Bildverständnis über mehrere Bilder hinweg

Gemini ist unter anderem in der Lage, über mehrere Bilder hinweg Schlussfolgerungen zu ziehen. In diesem Beispiel berechnen Sie mit Gemini die Gesamtkosten von Lebensmitteln anhand eines Bildes mit Früchten und einer Preisliste.

Durchlaufen Sie im Notebook den Abschnitt Bildverständnis über mehrere Bilder hinweg.

Klicken Sie auf Fortschritt prüfen. Bildverständnis über mehrere Bilder hinweg

Bildschirme und Benutzeroberflächen verstehen

Gemini kann auch Informationen aus Gerätebildschirmen, Benutzeroberflächen, Screenshots, Symbolen und Layouts extrahieren. In diesem Beispiel holen Sie mit Gemini Informationen über einen Herd ein, um einem Nutzer die Bedienung der Benutzeroberfläche zu erleichtern und in verschiedenen Sprachen zu antworten:

Gehen Sie im Notebook den Abschnitt Bildschirme und Benutzeroberflächen verstehen durch.

Klicken Sie auf Fortschritt prüfen. Bildschirme und Benutzeroberflächen verstehen

Entitätsbeziehungen in einem technischen Diagramm verstehen

Gemini verfügt über multimodale Fähigkeiten, mit denen es Diagramme analysieren und konkrete Maßnahmen ergreifen kann, z. B. Optimierung oder Codeerstellung. In diesem Beispiel erfahren Sie, wie Gemini ein Entity-Relationship-Diagramm (ER-Diagramm) entschlüsseln, die Beziehungen zwischen Tabellen verstehen, Anforderungen für die Optimierung in einer bestimmten Umgebung wie BigQuery ermitteln und sogar entsprechenden Code erzeugen kann.

Gehen Sie im Notebook den Abschnitt Entitätsbeziehungen in einem technischen Diagramm verstehen durch.

Klicken Sie auf Fortschritt prüfen. Entitätsbeziehungen in einem technischen Diagramm verstehen

Empfehlungen auf der Grundlage mehrerer Bilder

Gemini kann Bilder vergleichen und Empfehlungen geben. Dies ist im E-Commerce wie im Einzelhandel besonders nützlich. In diesem Beispiel geben Sie mit Gemini eine Empfehlung ab, welche Brille sich besser für eine ovale Gesichtsform eignet.

Gehen Sie im Notebook den Abschnitt Empfehlungen auf der Grundlage mehrerer Bilder durch.

Klicken Sie auf Fortschritt prüfen. Empfehlungen auf der Grundlage mehrerer Bilder

Ähnlichkeiten/Unterschiede

Gemini kann Bilder vergleichen und Ähnlichkeiten sowie Unterschiede zwischen Gegenständen erkennen. In diesem Beispiel vergleichen Sie mit Gemini zwei Bilder desselben Ortes und ermitteln die Unterschiede zwischen ihnen.

Gehen Sie im Notebook den Abschnitt Ähnlichkeiten/Unterschiede durch.

Klicken Sie auf Fortschritt prüfen. Ähnlichkeiten/Unterschiede

Videobeschreibung erstellen

Gemini kann eine Beschreibung für ein Video erstellen. In diesem Beispiel erstellen Sie mit Gemini eine Beschreibung zu einem Video, das eine Küstenlandschaft am Mittelmeer zeigt.

Gehen Sie im Notebook den Abschnitt Videobeschreibung erstellen durch.

Klicken Sie auf Fortschritt prüfen. Videobeschreibung erstellen

Tags von Gegenständen in einem Video extrahieren

Gemini kann auch Tags in einem Video extrahieren. In diesem Beispiel extrahieren Sie mit Gemini Tags von Gegenständen im Video eines Fotoshootings und erstellen daraus Hashtags.

Gehen Sie im Notebook den Abschnitt Tags von Gegenständen in einem Video extrahieren durch.

Klicken Sie auf Fortschritt prüfen. Tags von Gegenständen in einem Video extrahieren

Weitere Fragen zu einem Video stellen

Gemini kann Fragen zu einem Video beantworten. In diesem Beispiel beantworten Sie mit Gemini Fragen zu einem Video und geben eine JSON-Antwort zurück.

Gehen Sie im Notebook den Abschnitt Weitere Fragen zu einem Video stellen durch.

Klicken Sie auf Fortschritt prüfen. Weitere Fragen zu einem Video stellen

Zusätzliche Informationen über das Video hinaus erhalten

Gemini kann auch zusätzliche Informationen über das Video hinaus abrufen. In diesem Beispiel rufen Sie mit Gemini zusätzliche Informationen über ein Video ab, z. B. durch konkrete Fragen zu einer Eisenbahnstrecke.

Gehen Sie im Notebook den Abschnitt Zusätzliche Informationen über das Video hinaus abrufen durch.

Klicken Sie auf Fortschritt prüfen. Zusätzliche Informationen über das Video hinaus abrufen

Glückwunsch!

Sie haben das Lab erfolgreich abgeschlossen. In diesem Lab haben Sie gelernt, wie Sie mit der Gemini API in Vertex AI Antworten aus Text- und Bild-Prompts generieren können.

Weitere Informationen

In den folgenden Ressourcen finden Sie weitere Informationen zu Gemini:

• Überblick: Gemini
• Dokumentation: Generative KI in Vertex AI
• Generative KI auf YouTube
• Im Vertex AI Cookbook finden Sie ausgewählte und durchsuchbare Notebooks zu generativer KI.
• Weitere Notebooks und Beispiele wurden im Repository „Google Cloud Generative AI“ zusammengestellt.

Google Cloud-Schulungen und -Zertifizierungen

In unseren Schulungen erfahren Sie alles zum optimalen Einsatz unserer Google Cloud-Technologien und können sich entsprechend zertifizieren lassen. Unsere Kurse vermitteln technische Fähigkeiten und Best Practices, damit Sie möglichst schnell mit Google Cloud loslegen und Ihr Wissen fortlaufend erweitern können. Wir bieten On-Demand-, Präsenz- und virtuelle Schulungen für Anfänger wie Fortgeschrittene an, die Sie individuell in Ihrem eigenen Zeitplan absolvieren können. Mit unseren Zertifizierungen weisen Sie nach, dass Sie Experte im Bereich Google Cloud-Technologien sind.

Anleitung zuletzt am 25. März 2025 aktualisiert

Lab zuletzt am 25. März 2025 getestet

© 2025 Google LLC. Alle Rechte vorbehalten. Google und das Google-Logo sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen können Marken der jeweils mit ihnen verbundenen Unternehmen sein.