GSP1264

Übersicht

Dank der Fundierung in Vertex AI können Sie generative Textmodelle verwenden, um Inhalte auf Basis Ihrer eigenen Dokumente und Daten zu generieren. So kann das Modell zur Laufzeit auf Informationen zugreifen, die über die Trainingsdaten hinausgehen. Durch das Fundieren der Modellantworten mit Google-Suchergebnissen oder Datenspeichern in Vertex AI Search können Large Language Models (LLMs) genauere, aktuellere und relevantere Antworten liefern.

Die Fundierung bietet folgende Vorteile:

- Reduzierung von Modellhalluzinationen (Fälle, in denen das Modell Inhalte generiert, die nicht auf Fakten beruhen) - Verknüpfung von Modellantworten mit bestimmten Informationen, Dokumenten und Datenquellen - Erhöhte Zuverlässigkeit, Accuracy und Anwendbarkeit der generierten Inhalte

Sie können in Vertex AI zwei verschiedene Quellen für die Fundierung konfigurieren:

1. Google-Suchergebnisse für Daten, die öffentlich verfügbar und indexiert sind

• Wenn Sie diesen Dienst in einer Produktionsanwendung einsetzen, müssen Sie auch einen Einstiegspunkt für die Google Suche verwenden.

2. Datenspeicher in Vertex AI Search, die Ihre eigenen Daten in Form von Websitedaten, unstrukturierten oder strukturierten Daten enthalten können

Gemini

Gemini umfasst eine Reihe leistungsstarker generativer KI-Modelle, die von Google DeepMind entwickelt wurden. Diese können verschiedene Formen von Inhalten verstehen und erstellen, darunter Text, Code, Bilder, Audio und Video.

Gemini API in Vertex AI

Die Gemini API in Vertex AI bietet eine einheitliche Benutzeroberfläche für die Interaktion mit Gemini-Modellen. Darüber können Entwickler die leistungsstarken KI-Funktionen ohne viel Aufwand in ihre Anwendungen integrieren. Aktuelle Informationen und besondere Merkmale der neuesten Versionen finden Sie in der offiziellen Dokumentation zu Gemini.

Gemini-Modelle

• Gemini Pro – entwickelt für komplexe Schlussfolgerungen, darunter:
  • Analysieren und Zusammenfassen großer Mengen von Informationen
  • Ausgereifte multimodale Schlussfolgerungen (zu Text, Code, Bildern usw.)
  • Effektive Problemlösung mit komplexer Codebasis
• Gemini Flash – für Geschwindigkeit und Effizienz optimiert, bietet folgende Vorteile:
  • Reaktionszeiten unter einer Sekunde und hoher Durchsatz
  • Hohe Qualität zu niedrigeren Kosten für eine Vielzahl von Aufgaben
  • Erweiterte multimodale Funktionen, einschließlich der Verwendung nativer Tools (Google Suche, Codeausführung und Funktionen von Drittanbietern), verbesserter räumlicher Strukturen und neuer Ausgabemodalitäten (Text, Audio, Bilder)

Vorbereitung

Für dieses Lab sollten Sie folgende Konzepte kennen:

• Grundlegende Kenntnisse der Programmierung mit Python
• Grundlegende API-Konzepte
• Ausführen von Python-Code in einem Jupyter-Notebook in Vertex AI Workbench

Ziele

Aufgaben in diesem Lab:

• Mit einem LLM Text- und Chatantworten generieren, die mit Google-Suchergebnissen fundiert sind
• Ergebnisse nicht fundierter LLM-Antworten mit denen fundierter LLM-Antworten vergleichen
• Datenspeicher in Vertex AI Search erstellen und verwenden, um Antworten mit eigenen Dokumenten und Daten zu fundieren
• Mit einem LLM Text- und Chatantworten generieren, die mit Vertex AI Search-Ergebnissen fundiert sind

Einrichtung und Anforderungen

Vor dem Klick auf „Start Lab“ (Lab starten)

Lesen Sie diese Anleitung. Labs sind zeitlich begrenzt und können nicht pausiert werden. Der Timer beginnt zu laufen, wenn Sie auf Lab starten klicken, und zeigt Ihnen, wie lange Google Cloud-Ressourcen für das Lab verfügbar sind.

In diesem praxisorientierten Lab können Sie die Lab-Aktivitäten in einer echten Cloud-Umgebung durchführen – nicht in einer Simulations- oder Demo-Umgebung. Dazu erhalten Sie neue, temporäre Anmeldedaten, mit denen Sie für die Dauer des Labs auf Google Cloud zugreifen können.

Für dieses Lab benötigen Sie Folgendes:

• Einen Standardbrowser (empfohlen wird Chrome)

Hinweis: Nutzen Sie den privaten oder Inkognitomodus (empfohlen), um dieses Lab durchzuführen. So wird verhindert, dass es zu Konflikten zwischen Ihrem persönlichen Konto und dem Teilnehmerkonto kommt und zusätzliche Gebühren für Ihr persönliches Konto erhoben werden.

• Zeit für die Durchführung des Labs – denken Sie daran, dass Sie ein begonnenes Lab nicht unterbrechen können.

Hinweis: Verwenden Sie für dieses Lab nur das Teilnehmerkonto. Wenn Sie ein anderes Google Cloud-Konto verwenden, fallen dafür möglicherweise Kosten an.

Lab starten und bei der Google Cloud Console anmelden

1. Klicken Sie auf Lab starten. Wenn Sie für das Lab bezahlen müssen, wird ein Dialogfeld geöffnet, in dem Sie Ihre Zahlungsmethode auswählen können. Auf der linken Seite befindet sich der Bereich „Details zum Lab“ mit diesen Informationen:

   • Schaltfläche „Google Cloud Console öffnen“
   • Restzeit
   • Temporäre Anmeldedaten für das Lab
   • Ggf. weitere Informationen für dieses Lab

2. Klicken Sie auf Google Cloud Console öffnen (oder klicken Sie mit der rechten Maustaste und wählen Sie Link in Inkognitofenster öffnen aus, wenn Sie Chrome verwenden).

   Im Lab werden Ressourcen aktiviert. Anschließend wird ein weiterer Tab mit der Seite „Anmelden“ geöffnet.

   Tipp: Ordnen Sie die Tabs nebeneinander in separaten Fenstern an.

   Hinweis: Wird das Dialogfeld Konto auswählen angezeigt, klicken Sie auf Anderes Konto verwenden.

3. Kopieren Sie bei Bedarf den folgenden Nutzernamen und fügen Sie ihn in das Dialogfeld Anmelden ein.

   {{{user_0.username | "Username"}}}

   Sie finden den Nutzernamen auch im Bereich „Details zum Lab“.

4. Klicken Sie auf Weiter.

5. Kopieren Sie das folgende Passwort und fügen Sie es in das Dialogfeld Willkommen ein.

   {{{user_0.password | "Password"}}}

   Sie finden das Passwort auch im Bereich „Details zum Lab“.

6. Klicken Sie auf Weiter.

   Wichtig: Sie müssen die für das Lab bereitgestellten Anmeldedaten verwenden. Nutzen Sie nicht die Anmeldedaten Ihres Google Cloud-Kontos. Hinweis: Wenn Sie Ihr eigenes Google Cloud-Konto für dieses Lab nutzen, können zusätzliche Kosten anfallen.

7. Klicken Sie sich durch die nachfolgenden Seiten:

   • Akzeptieren Sie die Nutzungsbedingungen.
   • Fügen Sie keine Wiederherstellungsoptionen oder Zwei-Faktor-Authentifizierung hinzu (da dies nur ein temporäres Konto ist).
   • Melden Sie sich nicht für kostenlose Testversionen an.

Nach wenigen Augenblicken wird die Google Cloud Console in diesem Tab geöffnet.

Hinweis: Wenn Sie auf Google Cloud-Produkte und ‑Dienste zugreifen möchten, klicken Sie auf das Navigationsmenü oder geben Sie den Namen des Produkts oder Dienstes in das Feld Suchen ein.

Aufgabe 1: Notebook in Vertex AI Workbench öffnen

1. Klicken Sie in der Google Cloud Console im Navigationsmenü () auf Vertex AI > Workbench.

2. Suchen Sie die Instanz und klicken Sie auf JupyterLab öffnen.

Die JupyterLab-Oberfläche für Ihre Workbench-Instanz wird in einem neuen Browsertab geöffnet.

Aufgabe 2: Notebook einrichten

1. Öffnen Sie die -Datei.

2. Wählen Sie im Dialogfeld Kernel auswählen in der Liste der verfügbaren Kernel die Option Python 3 aus.

3. Gehen Sie die Abschnitte Erste Schritte und Bibliotheken importieren des Notebooks durch.

   • Verwenden Sie als Projekt-ID den Wert und als Standort die Option .

Hinweis: Notebookzellen mit dem Hinweis Nur Colab können Sie überspringen. Wenn Sie bei der Ausführung einer der Notebook-Zellen eine 429-Antwort erhalten, warten Sie eine Minute, bevor Sie die Zelle noch einmal ausführen und dann fortfahren.

Klicken Sie auf Fortschritt prüfen. Pakete installieren und Bibliotheken importieren

Aufgabe 3: Fundierung mit Google-Suchergebnissen

1. Führen Sie den Abschnitt Beispiel: Fundierung mit Google-Suchergebnissen im Notebook aus.

Klicken Sie auf Fortschritt prüfen. Fundierung mit Google-Suchergebnissen

Aufgabe 4: Vertex AI-Datenspeicher erstellen

In diesem Abschnitt erstellen Sie einen Vertex AI-Datenspeicher in der Cloud Console.

1. Geben Sie oben im Suchfeld AI Applications ein und wählen Sie aus den Ergebnissen AI Applications aus.

2. Klicken Sie auf der Landingpage Willkommen bei AI Applications auf FORTFAHREN UND API AKTIVIEREN.

3. Rufen Sie die Seite Datenspeicher > Datenspeicher erstellen auf.

4. Wählen Sie im Bereich Datenquelle auswählen die Option Websiteinhalte aus.

5. Achten Sie im Bereich Websites für den Datenspeicher angeben darauf, dass die Option Erweiterte Websiteindexierung deaktiviert ist.

6. Geben Sie im Feld Einzuschließende Websites Folgendes ein:

cloud.google.com/generative-ai-app-builder/*

7. Klicken Sie auf Weiter.

8. Wählen Sie im Bereich Datenspeicher konfigurieren als Standort für den Datenspeicher Global aus.

9. Geben Sie einen Namen für den Datenspeicher ein. Notieren Sie sich die generierte ID. Sie benötigen diese Informationen später.

10. Klicken Sie auf Erstellen.

Klicken Sie auf Fortschritt prüfen. Vertex AI-Datenspeicher erstellen.

Aufgabe 5: Vertex AI Search-Anwendung erstellen

In diesem Abschnitt erstellen Sie eine Vertex AI Search-Anwendung in der Cloud Console.

1. Rufen Sie die Seite Anwendungen > Anwendung erstellen auf.

2. Klicken Sie auf der Seite „Anwendung erstellen“ im Bereich Suche auf Ihrer Website auf die Option Erstellen.

3. Die Features der Enterprise-Version müssen aktiviert sein.

4. Geben Sie im Feld Name der Anwendung einen Namen für die Anwendung ein. Darunter wird die Anwendungs-ID angezeigt.

5. Geben Sie im Feld „Externer Name Ihres Unternehmens oder Ihrer Organisation“ den Namen des Unternehmens oder der Organisation ein. Für diese Aufgabe können Sie Google Cloud verwenden, da die Anwendung auf einer Google Cloud-Website Informationen suchen soll.

6. Wählen Sie als Standort für die Anwendung Global aus und klicken Sie auf Weiter.

7. Wählen Sie in der Liste den Datenspeicher aus, den Sie zuvor erstellt haben, und klicken Sie auf Erstellen.

Hinweis: Nach der Erstellung müssen Sie mindestens fünf Minuten warten, bis die Anwendung die Websites indexiert hat, in denen gesucht werden soll. Warten Sie, bis der Index erstellt wurde, bevor Sie mit den nächsten Zellen des Notebooks fortfahren.

Klicken Sie auf Fortschritt prüfen. Vertex AI Search-Anwendung erstellen

Aufgabe 6: Fundierung mit eigenen Dokumenten und Daten

1. Führen Sie den Abschnitt Beispiel: Fundierung mit eigenen Dokumenten und Daten im Notebook aus. Verwenden Sie bei Bedarf die in den vorherigen Aufgaben erstellte Datenspeicher-ID.

Klicken Sie auf Fortschritt prüfen. Fundierung mit eigenen Dokumenten und Daten

Aufgabe 7: Fundierte Chatantworten

1. Führen Sie den Abschnitt Beispiel: Fundierte Chatantworten im Notebook aus.

Klicken Sie auf Fortschritt prüfen. Fundierte Chatantworten

Glückwunsch!

In diesem Lab haben Sie gelernt, wie Sie Large Language Models (LLMs) sowohl mit der Google Suche als auch mit eigenen Datenquellen fundieren. Der Vergleich fundierter und nicht fundierter LLM-Antworten hat Ihnen gezeigt, welch erhebliche Auswirkungen die Fundierung auf die Antwortqualität und Accuracy hat. Außerdem haben Sie praktische Erfahrung beim Erstellen und Nutzen eines Datenspeichers in Vertex AI Search gesammelt, sodass Sie nun Text- und Chatmodelle mit eigenen Dokumenten und Daten fundieren können.

Weitere Informationen

In den folgenden Ressourcen finden Sie weitere Informationen zu Gemini:

• Überblick: Gemini
• Dokumentation: Generative KI in Vertex AI
• Generative KI auf YouTube
• Im Vertex AI Cookbook finden Sie ausgewählte und durchsuchbare Notebooks zu generativer KI.
• Weitere Notebooks und Beispiele wurden im Repository „Google Cloud Generative AI“ zusammengestellt.

Google Cloud-Schulungen und -Zertifizierungen

In unseren Schulungen erfahren Sie alles zum optimalen Einsatz unserer Google Cloud-Technologien und können sich entsprechend zertifizieren lassen. Unsere Kurse vermitteln technische Fähigkeiten und Best Practices, damit Sie möglichst schnell mit Google Cloud loslegen und Ihr Wissen fortlaufend erweitern können. Wir bieten On-Demand-, Präsenz- und virtuelle Schulungen für Anfänger wie Fortgeschrittene an, die Sie individuell in Ihrem eigenen Zeitplan absolvieren können. Mit unseren Zertifizierungen weisen Sie nach, dass Sie Experte im Bereich Google Cloud-Technologien sind.

Anleitung zuletzt am 3. April 2025 aktualisiert

Lab zuletzt am 3. April 2025 getestet

© 2025 Google LLC. Alle Rechte vorbehalten. Google und das Google-Logo sind Marken von Google LLC. Alle anderen Unternehmens- und Produktnamen können Marken der jeweils mit ihnen verbundenen Unternehmen sein.