GSP1264

總覽

在 Vertex AI 建立基準後，即可運用生成式文字模型，根據自有文件和資料生成內容。這項功能也能讓模型在執行階段存取訓練資料以外的資訊。模型回覆內容如果使用 Google 搜尋結果或 Vertex AI Search 資料儲存庫做為基準，便能生成更準確、符合現況且相關的回覆。

建立基準有下列優點：

減少模型幻覺 (模型生成內容與事實不符) 模型可根據特定資訊、文件和資料來源生成回覆 提高生成內容的可信度、準確率和適用性

您可以在 Vertex AI 設定兩種不同的基準來源：

1. Google 搜尋結果：已建立索引的公開資料。

• 如要在正式版應用程式中使用這項服務，必須一併採用 Google 搜尋進入點。

2. Vertex AI Search 資料儲存庫：當中含有網站、非結構化或結構化等不同形式的自有資料。

Gemini

Gemini 是由 Google DeepMind 開發的一系列強大生成式 AI 模型，可以解讀及生成文字、程式碼、圖像、音訊和影片等多種形式的內容。

在 Vertex AI 使用 Gemini API

Vertex AI 中的 Gemini API 提供統一的介面，讓開發人員輕鬆與 Gemini 模型互動，將強大的 AI 功能整合至自家應用程式。如要瞭解最新資訊和最新版本的特定功能，請參閱官方的 Gemini 說明文件。

Gemini 模型

• Gemini Pro：適用於下列複雜的推論作業：
  • 分析及總結大量資訊。
  • 進行精細的跨模態 (文字、程式碼、圖像等) 推論。
  • 運用內容豐富的程式碼集有效解決問題。
• Gemini Flash：速度和效率最優異，具備下列優勢：
  • 回覆時間不到一秒，處理量高。
  • 品質高、費用較為低廉，適合各種工作。
  • 具備經過強化的多模態功能，包括更強大的空間理解能力、新的輸出模態 (文字、音訊、圖像)，並能使用原生工具，例如使用 Google 搜尋，以及執行程式碼和第三方函式。

事前準備

開始這個實驗室之前，您應已熟悉下列概念：

• 基本 Python 程式設計。
• 一般 API 概念。
• 在 Vertex AI Workbench 使用 Jupyter 筆記本執行 Python 程式碼。

目標

本實驗室的內容包括：

• 根據 Google 搜尋結果生成 LLM 文字和對話模型回覆。
• 比較有無建立基準的 LLM 回覆結果。
• 在 Vertex AI Search 建立及使用資料儲存庫，以自訂文件和資料做為回覆基準。
• 根據 Vertex AI Search 搜尋結果生成 LLM 文字和對話模型回覆。

設定和需求

瞭解以下事項後，再點選「Start Lab」按鈕

請詳閱以下操作說明。實驗室活動會計時，且中途無法暫停。點選「Start Lab」後就會開始計時，顯示可使用 Google Cloud 資源的時間。

您將在真正的雲端環境完成實作實驗室活動，而不是模擬或示範環境。為此，我們會提供新的暫時憑證，供您在實驗室活動期間登入及存取 Google Cloud。

為了順利完成這個實驗室，請先確認：

• 可以使用標準的網際網路瀏覽器 (Chrome 瀏覽器為佳)。

注意事項：請使用無痕模式 (建議選項) 或私密瀏覽視窗執行此實驗室，這可以防止個人帳戶和學員帳戶之間的衝突，避免個人帳戶產生額外費用。

• 是時候完成實驗室活動了！別忘了，活動一旦開始將無法暫停。

注意事項：務必使用實驗室專用的學員帳戶。如果使用其他 Google Cloud 帳戶，可能會產生額外費用。

如何開始研究室及登入 Google Cloud 控制台

1. 點選「Start Lab」按鈕。如果實驗室會產生費用，畫面上會出現選擇付款方式的對話方塊。左側的「Lab Details」窗格會顯示下列項目：

   • 「Open Google Cloud console」按鈕
   • 剩餘時間
   • 必須在這個研究室中使用的臨時憑證
   • 完成這個實驗室所需的其他資訊 (如有)

2. 點選「Open Google Cloud console」；如果使用 Chrome 瀏覽器，也能按一下滑鼠右鍵，選取「在無痕視窗中開啟連結」。

   接著，實驗室會啟動相關資源，並開啟另一個分頁，顯示「登入」頁面。

   提示：您可以在不同的視窗中並排開啟分頁。

   注意：如果頁面中顯示「選擇帳戶」對話方塊，請點選「使用其他帳戶」。

3. 如有必要，請將下方的 Username 貼到「登入」對話方塊。

   {{{user_0.username | "Username"}}}

   您也可以在「Lab Details」窗格找到 Username。

4. 點選「下一步」。

5. 複製下方的 Password，並貼到「歡迎使用」對話方塊。

   {{{user_0.password | "Password"}}}

   您也可以在「Lab Details」窗格找到 Password。

6. 點選「下一步」。

   重要事項：請務必使用實驗室提供的憑證，而非自己的 Google Cloud 帳戶憑證。 注意：如果使用自己的 Google Cloud 帳戶來進行這個實驗室，可能會產生額外費用。

7. 按過後續的所有頁面：

   • 接受條款及細則。
   • 由於這是臨時帳戶，請勿新增救援選項或雙重驗證機制。
   • 請勿申請免費試用。

Google Cloud 控制台稍後會在這個分頁開啟。

注意：如要使用 Google Cloud 產品和服務，請點選「導覽選單」，或在「搜尋」欄位輸入服務或產品名稱。

工作 1：開啟 Vertex AI Workbench 中的筆記本

1. 前往 Google Cloud 控制台，依序點按「導覽選單」圖示 >「Vertex AI」>「Workbench」。

2. 找出 執行個體，點按「Open JupyterLab」按鈕。

Workbench 執行個體的 JupyterLab 介面會在新瀏覽器分頁中開啟。

工作 2：設定筆記本

1. 開啟 檔案。

2. 出現「Select Kernel」對話方塊時，從可用核心清單中選取「Python 3」。

3. 完成筆記本的「Getting Started」和「Import libraries」部分。

   • 「專案 ID」請使用 ，「位置」則請使用 。

注意事項：您可以略過標有「Colab only」字樣的筆記本儲存格。如果執行筆記本儲存格後出現 429 回應，稍候 1 分鐘再重新執行儲存格，應該就能繼續操作。

點選「Check my progress」，確認目標已達成。 安裝套件並匯入程式庫。

工作 3：運用 Google 搜尋結果建立基準

1. 執行筆記本的「示例：運用 Google 搜尋結果建立基準」(Example: Grounding with Google Search results) 部分。

點選「Check my progress」，確認目標已達成。 運用 Google 搜尋結果建立基準。

工作 4：建立 Vertex AI 資料儲存庫

在這個部分，您會在 Cloud 控制台建立 Vertex AI 資料儲存庫。

1. 在頂端搜尋框輸入 AI Applications，然後點選搜尋結果中的「AI Applications」。

2. 在「Welcome to AI Applications」到達網頁，點選「CONTINUE AND ACTIVATE THE API」。

3. 依序前往「資料儲存庫」>「建立資料儲存庫」頁面。

4. 在「選取資料來源」窗格，選取「網站內容」。

5. 在「指定資料儲存庫的網站」窗格，確認「進階網站索引建立功能」為停用狀態。

6. 在「要包含的網站」欄位，輸入下列內容：

cloud.google.com/generative-ai-app-builder/*

7. 點選「繼續」。

8. 在「設定資料儲存庫」窗格，選取「global (Global)」做為資料儲存庫的位置。

9. 輸入資料儲存庫的名稱。記下系統產生的 ID，稍後會用到這項資訊。

10. 點選「建立」。

點選「Check my progress」，確認目標已達成。 建立 Vertex AI 資料儲存庫。

工作 5：建立 Vertex AI Search 應用程式

在這個部分，您會在 Cloud 控制台建立 Vertex AI Search 應用程式。

1. 依序前往「應用程式」>「建立應用程式」頁面。

2. 在「建立應用程式」頁面，點選「網站搜尋功能」下方的「建立」。

3. 確認「Enterprise 版功能」為啟用狀態。

4. 在「應用程式名稱」欄位，輸入應用程式名稱。應用程式 ID 會顯示在應用程式名稱下方。

5. 在「貴公司或貴組織的外部名稱」欄位，輸入公司或組織名稱。這個應用程式會搜尋 Google Cloud 網站，因此在本教學課程中，您可以使用 Google Cloud。

6. 選取「global (Global)」做為應用程式的位置，然後點選「繼續」。

7. 從資料儲存庫清單選取先前建立的資料儲存庫，然後點選「建立」。

注意：資料儲存庫建立完畢後，請稍候至少 5 分鐘，應用程式需為要搜尋的網站建立索引。等索引建立完成後，即可執行筆記本後續的儲存格。

點選「Check my progress」，確認目標已達成。 建立 Vertex AI Search 應用程式。

工作 6：運用自訂文件和資料建立基準

1. 執行筆記本的「示例：運用自訂文件和資料建立基準」(Example: Grounding with custom documents and data) 部分。如有需要，請使用先前工作中建立的資料儲存庫 ID。

點選「Check my progress」，確認目標已達成。 運用自訂文件和資料建立基準。

工作 7：已建立基準的對話回覆

1. 執行筆記本的「示例：已建立基準的對話回覆」(Example: Grounded chat responses) 部分。

點選「Check my progress」，確認目標已達成。 已建立基準的對話回覆。

恭喜！

在本實驗室中，您已學會如何運用 Google 搜尋結果和自訂資料來源，為大型語言模型 (LLM) 建立基準。您比較了有無建立基準的 LLM 回覆，並確認建立基準後，回覆品質和準確率明顯較佳。此外，您也獲得實務經驗，運用 Vertex AI Search 資料儲存庫，以自己的文件和資料做為 LLM 文字和對話模型的基準。

後續行動/瞭解詳情

歡迎參考下列資源，進一步瞭解 Gemini：

• Gemini 簡介
• Vertex AI 生成式 AI 說明文件
• 透過 YouTube 瞭解生成式 AI
• 探索 Vertex AI 教戰手冊，瀏覽及搜尋眾多精心挑選的生成式 AI 筆記本。
• 前往 Google Cloud 生成式 AI 存放區，查看其他筆記本和範例。

Google Cloud 教育訓練與認證

協助您瞭解如何充分運用 Google Cloud 的技術。我們的課程會介紹專業技能和最佳做法，讓您可以快速掌握要領並持續進修。我們提供從基本到進階等級的訓練課程，並有隨選、線上和虛擬課程等選項，方便您抽空參加。認證可協助您驗證及證明自己在 Google Cloud 技術方面的技能和專業知識。

使用手冊上次更新日期：2025 年 4 月 3 日

實驗室上次測試日期：2025 年 4 月 3 日

Copyright 2025 Google LLC 保留所有權利。Google 和 Google 標誌是 Google LLC 的商標，其他公司和產品名稱則有可能是其關聯公司的商標。