GSP1248

總覽

在本實驗室，您將瞭解如何使用匯入的模型 (以 ONNX 格式建立的 PyTorch 模型) 及 Google SQL 查詢，簡化 BigQuery 中的圖片分類工作流程。

身為 Cymbal Media and Entertainment 的新進資料分析師，您負責以匯入的模型和 BigQuery 機器學習執行推論，將野生動物圖片分類。這項專案旨在自動分類圖片、簡化內容創作過程，以及建立更大的野生動物圖片資料庫，供 Cymbal 日後在自家串流平台上製作內容。

ONNX 是用來表示機器學習模型的開放格式。ONNX 定義了通用檔案格式和一組通用運算子 (機器學習和深度學習模型的建構模塊)，讓 AI 開發人員能透過各種框架、工具、執行階段和編譯器來使用模型。

BigQuery 是內建 AI 的全代管資料分析平台，專為多引擎、跨格式和多雲端環境而設計，可充分發揮資料價值。BigQuery 的重要功能之一是利用機器學習技術執行推論，讓您能使用 SQL 查詢建立及執行機器學習模型。

使用 GoogleSQL 查詢執行機器學習模型

一般來說，對大型資料集執行機器學習或人工智慧 (AI) 技術，需要經過大量程式設計，並具備機器學習框架的知識。這讓解決方案的開發僅限於少數公司員工，並排除了瞭解資料但機器學習和程式設計專業知識有限的資料分析師。但透過 BigQuery ML (BigQuery 機器學習)，SQL 從業人員能運用現有的 SQL 知識、技能和工具，以 ONNX 建構模型並生成結果，並儲存在 Cloud Storage bucket，這有助於公司從 MLOps 的角度選用模型及享有彈性，並能擴大機器學習計畫的規模。

圖片資料集

本實驗室使用的圖片來自 Kaggle 的 Animals Detection Images Dataset。

目標

本實驗室的內容包括：

• 建立 Cloud 資源連線。
• 將權限授予連線的服務帳戶。
• 建立 BigQuery 資料集和資料表。
• 將 ONNX 模型匯入 BigQuery。
• 使用匯入的模型分類圖片。

設定和需求

瞭解以下事項後，再點選「Start Lab」按鈕

請詳閱以下操作說明。實驗室活動會計時，且中途無法暫停。點選「Start Lab」後就會開始計時，顯示可使用 Google Cloud 資源的時間。

您將在真正的雲端環境完成實作實驗室活動，而不是模擬或示範環境。為此，我們會提供新的暫時憑證，供您在實驗室活動期間登入及存取 Google Cloud。

為了順利完成這個實驗室，請先確認：

• 可以使用標準的網際網路瀏覽器 (Chrome 瀏覽器為佳)。

注意事項：請使用無痕模式 (建議選項) 或私密瀏覽視窗執行此實驗室，這可以防止個人帳戶和學員帳戶之間的衝突，避免個人帳戶產生額外費用。

• 是時候完成實驗室活動了！別忘了，活動一旦開始將無法暫停。

注意事項：務必使用實驗室專用的學員帳戶。如果使用其他 Google Cloud 帳戶，可能會產生額外費用。

如何開始研究室及登入 Google Cloud 控制台

1. 點選「Start Lab」按鈕。如果實驗室會產生費用，畫面上會出現選擇付款方式的對話方塊。左側的「Lab Details」窗格會顯示下列項目：

   • 「Open Google Cloud console」按鈕
   • 剩餘時間
   • 必須在這個研究室中使用的臨時憑證
   • 完成這個實驗室所需的其他資訊 (如有)

2. 點選「Open Google Cloud console」；如果使用 Chrome 瀏覽器，也能按一下滑鼠右鍵，選取「在無痕視窗中開啟連結」。

   接著，實驗室會啟動相關資源，並開啟另一個分頁，顯示「登入」頁面。

   提示：您可以在不同的視窗中並排開啟分頁。

   注意：如果頁面中顯示「選擇帳戶」對話方塊，請點選「使用其他帳戶」。

3. 如有必要，請將下方的 Username 貼到「登入」對話方塊。

   {{{user_0.username | "Username"}}}

   您也可以在「Lab Details」窗格找到 Username。

4. 點選「下一步」。

5. 複製下方的 Password，並貼到「歡迎使用」對話方塊。

   {{{user_0.password | "Password"}}}

   您也可以在「Lab Details」窗格找到 Password。

6. 點選「下一步」。

   重要事項：請務必使用實驗室提供的憑證，而非自己的 Google Cloud 帳戶憑證。 注意：如果使用自己的 Google Cloud 帳戶來進行這個實驗室，可能會產生額外費用。

7. 按過後續的所有頁面：

   • 接受條款及細則。
   • 由於這是臨時帳戶，請勿新增救援選項或雙重驗證機制。
   • 請勿申請免費試用。

Google Cloud 控制台稍後會在這個分頁開啟。

注意：如要使用 Google Cloud 產品和服務，請點選「導覽選單」，或在「搜尋」欄位輸入服務或產品名稱。

工作 1：建立 Cloud 資源連線

在這項工作中，您會在 BigQuery 建立 Cloud 資源連線，將 Cloud Storage 中的圖片匯入資料集的物件資料表。

注意：建立資源連線時，請使用實驗室指南指定的 Google Cloud 區域。為減少在實驗室出錯的機率，建議您也在同一區域建立資料集。

1. 前往 Google Cloud 控制台，點按「導覽選單」中的「BigQuery」。

2. 接著，畫面會顯示「歡迎使用 BigQuery」彈出式視窗。點選「完成」。

3. 依序點選「+ 新增」和「連線至外部資料來源」來建立連線。

注意：如果沒有看到「+ 新增」和之後出現的「連線至外部資料來源」選項，可以點選「+ 新增資料」，使用資料來源的搜尋列尋找 Vertex AI。點選 Vertex AI 的搜尋結果。

4. 在「連線類型」清單中，選取「Vertex AI 遠端模型、遠端函式和 BigLake (Cloud 資源)」。

5. 在「連線 ID」欄位，輸入 onnx_conn 做為連線名稱。

6. 「位置類型」請選擇「區域」。

7. 「區域」請選擇「」。

8. 點選「建立連線」。

9. 點選「前往連線」。

10. 在 BigQuery Explorer，您也會看到該連線已新增至專案的「外部連線」專區。在「連線資訊」窗格，將服務帳戶 ID 複製到文字檔案，以便在下一項工作中使用。

點選「Check my progress」，確認目標已達成。建立 Cloud 資源連線。

工作 2：查看圖片和檔案，將存取權授予服務帳戶

在這項工作中，您將查看圖片和檔案 (ONNX 模型和 classifier.csv)，並向 Cloud 資源連線的服務帳戶授予 IAM 權限。

查看 Cloud Storage 中的圖片和 ONNX 模型

向資源連線服務帳戶授予權限之前，請先查看儲存在 Cloud Storage bucket 中的圖片、模型和 classifier.csv 檔案。

1. 前往 Google Cloud 控制台的「導覽選單」，依序選取「Cloud Storage」>「bucket」。

2. 點選「-bucket」bucket。

3. 開啟 bucket 中的 gsp1248 資料夾，您會看到三個項目：

   • images 資料夾包含所有要分類的圖片。開啟此資料夾應會顯示獅子、黑天鵝、河馬、美洲黑熊和石蟹的圖片。
   • resnet18.onnx 是模型檔案。您會將此檔案匯入 BigQuery，並在後續工作中使用。
   • classifier.csv 檔案將與模型搭配使用，以透過查詢來分類圖片。

將 IAM 權限授予連線的服務帳戶

請先向資源連線的服務帳戶授予 IAM 權限，再開始使用 BigQuery，確保執行查詢時不會遇到存取遭拒的錯誤。

1. 返回 bucket 根目錄。

2. 點選「權限」。

3. 點選「授予存取權」。

4. 在「新主體」欄位，輸入先前複製的服務帳戶 ID。

5. 在「請選擇角色」欄位輸入「Storage 物件」，然後選取「儲存空間物件管理員」角色。

6. 點選「儲存」。

   現在服務帳戶 ID 會具備儲存空間物件管理員角色。

點選「Check my progress」，確認目標已達成。將 IAM 權限授予連線的服務帳戶

工作 3：在 BigQuery 建立資料集和資料表

在這項工作中，您會建立專案資料集、儲存圖片的物件資料表，以及用於分類清單的資料表。

建立資料集

1. 前往 Google Cloud 控制台，依序選取「導覽選單」圖示 和「BigQuery」。

2. 在「Explorer」面板，選取 的「查看動作」圖示 ，然後選擇「建立資料集」。

   建立資料集，即可儲存資料庫物件，包括資料表和模型。

3. 在「建立資料集」窗格，輸入以下資訊：

   欄位	值
   資料集 ID	onnx_demo
   位置類型 > 區域	選取「」

   其他欄位均保留預設值。

4. 點選「建立資料集」。

   系統會建立 onnx_demo 資料集，並列在 BigQuery Explorer 的專案下方。

建立圖片的物件資料表

建立資料集後，您就能建立物件資料表，並參照 bucket 中的圖片。

您將使用 SQL 查詢來建立物件資料表。

1. 點選「+」圖示，建立新的 SQL 查詢。

2. 在查詢編輯器貼上以下查詢。

   CREATE OR REPLACE EXTERNAL TABLE `onnx_demo.wildlife` WITH CONNECTION `{{{project_0.default_region|lab region}}}.onnx_conn` OPTIONS ( object_metadata = 'SIMPLE', uris = ['gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/images/*'] );

3. 執行查詢。

   wildlife 物件資料表就會新增至 onnx_demo 資料集，並載入每張動物圖片的 URI (Cloud Storage 位置)。

4. 在 Explorer 點選「wildlife」資料表，查看結構定義和詳細資料。

建立分類清單的資料表

您將使用 SQL 查詢來建立分類清單的資料表。

1. 點選「+」圖示，建立新的 SQL 查詢。

2. 在查詢編輯器貼上以下查詢。

   LOAD DATA OVERWRITE onnx_demo.classifier (ID INT64,Classification STRING) FROM FILES ( format = 'CSV', uris = ['gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/classifier.csv']);

3. 執行查詢。

   classifier 資料表就會新增至 onnx_demo 資料集，並載入資料集中每個項目的 ID 和分類，包括您稍後在實驗室分類的野生動物。

4. 在 Explorer 點選「classifier」資料表，查看結構定義和詳細資料。如要查看系統如何分類各項目，可以查詢資料表。注意：這份資料表包含許多其他項目，不是只有野生動物，例如動物、魚類、昆蟲和鳥類。

點選「Check my progress」，確認目標已達成。在 BigQuery 建立資料集和資料表

工作 4：將模型匯入 BigQuery

在這項工作中，您會將 resnet18 ONNX 模型匯入 BigQuery，並用於分類圖片。

1. 點選「+」圖示，建立新的 SQL 查詢。

2. 在查詢編輯器貼上以下查詢。

   CREATE OR REPLACE MODEL `onnx_demo.model` OPTIONS (MODEL_TYPE='ONNX', MODEL_PATH='gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/resnet18.onnx')

3. 執行查詢。

   模型就會新增至模型專區的 onnx_demo 資料集。

4. 在 Explorer 點選「model」，查看詳細資料。

點選「Check my progress」，確認目標已達成。將模型匯入 BigQuery

工作 5：使用匯入的 ONNX 模型分類圖片

在這項工作中，您會保留運算單元並指派給專案，並透過查詢使用 ONNX 模型分類新圖片。

新增運算單元預留項目

如要使用 ONNX 模型，您必須建立運算單元預留項目並指派給專案。

1. 在 BigQuery 選單，點選「運算資源管理」。

2. 在「運算資源管理」頁面，點選「建立預留項目」。

3. 在「建立預留項目」頁面，輸入 reservation 做為預留項目名稱。

4. 「位置」請選擇「」。

5. 「預留項目大小選取器」請選擇「小 (100 個運算單元)」。

6. 點選「儲存」。

將運算單元預留項目指派給專案。

1. 點選預留項目的「預留項目動作」按鈕 (垂直排列的 3 個點)。

2. 在彈出式選單，點選「建立指派作業」。

3. 在「建立指派作業」彈出式視窗，您會看到工作類型預設為「查詢」，請不要更動這個選項。

4. 點選「瀏覽」。

5. 在彈出式視窗，選取專案名稱。該專案會加入「選取組織、資料夾或專案」欄位。

6. 點選「建立」。

   專案就會指派給剛剛建立的運算單元預留項目。

7. 請等候 2 分鐘，運算單元預留項目指派給帳戶需要一些時間。

使用模型分類圖片

1. 返回 BigQuery Studio。

2. 點選「+」圖示，建立新的 SQL 查詢。

3. 在查詢編輯器貼上以下查詢。

   SELECT * FROM `{{{project_0.project_id|set at lab start}}}.onnx_demo.classifier` WHERE EXISTS ( SELECT 1 FROM ML.PREDICT(MODEL onnx_demo.model, ( SELECT ML.RESIZE_IMAGE(ML.DECODE_IMAGE(DATA), 224, 224, FALSE) AS input FROM `onnx_demo.wildlife` ) ) WHERE class_label = ID - 1 )

4. 執行查詢。

   系統會依資料列顯示圖片的 ID 和 ONNX 模型預測的分類。

點選「Check my progress」，確認目標已達成。使用匯入的 ONNX 模型分類圖片

恭喜！

您成功建立 Cloud 資源連線、向連線的服務帳戶授予存取權、建立資料集和資料表、將 ONNX 模型匯入 BigQuery，以及使用模型分類圖片。

後續步驟/瞭解詳情

• BigQuery ML 簡介
• 網誌文章：使用 BigQuery ML 推論引擎擴展機器學習
• 開放類神經網路交換格式

Google Cloud 教育訓練與認證

協助您瞭解如何充分運用 Google Cloud 的技術。我們的課程會介紹專業技能和最佳做法，讓您可以快速掌握要領並持續進修。我們提供從基本到進階等級的訓練課程，並有隨選、線上和虛擬課程等選項，方便您抽空參加。認證可協助您驗證及證明自己在 Google Cloud 技術方面的技能和專業知識。

使用手冊上次更新日期：2025 年 3 月 21 日

實驗室上次測試日期：2025 年 3 月 21 日

Copyright 2025 Google LLC 保留所有權利。Google 和 Google 標誌是 Google LLC 的商標，其他公司和產品名稱則有可能是其關聯公司的商標。