GSP1264

Ringkasan

Grounding di Vertex AI memungkinkan Anda menggunakan model teks generatif untuk menghasilkan konten yang didasarkan pada dokumen dan data Anda sendiri. Kemampuan ini memungkinkan model mengakses informasi pada saat runtime yang melampaui data pelatihannya. Dengan melakukan grounding respons model pada hasil Google Penelusuran atau penyimpanan data dalam Vertex AI Search, LLM yang didasarkan pada data dapat menghasilkan respons yang lebih akurat, terbaru, dan relevan.

Grounding ini memberikan manfaat berikut:

- Mengurangi halusinasi model (kejadian saat model menghasilkan konten yang tidak faktual) - Menghubungkan respons model ke informasi, dokumen, dan sumber data tertentu - Meningkatkan kredibilitas, akurasi, dan relevansi konten yang dihasilkan

Anda dapat mengonfigurasi dua sumber grounding yang berbeda di Vertex AI:

1. Hasil Google Penelusuran untuk data yang tersedia untuk umum dan diindeks.

• Jika menggunakan layanan ini dalam aplikasi produksi, Anda juga harus menggunakan titik entri Google Penelusuran.

2. Penyimpanan data di Vertex AI Search, yang dapat menyertakan data Anda sendiri dalam bentuk data situs, data tidak terstruktur, atau data terstruktur

Gemini

Gemini adalah rangkaian model AI generatif canggih yang dikembangkan oleh Google DeepMind. Gemini mampu memahami dan menghasilkan berbagai bentuk konten, termasuk teks, kode, gambar, audio, dan video.

Gemini API di Vertex AI

Gemini API di Vertex AI menyediakan antarmuka terpadu untuk berinteraksi dengan model Gemini. Dengan antarmuka ini, developer dapat dengan mudah mengintegrasikan kemampuan AI yang hebat ini ke dalam aplikasi mereka. Untuk mengetahui detail terbaru dan fitur spesifik dari versi terbaru, pelajari dokumentasi Gemini yang resmi.

Model Gemini

• Gemini Pro: Dirancang untuk melakukan penalaran yang kompleks, termasuk di antaranya:
  • Menganalisis dan meringkas informasi dalam jumlah besar.
  • Penalaran canggih lintas modalitas (untuk teks, kode, gambar, dll.).
  • Pemecahan masalah yang efektif dengan codebase yang kompleks.
• Gemini Flash: Dioptimalkan untuk kecepatan dan efisiensi, dengan menawarkan:
  • Waktu respons kurang dari satu detik dan throughput tinggi.
  • Kualitas tinggi dengan biaya yang lebih rendah untuk beragam tugas.
  • Kemampuan multimodal yang ditingkatkan, termasuk pemahaman spasial yang lebih baik, modalitas output yang baru (teks, audio, gambar), dan penggunaan alat asli (Google Penelusuran, eksekusi kode, dan fungsi pihak ketiga).

Prasyarat

Sebelum memulai lab ini, Anda sebaiknya sudah mengetahui:

• Pemrograman Python dasar.
• Konsep API secara umum.
• Cara menjalankan kode Python di notebook Jupyter di Vertex AI Workbench.

Tujuan

Di lab ini, Anda akan mempelajari cara:

• Menghasilkan respons model chat dan teks LLM yang didasarkan pada hasil Google Penelusuran.
• Membandingkan hasil respons LLM yang tidak di-grounding dengan respons LLM yang di-grounding.
• Membuat dan menggunakan penyimpanan data di Vertex AI Search untuk melakukan grounding respons pada data dan dokumen kustom.
• Menghasilkan respons model chat dan teks LLM yang didasarkan pada hasil Vertex AI Search.

Penyiapan dan persyaratan

Sebelum mengklik tombol Start Lab

Baca petunjuk ini. Lab memiliki timer dan Anda tidak dapat menjedanya. Timer yang dimulai saat Anda mengklik Start Lab akan menampilkan durasi ketersediaan resource Google Cloud untuk Anda.

Lab interaktif ini dapat Anda gunakan untuk melakukan aktivitas lab di lingkungan cloud sungguhan, bukan di lingkungan demo atau simulasi. Untuk mengakses lab ini, Anda akan diberi kredensial baru yang bersifat sementara dan dapat digunakan untuk login serta mengakses Google Cloud selama durasi lab.

Untuk menyelesaikan lab ini, Anda memerlukan:

• Akses ke browser internet standar (disarankan browser Chrome).

Catatan: Gunakan jendela Samaran (direkomendasikan) atau browser pribadi untuk menjalankan lab ini. Hal ini akan mencegah konflik antara akun pribadi Anda dan akun siswa yang dapat menyebabkan tagihan ekstra pada akun pribadi Anda.

• Waktu untuk menyelesaikan lab. Ingat, setelah dimulai, lab tidak dapat dijeda.

Catatan: Hanya gunakan akun siswa untuk lab ini. Jika Anda menggunakan akun Google Cloud yang berbeda, Anda mungkin akan dikenai tagihan ke akun tersebut.

Cara memulai lab dan login ke Google Cloud Console

1. Klik tombol Start Lab. Jika Anda perlu membayar lab, dialog akan terbuka untuk memilih metode pembayaran. Di sebelah kiri ada panel Lab Details yang berisi hal-hal berikut:

   • Tombol Open Google Cloud console
   • Waktu tersisa
   • Kredensial sementara yang harus Anda gunakan untuk lab ini
   • Informasi lain, jika diperlukan, untuk menyelesaikan lab ini

2. Klik Open Google Cloud console (atau klik kanan dan pilih Open Link in Incognito Window jika Anda menjalankan browser Chrome).

   Lab akan menjalankan resource, lalu membuka tab lain yang menampilkan halaman Sign in.

   Tips: Atur tab di jendela terpisah secara berdampingan.

   Catatan: Jika Anda melihat dialog Choose an account, klik Use Another Account.

3. Jika perlu, salin Username di bawah dan tempel ke dialog Sign in.

   {{{user_0.username | "Username"}}}

   Anda juga dapat menemukan Username di panel Lab Details.

4. Klik Next.

5. Salin Password di bawah dan tempel ke dialog Welcome.

   {{{user_0.password | "Password"}}}

   Anda juga dapat menemukan Password di panel Lab Details.

6. Klik Next.

   Penting: Anda harus menggunakan kredensial yang diberikan lab. Jangan menggunakan kredensial akun Google Cloud Anda. Catatan: Menggunakan akun Google Cloud sendiri untuk lab ini dapat dikenai biaya tambahan.

7. Klik halaman berikutnya:

   • Setujui persyaratan dan ketentuan.
   • Jangan tambahkan opsi pemulihan atau autentikasi 2 langkah (karena ini akun sementara).
   • Jangan mendaftar uji coba gratis.

Setelah beberapa saat, Konsol Google Cloud akan terbuka di tab ini.

Catatan: Untuk mengakses produk dan layanan Google Cloud, klik Navigation menu atau ketik nama layanan atau produk di kolom Search.

Tugas 1. Membuka notebook di Vertex AI Workbench

1. Di Konsol Google Cloud, pada Navigation menu (), klik Vertex AI > Workbench.

2. Cari instance lalu klik tombol Open JupyterLab.

Antarmuka JupyterLab untuk instance Workbench Anda akan terbuka di tab browser baru.

Tugas 2. Menyiapkan notebook

1. Buka file .

2. Pada dialog Select Kernel, pilih Python 3 dari daftar kernel yang tersedia.

3. Jalankan bagian Getting Started dan Import libraries pada notebook.

   • Untuk Project ID, gunakan , sedangkan untuk Location, gunakan .

Catatan: Anda dapat melewatkan sel notebook yang bertanda Colab only. Jika Anda mendapatkan respons 429 dari salah satu eksekusi sel notebook, tunggu 1 menit sebelum menjalankan sel kembali untuk melanjutkan.

Klik Check my progress untuk memverifikasi tujuan. Menginstal paket dan mengimpor library.

Tugas 3. Melakukan grounding dengan hasil Google Penelusuran

1. Jalankan bagian Example: Grounding with Google Search results di notebook.

Klik Check my progress untuk memverifikasi tujuan. Melakukan grounding dengan hasil Google Penelusuran.

Tugas 4. Membuat Datastore Vertex AI

Di bagian ini, Anda akan membuat Datastore Vertex AI di Konsol Cloud.

1. Pada kotak penelusuran di bagian atas, masukkan AI Applications, lalu pilih AI Applications dari hasil penelusuran.

2. Di halaman landing Welcome to AI Applications, klik CONTINUE AND ACTIVATE THE API.

3. Buka halaman Data Stores > Create data store.

4. Di panel Select a data source, pilih Website content.

5. Di panel Specify the websites for your data store, pastikan Advanced website indexing dinonaktifkan.

6. Di kolom Sites to include, masukkan:

cloud.google.com/generative-ai-app-builder/*

7. Klik Continue.

8. Di panel Configure your data store, pilih global (Global) sebagai lokasi untuk penyimpanan data Anda.

9. Masukkan nama untuk penyimpanan data Anda. Catat ID yang dihasilkan. Anda akan memerlukannya nanti.

10. Klik Create.

Klik Check my progress untuk memverifikasi tujuan. Membuat Datastore Vertex AI.

Tugas 5. Membuat Aplikasi Vertex AI Search

Di bagian ini, Anda akan membuat Aplikasi Vertex AI Search di Konsol Cloud.

1. Buka halaman Apps > Create App.

2. Di halaman Create App, pada bagian Search for your website, klik Create.

3. Pastikan Enterprise edition features diaktifkan.

4. Di kolom Your app name, masukkan nama untuk aplikasi Anda. ID aplikasi akan muncul di bawah nama aplikasi.

5. Di kolom External name of your company or organization, masukkan nama perusahaan atau organisasi. Untuk tutorial ini, Anda dapat menggunakan Google Cloud, karena aplikasi akan menelusuri situs Google Cloud.

6. Pilih global (Global) sebagai lokasi untuk aplikasi Anda, lalu klik Continue.

7. Di daftar penyimpanan data, pilih penyimpanan data yang Anda buat sebelumnya, lalu klik Create.

Catatan: Setelah dibuat, Anda harus menunggu setidaknya 5 menit agar aplikasi mengindeks situs yang disertakan dalam penelusuran. Tunggu hingga indeks selesai dibuat sebelum melanjutkan ke sel berikutnya di notebook.

Klik Check my progress untuk memverifikasi tujuan. Membuat Aplikasi Vertex AI Search.

Tugas 6. Melakukan grounding dengan data dan dokumen kustom

1. Jalankan bagian Example: Grounding with custom documents and data di notebook. Gunakan ID datastore yang dibuat di tugas sebelumnya jika diperlukan.

Klik Check my progress untuk memverifikasi tujuan. Melakukan grounding dengan data dan dokumen kustom.

Tugas 7. Respons chat yang di-grounding

1. Jalankan bagian Example: Grounded chat responses di notebook.

Klik Check my progress untuk memverifikasi tujuan. Respons chat yang di-grounding.

Selamat!

Di lab ini, Anda telah mempelajari cara melakukan grounding Model Bahasa Besar (LLM) di Google Penelusuran dan sumber data kustom. Dengan membandingkan respons LLM yang di-grounding dan tidak di-grounding, Anda akan melihat dampak grounding secara signifikan terhadap kualitas dan akurasi respons. Selain itu, Anda memperoleh pengalaman praktis dalam membuat dan menggunakan penyimpanan data di Vertex AI Search, sehingga Anda dapat melakukan grounding model chat dan teks LLM pada dokumen dan data Anda sendiri.

Langkah berikutnya/pelajari lebih lanjut

Baca referensi berikut untuk mempelajari Gemini lebih lanjut:

• Ringkasan Gemini
• Dokumentasi AI generatif di Vertex AI
• AI Generatif di YouTube
• Jelajahi Cookbook Vertex AI untuk melihat galeri notebook AI Generatif pilihan yang dapat Anda telusuri.
• Jelajahi notebook dan sampel lainnya di repositori AI Generatif Google Cloud.

Sertifikasi dan pelatihan Google Cloud

...membantu Anda mengoptimalkan teknologi Google Cloud. Kelas kami mencakup keterampilan teknis dan praktik terbaik untuk membantu Anda memahami dengan cepat dan melanjutkan proses pembelajaran. Kami menawarkan pelatihan tingkat dasar hingga lanjutan dengan opsi on demand, live, dan virtual untuk menyesuaikan dengan jadwal Anda yang sibuk. Sertifikasi membantu Anda memvalidasi dan membuktikan keterampilan serta keahlian Anda dalam teknologi Google Cloud.

Manual Terakhir Diperbarui pada 3 April 2025

Lab Terakhir Diuji pada 3 April 2025

Hak cipta 2025 Google LLC. Semua hak dilindungi undang-undang. Google dan logo Google adalah merek dagang dari Google LLC. Semua nama perusahaan dan produk lain mungkin adalah merek dagang masing-masing perusahaan yang bersangkutan.