GSP1264

개요

Vertex AI에서 그라운딩하면 생성형 텍스트 모델을 사용하여 자체 문서와 데이터에 그라운딩한 콘텐츠를 생성할 수 있습니다. 이 기능을 통해 모델은 런타임에 학습 데이터 이외의 정보에 액세스 가능합니다. Google 검색 결과 또는 Vertex AI Search 내의 데이터 스토어에 모델 응답을 그라운딩하면 데이터에 그라운딩된 LLM에서 더 정확하고 최신 상태이며 관련성 높은 응답을 생성합니다.

그라운딩의 이점은 다음과 같습니다.

- 모델 할루시네이션(모델이 사실과 다른 콘텐츠를 생성하는 경우)을 줄입니다. - 모델 응답을 특정 정보, 문서, 데이터 소스로 고정합니다. - 생성된 콘텐츠의 신뢰성, 정확성, 적용 가능성을 향상합니다.

Vertex AI에서 두 가지 그라운딩 소스를 구성할 수 있습니다.

1. 공개적으로 사용 가능하고 색인 생성된 데이터에 대한 Google 검색 결과

• 또한 프로덕션 애플리케이션에서 이 서비스를 사용하는 경우 Google 검색 진입점을 사용해야 합니다.

2. Vertex AI Search의 데이터 스토어는 웹사이트 데이터, 비정형 데이터 또는 정형 데이터의 형태로 자체 데이터를 포함할 수 있습니다.

Gemini

Gemini는 Google DeepMind에서 개발한 강력한 생성형 AI 모델 제품군으로 텍스트, 코드, 이미지, 오디오, 동영상을 포함한 다양한 형식의 콘텐츠를 이해하고 생성합니다.

Vertex AI의 Gemini API

Vertex AI의 Gemini API는 Gemini 모델과 상호작용할 수 있는 통합 인터페이스를 제공합니다. 이를 통해 개발자는 이러한 강력한 AI 기능을 손쉽게 애플리케이션에 통합할 수 있습니다. 최신 세부정보와 최신 버전의 구체적인 기능은 공식 Gemini 문서를 참조하세요.

Gemini 모델

• Gemini Pro: 복잡한 추론을 위해 설계되었으며 다음과 같은 작업을 처리합니다.
  • 대량의 정보 분석 및 요약
  • 정교한 교차 모달 추론(텍스트, 코드, 이미지 등)
  • 복잡한 코드베이스로 효과적인 문제 해결
• Gemini Flash: 속도와 효율성에 최적화되었으며 다음을 제공합니다.
  • 1초 미만의 응답 시간과 높은 처리량
  • 광범위한 작업에 대해 낮은 비용으로 높은 품질 제공
  • 개선된 공간 이해, 새로운 출력 형식(텍스트, 오디오, 이미지), 기본 도구 사용(Google 검색, 코드 실행, 서드 파티 함수)을 포함한 향상된 멀티모달 기능

기본 요건

이 실습을 시작하기 전에 다음 개념을 숙지해야 합니다.

• 기본 Python 프로그래밍
• 일반적인 API 개념
• Vertex AI Workbench의 Jupyter 노트북에서 Python 코드를 실행하는 방법

목표

이 실습에서는 다음을 수행하는 방법에 대해 알아봅니다.

• Google 검색 결과에 그라운딩된 LLM 텍스트 및 채팅 모델 응답을 생성합니다.
• 그라운딩되지 않은 LLM 응답의 결과와 그라운딩된 LLM 응답의 결과를 비교합니다.
• Vertex AI Search에서 데이터 스토어를 만들고 사용하여 응답을 커스텀 문서 및 데이터에 그라운딩합니다.
• Vertex AI Search 결과에 그라운딩된 LLM 텍스트 및 채팅 모델 응답을 생성합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

작업 1. Vertex AI Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴()에서 Vertex AI > Workbench를 클릭합니다.

2. 인스턴스를 찾아 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

작업 2. 노트북 설정하기

1. 파일을 엽니다.

2. Select Kernel(커널 선택) 대화상자에서 사용 가능한 커널 목록 중 Python 3를 선택합니다.

3. 노트북의 Getting Started(시작하기) 및 Import libraries(라이브러리 가져오기) 섹션을 실행합니다.

   • Project ID(프로젝트 ID)로는 을(를) 사용하고, Location(위치)으로는 을(를) 사용합니다.

참고: Colab only(Colab만 해당)이라고 되어 있는 노트북 셀은 건너뛰어도 됩니다. 노트북 셀 실행 중 429 응답이 발생하는 경우 1분 동안 기다린 다음 다시 셀을 실행하여 계속 진행하세요.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 패키지 설치 및 라이브러리 가져오기

작업 3. Google 검색 결과를 사용해 그라운딩하기

1. 노트북의 예: Google 검색 결과를 사용해 그라운딩하기 섹션을 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Google 검색 결과를 사용해 그라운딩하기

작업 4. Vertex AI 데이터 스토어 만들기

이 섹션에서는 Cloud 콘솔에서 Vertex AI 데이터 스토어를 만듭니다.

1. 상단 검색창에 AI 애플리케이션을 입력하고 결과에서 AI 애플리케이션을 선택합니다.

2. AI 애플리케이션에 오신 것을 환영합니다 방문 페이지에서 계속 및 API 활성화를 클릭합니다.

3. 데이터 스토어 > 데이터 스토어 만들기 페이지로 이동합니다.

4. 데이터 소스 선택 창에서 웹사이트 콘텐츠를 선택합니다.

5. 데이터 스토어용 웹사이트 지정 창에서 고급 웹사이트 색인 생성이 꺼져 있는지 확인합니다.

6. 포함할 사이트 필드에 다음을 입력합니다.

cloud.google.com/generative-ai-app-builder/*

7. 계속을 클릭합니다.

8. 데이터 스토어 구성 창에서 데이터 스토어의 위치로 global(전역)을 선택합니다.

9. 데이터 스토어 이름을 입력합니다. 생성된 ID를 메모해 둡니다. 이 값은 나중에 필요합니다.

10. 만들기를 클릭합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Vertex AI 데이터 스토어 만들기

작업 5. Vertex AI Search 애플리케이션 만들기

이 섹션에서는 Cloud 콘솔에서 Vertex AI Search 애플리케이션을 만듭니다.

1. 앱 > 앱 만들기 페이지로 이동합니다.

2. 앱 만들기 페이지의 웹사이트 검색에서 만들기를 클릭합니다.

3. 엔터프라이즈 버전 기능이 사용 설정되었는지 확인합니다.

4. 앱 이름 필드에 앱 이름을 입력합니다. 앱 이름 아래에 앱 ID가 표시됩니다.

5. '회사 또는 조직의 외부 이름' 필드에 회사 또는 조직 이름을 입력합니다. 이 튜토리얼에서는 앱이 Google Cloud 웹사이트를 검색하므로 Google Cloud를 사용할 수 있습니다.

6. 앱의 위치로 global(전역)을 선택하고 계속을 클릭합니다.

7. 데이터 스토어 목록에서 이전에 만든 데이터 스토어를 선택한 후 만들기를 클릭합니다.

참고: 애플리케이션을 만든 후, 애플리케이션이 검색에 포함된 웹사이트에 대한 색인을 생성하는 데 최소 5분을 기다려야 합니다. 색인이 생성될 때까지 기다렸다가 노트북의 다음 셀로 진행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Vertex AI Search 애플리케이션 만들기

작업 6. 커스텀 문서 및 데이터를 사용해 그라운딩하기

1. 노트북의 예: 커스텀 문서 및 데이터를 사용해 그라운딩하기 섹션을 실행합니다. 필요한 경우 이전 작업에서 만든 데이터 스토어 ID를 사용합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 커스텀 문서 및 데이터를 사용해 그라운딩하기

작업 7. 그라운딩된 채팅 응답

1. 노트북의 예: 그라운딩된 채팅 응답 섹션을 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 그라운딩된 채팅 응답

수고하셨습니다

이 실습에서는 Google 검색과 커스텀 데이터 소스 모두에 대규모 언어 모델(LLM)을 그라운딩하는 방법을 알아보았습니다. 그라운딩된 LLM 응답과 그라운딩되지 않은 LLM 응답을 비교해 보면서 그라운딩이 응답 품질과 정확성에 상당히 영향을 미친다는 점을 확인했습니다. 또한 Vertex AI Search에서 데이터 스토어를 만들고 활용하는 실무형 실습을 통해 LLM 텍스트 및 채팅 모델을 자체 문서와 데이터에 그라운딩할 수 있게 되었습니다.

다음 단계/자세히 알아보기

Gemini에 대한 자세한 내용은 다음 리소스를 참조하세요.

• Gemini 개요
• Vertex AI의 생성형 AI 문서
• YouTube의 생성형 AI
• Vertex AI 설명서에서 생성형 AI를 위한 선별된 노트북 갤러리를 검색하며 살펴보세요.
• Google Cloud 생성형 AI 저장소에서 다른 노트북과 샘플을 찾아보세요.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2025년 4월 3일

실습 최종 테스트: 2025년 4월 3일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.