GSP1289

개요

AI 할루시네이션이 걱정되시나요? AI는 가치 있는 리소스일 수 있지만 때로는 부정확하거나 오래된 정보, 지나치게 일반적인 응답, 즉 '할루시네이션'을 생성하기도 합니다. 이 실습에서는 검색 증강 생성(RAG) 파이프라인을 구현하여 이 문제를 해결하는 방법을 배워봅니다. RAG는 Gemini와 같은 대규모 언어 모델(LLM)의 출력을 특정 데이터 세트의 컨텍스트와 관련 있는 정보로 그라운딩하여 개선합니다.

여러분은 선도적인 커피 트럭 업체인 Coffee-on-Wheels에서 자사 서비스에 대한 고객 의견을 분석하도록 도와야 합니다. 최신 데이터에 액세스하지 못하면 Gemini의 대답이 부정확할 수 있습니다. 이 문제를 해결하기 위해 다음과 같은 세 단계를 거쳐 RAG 파이프라인을 빌드하기로 결정합니다.

1. 임베딩 생성: 시맨틱 의미를 포착하는 데이터의 숫자 표현인 벡터 임베딩으로 고객 의견 텍스트를 변환합니다.
2. 벡터 공간 검색: 벡터의 색인을 만들고, 유사 항목을 검색하고, 검색된 항목을 가져옵니다.
3. 개선된 대답 생성: 가져온 정보로 Gemini를 보강하여 더 정확하고 관련성 높은 대답을 생성합니다.

BigQuery를 사용하면 Vertex AI의 원격 생성형 AI 모델에 원활하게 연결할 수 있습니다. SQL 쿼리 또는 Python 노트북을 통해 임베딩, 벡터 검색, 텍스트 생성을 위한 다양한 함수도 직접 제공됩니다.

자세한 내용은 Google Cloud Skills Boost의 BigQuery로 임베딩, 벡터 검색, RAG 만들기 과정을 확인하세요.

학습할 내용

• 소스 연결을 만들고 IAM 권한을 부여합니다.
• 임베딩을 생성하고 텍스트 데이터를 벡터 임베딩으로 변환합니다.
• 벡터 공간을 검색하고 유사 항목을 가져옵니다.
• 검색 결과로 Gemini를 보강하여 개선된 대답을 생성합니다.

기본 요건

이 실습을 완료하려면 BigQuery 및 SQL 코딩에 익숙해야 합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

작업 1. 소스 연결을 만들고 IAM 권한 부여하기

소스 연결 만들기

BigQuery의 Vertex AI에서 Gemini 및 임베딩 모델과 같은 원격 생성형 AI 모델을 사용할 수 있도록 새로운 외부 소스 연결을 만듭니다.

1. Google Cloud 콘솔의 탐색 메뉴()에서 BigQuery를 클릭합니다.
2. 탐색기로 이동하여 + 추가를 클릭하고 외부 데이터 소스에 대한 연결을 선택합니다.
3. 연결 유형 드롭다운에서 Vertex AI 원격 모델, 원격 함수, BigLake(Cloud 리소스)를 선택합니다.
4. 연결 ID 필드에 embedding_conn을 입력합니다.
5. 연결 만들기를 클릭합니다.
6. 연결이 생성되면 팝업 확인 메시지에서 연결로 이동을 클릭하여 연결로 이동한 후 서비스 계정 ID 값을 복사합니다. 나중에 이 계정에 권한을 할당할 때 필요합니다.

IAM 권한 부여

BigQuery 데이터 및 Vertex AI 리소스를 사용할 수 있도록 서비스 계정에 필요한 IAM 권한을 부여하세요.

1. 이제 IAM을 통해 권한을 부여해야 합니다. 다음 단계를 수행합니다.
   • Google Cloud 콘솔의 탐색 메뉴()에서 IAM 및 관리자 > IAM으로 이동합니다.
   • 액세스 권한 부여를 클릭합니다.
   • 주 구성원 추가 섹션에서 다음 안내를 따릅니다.
     • 새 주 구성원 텍스트 필드에 앞서 복사한 서비스 계정 ID 값을 붙여넣습니다.
     • 역할 할당에서 다음 역할을 선택합니다(필요한 경우 검색).
       • BigQuery 데이터 소유자
       • Vertex AI 사용자
2. 저장을 클릭하여 변경사항을 적용합니다.
3. 탐색 메뉴()에서 API 및 서비스로 이동하고 + API 및 서비스 사용 설정을 클릭한 다음 Vertex AI API를 검색하고 사용 설정 버튼을 클릭합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 소스 연결을 만들고 IAM 권한 부여하기

작업 2. 임베딩 생성하기

1. Google Cloud 콘솔의 탐색 메뉴()에서 BigQuery로 이동합니다.

2. 탐색기에서 프로젝트 옆에 있는 점 3개로 이동하여 데이터 세트 만들기를 클릭합니다. 데이터 세트 ID에 CustomerReview를 입력합니다. 다른 옵션은 기본값으로 두고 데이터 세트 만들기를 클릭합니다.

3. 쿼리 편집기에서 다음 SQL 쿼리를 실행하여 임베딩 모델에 연결합니다.

CREATE OR REPLACE MODEL `CustomerReview.Embeddings` REMOTE WITH CONNECTION `us.embedding_conn` OPTIONS (ENDPOINT = 'text-embedding-005');

4. 다음 SQL 쿼리를 실행하여 CSV 파일에서 데이터 세트를 업로드합니다.

LOAD DATA OVERWRITE CustomerReview.customer_reviews ( customer_review_id INT64, customer_id INT64, location_id INT64, review_datetime DATETIME, review_text STRING, social_media_source STRING, social_media_handle STRING ) FROM FILES ( format = 'CSV', uris = ['gs://spls/gsp1249/customer_reviews.csv'] );

5. (선택사항) 테이블에 업로드된 데이터를 확인하기 위해 테이블로 이동을 클릭합니다. 테이블의 스키마를 찾고 데이터를 미리 봅니다.

6. 쿼리 편집기에서 다음 SQL 쿼리를 실행하여 최근 고객 의견에서 임베딩을 생성하고 테이블에 저장합니다.

CREATE OR REPLACE TABLE `CustomerReview.customer_reviews_embedded` AS SELECT * FROM ML.GENERATE_EMBEDDING( MODEL `CustomerReview.Embeddings`, (SELECT review_text AS content FROM `CustomerReview.customer_reviews`) );

7. (선택사항) 임베딩 결과를 검토하기 위해 테이블로 이동을 클릭합니다. 테이블의 스키마를 찾고 데이터를 미리 봅니다. 임베딩 결과는 부동 소수점 숫자로 표현되므로 바로 해석하지 못할 수 있습니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 임베딩 생성하기

작업 3. 벡터 공간 검색 및 유사 항목 가져오기

1. 다음 SQL 쿼리를 실행하여 벡터 검색 공간의 색인을 만듭니다.

참고: 이 실습과 같이 행 수가 5,000개 미만인 데이터 세트의 경우 색인을 만들 필요가 없습니다. 이 단계에서는 더 큰 데이터 세트에 필요한 벡터 공간 색인을 만드는 데 필요한 코드를 보여줍니다. CREATE OR REPLACE VECTOR INDEX `CustomerReview.reviews_index` ON `CustomerReview.customer_reviews_embedded`(ml_generate_embedding_result) OPTIONS (distance_type = 'COSINE', index_type = 'IVF');

2. 다음 SQL 쿼리를 실행하여 벡터 공간을 검색하고 유사 항목을 가져옵니다.

CREATE OR REPLACE TABLE `CustomerReview.vector_search_result` AS SELECT query.query, base.content FROM VECTOR_SEARCH( TABLE `CustomerReview.customer_reviews_embedded`, 'ml_generate_embedding_result', ( SELECT ml_generate_embedding_result, content AS query FROM ML.GENERATE_EMBEDDING( MODEL `CustomerReview.Embeddings`, (SELECT 'service' AS content) ) ), top_k => 5, options => '{"fraction_lists_to_search": 0.01}' );

3. (선택사항) 쿼리 결과를 확인하기 위해 테이블로 이동을 클릭합니다. 테이블의 스키마를 찾고 데이터를 미리 봅니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 벡터 공간 검색 및 유사 항목 가져오기

작업 4. 개선된 대답 생성하기

1. 다음 SQL 쿼리를 실행하여 Gemini 모델에 연결합니다.

   CREATE OR REPLACE MODEL `CustomerReview.Gemini` REMOTE WITH CONNECTION `us.embedding_conn` OPTIONS (ENDPOINT = 'gemini-pro');

2. 다음 쿼리를 실행하여 벡터 검색에서 가져온 관련성 높은 최신 데이터를 Gemini에 제공하여 Gemini의 대답을 개선합니다.

SELECT ml_generate_text_llm_result AS generated FROM ML.GENERATE_TEXT( MODEL `CustomerReview.Gemini`, ( SELECT CONCAT( 'Summarize what customers think about our services', STRING_AGG(FORMAT('review text: %s', base.content), ',\n') ) AS prompt FROM `CustomerReview.vector_search_result` AS base ), STRUCT( 0.4 AS temperature, 300 AS max_output_tokens, 0.5 AS top_p, 5 AS top_k, TRUE AS flatten_json_output ) );

3. 쿼리 편집기 아래에 있는 쿼리 결과 섹션에서 Gemini가 생성한 결과를 확인합니다.

질문:
1. RAG를 사용했을 때 Gemini가 더 나은 대답을 생성하는지 어떻게 판단할 수 있나요? 코드로 테스트해 보세요.

2. 코드를 어떻게 개선할 수 있을까요? 예를 들어 벡터 검색 결과를 테이블에 저장(작업 3)하는 대신 실시간 검색을 위해 해당 프로세스를 대답 생성에 직접 임베딩(작업 4)할 수 있을까요?

남은 실습 시간 동안 이러한 질문의 답을 찾아보세요. 좋은 결과가 있길 바랍니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 벡터 검색에서 가져온 데이터를 사용해 개선된 응답 생성하기

수고하셨습니다

Coffee-on-Wheels가 자사 서비스에 대한 고객 의견에서 유용한 정보를 얻을 수 있도록 BigQuery에 RAG 파이프라인을 구현하여 Gemini에 관련성 있는 최신 정보를 제공했습니다. 임베딩 모델과 Gemini를 포함한 원격 생성형 AI 모델에 연결하고 임베딩 만들기, 벡터 공간 검색, 개선된 응답 생성의 세 단계를 수행했습니다. 이 과정의 목표는 이 접근 방식을 적용하여 자체 AI 할루시네이션 문제를 해결할 수 있도록 돕는 것입니다.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2025년 1월 22일

실습 최종 테스트: 2025년 1월 22일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.