GSP1327

개요

Google Cloud의 Model Armor는 유해한 콘텐츠, 프롬프트 인젝션, 민감한 데이터 유출 등의 위험을 탐지하기 위해 사용자 프롬프트와 LLM 응답을 모두 검사하여 AI 안전을 강화합니다. 조직은 이를 통해 AI 애플리케이션의 보안 정책을 중앙에서 관리하고 시행할 수 있으며, 상호작용이 안전한지 또한 규정을 준수하는지 확인하는 필터 역할을 합니다. 이 서비스는 Security Command Center와 연동되어 보안 상황에 대한 통합 가시성을 제공하며, AI 모델이 무단으로 노출되거나 조작되는 것을 방지하는 데 도움을 줍니다.

이 실습에서는 Model Armor를 사용하여 프롬프트와 모델 응답을 정리하는 방법을 살펴봅니다.

목표

이 실습에서는 다음 작업을 수행할 수 있는 능력을 입증해야 합니다.

• Model Armor API를 사용 설정합니다.
• Model Armor 템플릿을 만듭니다.
• 검사 및 익명화 템플릿을 사용하여 Sensitive Data Protection을 구성합니다.
• 여러 보안 기능에 대해 사용자 프롬프트를 정리하기 위한 다양한 명령어를 실행합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 오른쪽에는 다음과 같은 항목이 포함된 실습 설정 및 액세스 패널이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보(사용자 이름 및 비밀번호)
   • 필요한 경우 실습 진행을 위한 기타 정보

   실습 타이머는 페이지 상단에 있으며 남은 시간을 표시합니다.

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 설정 및 액세스 패널에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 설정 및 액세스 패널에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의하세요.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 마세요.
   • 무료 체험판을 신청하지 마세요.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

작업 1. Model Armor API 사용 설정

Model Armor를 사용하려면 먼저 API를 사용 설정해야 합니다.

1. Google Cloud 콘솔에서 Cloud Shell을 활성화합니다.

2. 다음 명령어를 실행합니다.

PROJECT=$(gcloud config get-value project) gcloud services enable modelarmor.googleapis.com dlp.googleapis.com --project=$PROJECT

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Model Armor API 사용 설정

작업 2. Agent Platform Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴()에서 Agent Platform > Notebooks > Workbench를 클릭합니다.

2. 인스턴스를 찾아 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

작업 3. 노트북 설정

1. 파일을 엽니다.

2. Select Kernel(커널 선택) 대화상자에서 사용 가능한 커널 목록 중 Python 3를 선택합니다.

3. 노트북의 Getting Started(시작하기) 및 Import libraries(라이브러리 가져오기) 섹션을 실행합니다.

참고: Colab only(Colab만 해당)이라고 되어 있는 노트북 셀은 건너뛰어도 됩니다. 노트북 셀 실행 중 429 응답이 표시되면 1분 동안 기다린 다음 다시 셀을 실행하여 계속 진행하세요. 참고: 셀 1에 프로젝트 '환경' 태그가 누락되었다는 내용의 노트북 알림은 무시해도 됩니다.

작업 4. Model Armor 템플릿 만들기

이 작업에서는 AI 상호작용에 대한 보안 및 콘텐츠 필터링 규칙을 정의하기 위해 Model Armor 템플릿 ma-template을 만듭니다. 이 템플릿은 민감한 데이터 노출을 탐지하고 완화하기 위한 정책을 수립하여 데이터 보호 표준을 준수하도록 보장합니다.

노트북의 Create a Model Armor Template(Model Armor 템플릿 만들기) 섹션에 있는 안내에 따라, 제공된 필터 구성을 사용해 위치에 ma-template을 만듭니다. 완료되면 이 페이지로 돌아와 진행 상황과 목표를 확인합니다.

참고: 내 진행 상황 확인하기 버튼을 클릭하기 전에 노트북 파일을 저장해야 합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Model Armor 템플릿 만들기

작업 5. 검사 및 익명화 템플릿을 사용하여 Sensitive Data Protection 구성

이 작업에서는 Cloud Sensitive Data Protection(DLP) 검사 및 익명화 템플릿을 만들고 advancedConfig를 사용하여 고급 Model Armor 템플릿인 ma-sdp-template에 연결합니다. 이렇게 하면 AI 프롬프트 및 응답 정리를 위한 커스텀 검사 규칙과 자동 데이터 마스킹이 가능해집니다.

1. 노트북의 검사 및 익명화 템플릿을 사용하여 Sensitive Data Protection 구성 섹션을 실행하여 ma-inspect-template과 ma-deidentify-template을 만듭니다.

2. 셀을 실행하여 advancedConfig를 사용해 고급 Model Armor 템플릿인 ma-sdp-template을 만듭니다.

3. 모델 응답 정리를 테스트하여 민감한 infoType이 익명화되는지 확인합니다.

참고: 내 진행 상황 확인하기 버튼을 클릭하기 전에 노트북 파일을 저장해야 합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 검사 및 익명화 템플릿을 사용하여 Sensitive Data Protection 구성

작업 6. Model Armor로 사용자 프롬프트 검증

이 작업에서는 다양한 사용자 프롬프트를 테스트하여 Model Armor가 사전 정의된 Sensitive Data Protection(SDP) infoType을 기반으로 다양한 유형의 민감한 데이터를 감지하고 선별하는 방법을 평가합니다. 이 프로세스는 Model Armor가 무단 데이터 노출을 효과적으로 필터링하고 보호하는 데 도움이 됩니다.

노트북의 Validate user prompts with Model Armor(Model Armor로 사용자 프롬프트 검증하기) 섹션을 살펴보고 다양한 보안 기능에 대해 사용자 프롬프트를 정리하기 위한 여러 명령어를 실행합니다. 완료되면 이 페이지로 돌아와 진행 상황과 목표를 확인합니다.

참고: 각 인스턴스에서 내 진행 상황 확인하기 버튼을 클릭하기 전에 노트북 파일을 저장해야 합니다. 참고: 필터 버전 V1이 LEGACY로 전환된다는 것과 관련된 sanitizationMetadata 출력의 WARNING 메시지는 모두 무시해도 됩니다. 이는 향후 필터 버전 관리와 관련하여 Model Armor에서 제공하는 정보 서비스 알림으로, 오류를 의미하거나 실습 실행에 영향을 미치지 않습니다.

1. Model Armor에서 책임감 있는 AI를 검사하도록 사용자 프롬프트를 입력합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 사용자 프롬프트를 입력하여 책임감 있는 AI 검사

2. Model Armor에서 악성 URI를 검사하도록 사용자 프롬프트를 입력합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 사용자 프롬프트를 입력하여 악성 URI 검사

3. Model Armor에서 데이터 손실 방지(DLP)를 검사하도록 사용자 프롬프트를 입력합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 사용자 프롬프트를 입력하여 DLP 검사

4. Model Armor에서 DLP를 검사하도록 모델 응답을 입력합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 모델 응답을 입력하여 DLP 검사

5. Sanitize file-based prompts(파일 기반 프롬프트 정리) 하위 섹션에서 셀을 실행하여, Model Armor를 사용해 지정된 파일 형식으로 사용자 프롬프트를 정리하는 파일 기반 프롬프트를 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 파일 기반 사용자 프롬프트 정리

작업 7. 로그 탐색기에서 Model Armor 로그 보기

이 작업에서는 Cloud Logging에서 Model Armor 정리 작업 로그를 검사하여 프롬프트 및 응답 검사 세부정보, 필터 일치 항목과 평가 메타데이터를 검토합니다.

1. Google Cloud 콘솔 탐색 메뉴에서 모니터링 > 로그 탐색기를 클릭합니다.

2. 쿼리 창에 다음 로그 쿼리를 입력합니다.

modelarmor

3. (쿼리 실행 옆 오른쪽 상단에 있는) 기간 필터가 지난 1시간으로 설정되어 있는지 확인합니다.

4. 쿼리 실행을 클릭합니다.

5. 반환된 로그 항목을 검사하여 Model Armor 정리 결과와 필터 평가 세부정보를 검토합니다.

수고하셨습니다

Model Armor 템플릿을 만들고, Sensitive Data Protection 검사 및 익명화 템플릿을 구성하고, 프롬프트와 모델 응답을 실행하여 민감한 정보를 검사 및 익명화하고, 로그 탐색기에서 정리 로그를 확인하는 실습을 완료했습니다.

설명서 최종 업데이트: 2026년 8월 24일

실습 최종 테스트: 2026년 8월 24일

Copyright 2026 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.