이 과정은 Transformer 아키텍처와 BERT(Bidirectional Encoder Representations from Transformers) 모델을 소개합니다. 셀프 어텐션 메커니즘 같은 Transformer 아키텍처의 주요 구성요소와 이 아키텍처가 BERT 모델 빌드에 사용되는 방식에 관해 알아봅니다. 또한 텍스트 분류, 질문 답변, 자연어 추론과 같이 BERT를 활용할 수 있는 다양한 작업에 대해서도 알아봅니다. 이 과정은 완료하는 데 대략 45분이 소요됩니다.
이 과정에서는 신경망이 입력 시퀀스의 특정 부분에 집중할 수 있도록 하는 강력한 기술인 주목 메커니즘을 소개합니다. 주목 메커니즘의 작동 방식과 이 메커니즘을 다양한 머신러닝 작업(기계 번역, 텍스트 요약, 질문 답변 등)의 성능을 개선하는 데 활용하는 방법을 알아봅니다.
이 과정은 기계 번역, 텍스트 요약, 질의 응답과 같은 시퀀스-투-시퀀스(Seq2Seq) 작업에 널리 사용되는 강력한 머신러닝 아키텍처인 인코더-디코더 아키텍처에 대한 개요를 제공합니다. 인코더-디코더 아키텍처의 기본 구성요소와 이러한 모델의 학습 및 서빙 방법에 대해 알아봅니다. 해당하는 실습 둘러보기에서는 TensorFlow에서 시를 짓는 인코더-디코더 아키텍처를 처음부터 간단하게 구현하는 코딩을 해봅니다.
이 과정에서는 데이터-AI 수명 주기를 지원하는 Google Cloud 빅데이터 및 머신러닝 제품과 서비스를 소개합니다. Google Cloud에서 Vertex AI를 사용하여 빅데이터 파이프라인 및 머신러닝 모델을 빌드하는 프로세스, 문제점 및 이점을 살펴봅니다.
디지털 혁신은 현대 조직에 있어 중요한 여정이며, 의미 있는 혁신으로 나아가기 위해서는 가장 먼저 클라우드 컴퓨팅에 대한 강력한 기준을 수립해야 합니다. 'Google Cloud를 통한 디지털 혁신' 과정에서는 조직이 운영을 현대화하는 데 도움이 되는 핵심 기술과 전략적 프레임워크를 소개합니다. 이 과정에서는 기본적인 클라우드 개념, 글로벌 네트워크 인프라, 공동 책임 모델을 살펴보고 리더가 클라우드로의 전환을 자신 있게 이끌 수 있도록 지원합니다. Cloud Digital Leader 학습 과정의 일부인 이 과정은 개인이 자신의 역할에서 성장하고 비즈니스의 미래를 구축할 수 있도록 돕는 것을 목표로 합니다.