Ti Jiang
Member since 2023
Gold League
2404 points
Member since 2023
In this Google DeepMind course you will learn how to prepare text data for language models to process. You will investigate the tools and techniques used to prepare, structure, and represent text data for language models, with a focus on tokenization and embeddings. You will be encouraged to think critically about the decisions behind data preparation, and what biases within the data may be introduced into models. You will analyze trade-offs, learn how to work with vectors and matrices, how meaning is represented in language models. Finally, you will practice designing a dataset ethically using the Data Cards process, ensuring transparency, accountability, and respect for community values in AI development.
In this Google DeepMind course, you will learn the fundamentals of language models and gain a high-level understanding of the machine learning development pipeline. You will consider the strengths and limitations of traditional n-gram models and advanced transformer models. Practical coding labs will enable you to develop insights into how machine learning models work and how they can be used to generate text and identify patterns in language. Through real-world case studies, you will build an understanding around how research engineers operate. Drawing on these insights you will identify problems that you wish to tackle in your own community and consider how to leverage the power of machine learning responsibly to address these problems within a global and local context.
בקורס הזה נציג את הארכיטקטורה של טרנספורמרים ואת המודל של ייצוגים דו-כיווניים של מקודד מטרנספורמרים (BERT). תלמדו על החלקים השונים בארכיטקטורת הטרנספורמר, כמו מנגנון תשומת הלב, ועל התפקיד שלו בבניית מודל BERT. תלמדו גם על המשימות השונות שאפשר להשתמש ב-BERT כדי לבצע אותן, כמו סיווג טקסטים, מענה על שאלות והֶקֵּשׁ משפה טבעית. נדרשות כ-45 דקות כדי להשלים את הקורס הזה.
בקורס נלמד על מנגנון תשומת הלב, שיטה טובה מאוד שמאפשרת לרשתות נוירונים להתמקד בחלקים ספציפיים ברצף הקלט. נלמד איך עובד העיקרון של תשומת הלב, ואיך אפשר להשתמש בו כדי לשפר את הביצועים במגוון משימות של למידת מכונה, כולל תרגום אוטומטי, סיכום טקסט ומענה לשאלות.
בקורס הזה לומדים בקצרה על ארכיטקטורת מקודד-מפענח, ארכיטקטורה עוצמתית ונפוצה ללמידת מכונה שמשתמשים בה במשימות של רצף לרצף, כמו תרגום אוטומטי, סיכום טקסט ומענה לשאלות. תלמדו על החלקים השונים בארכיטקטורת מקודד-מפענח, איך לאמן את המודלים האלה ואיך להשתמש בהם. בהדרכה המפורטת המשלימה בשיעור ה-Lab תקודדו ב-TensorFlow תרחיש שימוש פשוט בארכיטקטורת מקודד-מפענח: כתיבת שיר מאפס.
בקורס נלמד על מודלים של דיפוזיה, משפחת מודלים של למידת מכונה שיצרו הרבה ציפיות לאחרונה בתחום של יצירת תמונות. מודלים של דיפוזיה שואבים השראה מפיזיקה, וספציפית מתרמודינמיקה. בשנים האחרונות, מודלים של דיפוזיה הפכו לפופולריים גם בתחום המחקר וגם בתעשייה. מודלים של דיפוזיה עומדים מאחורי הרבה מהכלים והמודלים החדשניים ליצירת תמונות ב-Google Cloud. בקורס הזה נלמד על התיאוריה שמאחורי מודלים של דיפוזיה, ואיך לאמן ולפרוס אותם ב-Vertex AI.
רוצים לקבל תג מיומנות? אפשר להשלים את הקורסים Introduction to Generative AI, Introduction to Large Language Models ו-Introduction to Responsible AI. מעבר של המבחן המסכם מוכיח שהבנתם את המושגים הבסיסיים בבינה מלאכותית גנרטיבית. 'תג מיומנות' הוא תג דיגיטלי ש-Google מנפיקה, שמוכיח שאתם מכירים את המוצרים והשירותים של Google Cloud. כדי לשתף את תג המיומנות אפשר להפוך את הפרופיל שלכם לגלוי לכולם ולהוסיף אותו לפרופיל שלכם ברשתות חברתיות.
זהו קורס מבוא ממוקד שמטרתו להסביר מהי אתיקה של בינה מלאכותית, למה היא חשובה ואיך Google נוהגת לפי כללי האתיקה של הבינה המלאכותית במוצרים שלה. מוצגים בו גם 7 עקרונות ה-AI של Google.
זהו קורס מבוא ממוקד שבוחן מהם מודלים גדולים של שפה (LLM), איך משתמשים בהם בתרחישים שונים לדוגמה ואיך אפשר לשפר את הביצועים שלהם באמצעות כוונון של הנחיות. הוא גם כולל הסבר על הכלים של Google שיעזרו לכם לפתח אפליקציות בינה מלאכותית גנרטיבית משלכם.
זהו קורס מבוא ממוקד שמטרתו להסביר מהי בינה מלאכותית גנרטיבית, איך משתמשים בה ובמה היא שונה משיטות מסורתיות של למידת מכונה. הוא גם כולל הסבר על הכלים של Google שיעזרו לכם לפתח אפליקציות בינה מלאכותית גנרטיבית משלכם.