איך מודל לומד מטעויות
- להבין שאימון הוא תיקון של טעויות, צעד קטן אחרי צעד קטן
- לראות בעיניים איך הטעות קטנה עם כל צעד אימון
- להבין למה אימון של מודל גדול לוקח חודשים
בשיעור הקודם ראינו שהידע של מודל נמצא במשקלים, ושאיש לא קובע אותם ביד. אז איך הם נקבעים? בשיעור הזה תאמנו מודל קטן בעצמכם, ותראו בדיוק איך זה קורה.
אמנו את המודל בעצמכם
הנה מודל פשוט מאוד: קו ישר שמנסה לנחש ציון במבחן לפי שעות לימוד. יש לו רק שני משקלים: שיפוע (כמה כל שעה מוסיפה) ונקודת התחלה. הנקודות הכתומות הן תלמידים (לדוגמה), והקווים האדומים מראים כמה הקו טועה אצל כל אחד.
מה שעשיתם ביד הוא בדיוק מה שאימון עושה: מודדים כמה טועים, ומזיזים את המשקלים קצת לכיוון שמקטין את הטעות. ההבדל הוא שהמחשב יודע לחשב בדיוק לאיזה כיוון להזיז כל משקל, וכמה. לזה קוראים בעולם ה-AI "ירידה במדרון" (Gradient Descent): כמו לרדת במורד הר בערפל: לא רואים את העמק, אז עושים צעד קטן כל פעם, תמיד לכיוון שיורד.
ומה קורה במודל אמיתי?
אותו דבר בדיוק, רק בקנה מידה אחר לגמרי:
וגם הטעות שונה: במודל שפה, הטעות היא כמה רחוק הניחוש של המילה הבאה מהמילה האמיתית. בכל צעד המודל קורא קטע טקסט, מנחש, בודק כמה טעה, ומתקן את המשקלים קצת. אחרי מספיק צעדים, הניחושים כבר טובים מאוד.
למה צעדים קטנים?
אם המודל ישנה את המשקלים יותר מדי בכל פעם, הוא "יקפוץ" מעבר לפתרון הטוב, וינדנד. אם ישנה פחות מדי, האימון ייקח נצח. לגודל הצעד קוראים קצב למידה, והחוקרים בוחרים אותו בזהירות.
ועוד דבר חשוב: המודל לומד דפוסים מהדוגמאות, לא משנן אותן. בסימולציה, הקו לא עובר בדיוק דרך כל נקודה, אבל הוא תופס את הכיוון הכללי. ככה הוא יכול לנחש ציון גם לתלמיד שלא היה בדוגמאות.
- אימון = למדוד טעות, ולהזיז את המשקלים קצת לכיוון שמקטין אותה. שוב ושוב.
- במודל שפה הטעות היא כמה הניחוש של המילה הבאה רחוק מהאמת.
- צעדים קטנים (קצב למידה) ולומדים דפוסים, לא משננים.
🎉 כל הכבוד! סיימתם את שיעור 17.
לשיעור הבא: מילים כנקודות במפה ←