הטיות, ו-AI שמסכים איתכם יותר מדי
- להבין מאיפה מגיעות הטיות של AI
- לזהות שאלה מכוונת, ולשאול ניטרלי
- לבקש מ-AI ביקורת אמיתית ולא מחמאות
זה השיעור האחרון ביחידה, ואולי החשוב שבה. AI לא רק טועה בעובדות. הוא גם נוטה להגיד לכם את מה שאתם רוצים לשמוע, ומשקף הטיות מהטקסטים שעליהם התאמן. מי שמבין את זה, מקבל ממנו עצות טובות בהרבה.
AI שמסכים איתכם
זוכרים את שלב המשוב מבני אדם באימון? אנשים נוטים לדרג גבוה תשובות שמסכימות איתם ומחמיאות להם. לכן מודלים נוטים להסכים עם המשתמש, לפעמים יותר מדי. לזה קוראים חנפנות. החברות עובדות על זה, אבל זה עדיין קורה. והדרך שבה שואלים משפיעה מאוד על התשובה.
שלוש דרכים לקבל ביקורת אמיתית:
- לשאול ניטרלי: "מה בעד ומה נגד?" במקום "זה טוב, נכון?"
- לבקש שישחק את פרקליט השטן: "תהיה ביקורתי. מה החולשות הכי גדולות ברעיון שלי?"
- להסתיר של מי זה: "חבר שלח לי את התוכנית הזו, מה דעתך?". קל לו יותר לבקר כשזה "לא שלכם".
הטיות מהנתונים
המודל למד מטקסטים שבני אדם כתבו, ולכן הוא יכול לשקף את ההטיות שבהם: סטריאוטיפים על מקצועות ומגדר, יותר ידע על ארצות הברית מאשר על ישראל, נקודת מבט של מי שכתב הכי הרבה ברשת. החברות מנסות לצמצם את זה, אבל זה לא נעלם.
מה זה אומר בפועל? בהחלטות על אנשים, כמו גיוס עובדים, ציונים או הלוואות, לא סומכים על AI לבד. ותמיד אפשר לשאול: "האם יש פה הנחה שכדאי לבדוק?".
נסו בעצמכם: פרקליט השטן
חזרה על היחידה
- AI נוטה להסכים איתכם. שואלים ניטרלי, ומבקשים ביקורת במפורש.
- הוא משקף הטיות מהטקסטים שלמד מהם. בהחלטות על אנשים, לא סומכים עליו לבד.
- "פרקליט השטן" ו"חבר שלח לי את זה" הם שני טריקים שעובדים.
🎉 כל הכבוד! סיימתם את שיעור 25.
לשיעור הבא: איך בוחרים מודל ←