טמפרטורה: למה כל פעם יוצאת תשובה אחרת

כל מילה היא הגרלה

בכל צעד, המודל מחשב סיכוי לכל טוקן אפשרי, ואז מגריל אחד לפי הסיכויים. הטמפרטורה משנה את ההגרלה:

• טמפרטורה נמוכה: המילה הכי סבירה מקבלת כמעט את כל הסיכוי. התשובות צפויות ועקביות.
• טמפרטורה גבוהה: הסיכויים מתאזנים, ומילים פחות צפויות מקבלות הזדמנות. התשובות מגוונות ומפתיעות יותר, ולפעמים מוזרות.

בטמפרטורה נמוכה, "קפה" יוצא כמעט תמיד. בגבוהה, גם "יין" בבוקר מתחיל להופיע. עכשיו דמיינו את זה על כל מילה בתשובה של 300 מילים: הבחירות הקטנות מצטברות לתשובה אחרת לגמרי.

מתי רוצים מה?

באפליקציות כמו ChatGPT ו-Claude אין כפתור טמפרטורה, והן בוחרות בשבילכם ערך מאוזן. מפתחים שעובדים דרך API יכולים לקבוע אותה. אבל גם בצ'אט, אפשר להשיג את אותו אפקט במילים.

• רוצים יצירתיות? "תן 10 רעיונות שונים מאוד זה מזה, כולל כמה משוגעים", או לחצו "תשובה מחדש" כמה פעמים.
• רוצים עקביות? כללים ברורים, פורמט קבוע ודוגמה. ככה גם עם הגרלה, התשובה נשארת באותה מסגרת.