למה AI ממציא דברים, ואיך תופסים אותו

למה זה קורה

זוכרים שמודל שפה מנחש את המילה הבאה? הוא לא מחפש תשובה במאגר, אלא כותב את מה שנשמע לו הכי מתאים. אין לו נורה אדומה שנדלקת כשהוא לא יודע משהו. אז כשחסר לו מידע, הוא ממשיך לכתוב את מה שנשמע סביר.

וזה גם מה שהופך הזיות למסוכנות: הן נשמעות בדיוק כמו האמת. אותו טון בטוח, אותו ניסוח מקצועי. מודל לא "משקר", הוא פשוט לא מבחין בין מה שהוא יודע לבין מה שנשמע טוב.

הזיות נפוצות במיוחד ב:

• פרטים מדויקים: מספרים, תאריכים, אחוזים, מספרי טלפון וכתובות.
• מקורות: שמות של מחקרים, ספרים, כתבות וקישורים. לפעמים כל המקור מומצא.
• נושאים נישתיים: אנשים לא מוכרים, עסקים קטנים, חוקים מקומיים. על מה שהופיע מעט בטקסטים, הוא יודע מעט.
• דברים חדשים: מה שקרה אחרי שהאימון שלו נגמר, אם הוא לא מחפש באינטרנט.

מתי הסיכון גבוה

לא כל משימה מסוכנת באותה מידה. כשאתם מבקשים לנסח, לשפר או לחשוב על רעיונות, אין כמעט מה להמציא. כשאתם מבקשים עובדות, יש.

איך מצמצמים הזיות

אי אפשר להעלים הזיות לגמרי, אבל אפשר להקטין אותן מאוד. חמישה הרגלים פשוטים:

• תנו לו את המקור. הדביקו את המסמך, הכתבה או הטבלה, ובקשו: "ענה רק לפי הטקסט הזה".
• תנו לו רשות לא לדעת. כתבו: "אם אתה לא בטוח, תגיד שאתה לא יודע". זה נשמע פשוט, וזה עוזר.
• בקשו מקורות, ובדקו אותם. לחצו על הקישור וודאו שהוא קיים ושהוא באמת אומר את מה שהמודל טוען.
• הפעילו חיפוש באינטרנט כשאתם שואלים על דברים עדכניים. ברוב האפליקציות יש לזה כפתור או אפשרות.
• מה שחשוב, בודקים פעמיים. מספר, תאריך, שם או חוק שאתם עומדים להשתמש בו: בודקים במקור רשמי.

נסו בעצמכם: בקשו ממנו לסמן את מה שהוא לא בטוח בו

הנה פרומפט שמבקש מהמודל לדרג את הביטחון שלו בכל עובדה. זה לא מבטיח שהוא צודק, אבל זה מראה לכם מאיפה כדאי להתחיל לבדוק.