הזיית AI (AI hallucination) היא מצב שבו מודל שפה קובע עובדה שגויה באותה נימה בטוחה ורהוטה שבה הוא מציג עובדה נכונה — לא כי הוא 'משקר', אלא כי הוא מייצר את רצף המילים הסביר ביותר מבחינה סטטיסטית, ולא בודק עובדה מול מקור אמיתי. ההבדל הזה קריטי לכל מי שמשתמש ב-AI לעבודה אמיתית: ציטוט מומצא, נתון שגוי, או סעיף משפטי שלא קיים, יכולים להיראות זהים לחלוטין למידע נכון עד שמישהו בודק אותם. המדריך הזה מסביר מהי הזיה, למה היא קורית, אילו טכניקות מעשיות מפחיתות את התדירות שלה, ולמה — עם הטכנולוגיה הקיימת היום — אי אפשר לחסל אותה לגמרי.
מהי הזיית AI, בדיוק?
הזיה היא כל תוצר שבו מודל AI מציג מידע מומצא כעובדה — מחקר שמעולם לא פורסם, תקדים משפטי שלא קרה, תאריך שגוי, פיצ'ר שלמוצר אין בכלל. המאפיין המרכזי אינו שהמודל טועה — גם בני אדם טועים, כל הזמן. המאפיין המרכזי הוא שאין למודל שום ירידה ברמת הביטחון כשהוא טועה. למודל שפה גדול אין ערוץ נפרד המובנה באופן שבו הוא כותב שמסמן חוסר ודאות — שפה רהוטה ותקיפה היא סגנון ברירת המחדל שלו בכתיבה, בין אם הטענה מדויקת ובין אם היא מומצאת, וזו בדיוק הסיבה שקשה כל כך לזהות הזיה.
למה בכלל קורות הזיות אצל מודלים של AI?
מודלי שפה מאומנים לחזות את המילה הבאה הכי סבירה בהתחשב בכל מה שנכתב לפניה, על סמך דפוסים שנלמדו מכמויות עצומות של טקסט — לא לבדוק עובדות מול מסד נתונים מאומת ברגע המענה. כשהשאלה נוגעת במשהו נדיר, סותר, או מחוץ לנתוני האימון של המודל, אין לו מנגנון מובנה שאומר לו שהוא לא יודע את התשובה. במקום שתיקה או הודעת שגיאה, הוא מייצר את ההמשך הנשמע הכי סביר שהוא מסוגל, וההמשך הזה יכול להיות מומצא לגמרי. הבעיה מחמירה עם פרטים ספציפיים — שמות, תאריכים, מספרים, ציטוטים, מקורות — בדיוק סוג הפרטים שהמודל צפוי סטטיסטית לטעות בהם, גם כשהוא נשמע בטוח לחלוטין.
איך מפחיתים בפועל הזיות AI?
אין פתרון בודד שמחסל הזיות לגמרי, אבל ארבע טכניקות מעשיות מפחיתות באופן אמין את תדירותן, וכל אחת מטפלת בחלק אחר של הבעיה הבסיסית:
- ביסוס המודל על נתונים אמיתיים (RAG). במקום להסתמך על מה שהמודל 'שינן' באימון, יצירה מבוססת-אחזור (Retrieval-Augmented Generation) מזינה אותו במסמכים האמיתיים שלכם, ברשומות מסד הנתונים, או בתוצאות חיפוש בזמן המענה, כך שהוא נשען על טקסט אמיתי במקום לנחש.
- דרישה לציטוט מקורות. כשמבקשים מהמודל לציין בדיוק מאיפה הגיעה כל טענה — מסמך, עמוד, מקור ספציפי — הופכים אמירה שאי אפשר לאמת לכל דבר שבן אדם יכול לבדוק במהירות, ומודלים המבוססים על מקורות שאוחזרו נוטים להזות פחות כי יש טקסט אמיתי שאליו הם מפנים.
- צמצום היקף המשימה. שאלה פתוחה נותנת למודל הרבה יותר מרחב להמציא מאשר משימה מוגבלת. בקשה לסכם מסמך ספציפי או לחלץ תאריכים מוזכרים בטקסט נתון מייצרת תוצרים אמינים הרבה יותר מאשר בקשה להסביר נושא רחב מהזיכרון.
- הוספת שלב אימות אנושי לתשובות בסיכון גבוה. כל דבר עם השלכות אמיתיות — משפטי, רפואי, פיננסי, או כל תוכן שמתפרסם בשמכם — מצדיק בדיקה אנושית של התוצר מול מקור לפני שהוא בשימוש, במקום לסמוך עליו ישירות.
האם אפשר לחסל הזיות AI לגמרי?
לא — לא עם הטכנולוגיה הקיימת כיום. ביסוס על נתונים אמיתיים, ציטוט מקורות, צמצום המשימה ובדיקה אנושית — כולם מפחיתים משמעותית את התדירות והחומרה של הזיות, אבל אף אחד מהם לא משנה את המנגנון הבסיסי: המודל עדיין מייצר את הטקסט הכי סביר סטטיסטית, מערכות אחזור בעצמן עלולות לאחזר את המסמך הלא נכון, והמודל עלול לקרוא או לצטט לא נכון מקור אמיתי שסופק לו. התייחסו לטכניקות האלה כאמצעי להפחתת סיכון, לא כערבות מוחלטת — ככל שהשימוש קריטי יותר, כך נדרש יותר אימות, לא משנה כמה בקפידה נבנתה המערכת סביב המודל.
דרך מהירה להעריך סיכון
שאלו שלוש שאלות לפני שסומכים על תשובת AI בנושא חשוב: האם היא מבוססת על מקור אמיתי שאני יכול לבדוק בעצמי? האם היא מציינת מאיפה הגיעה הטענה? האם אדם בדק אותה לפני השימוש? ככל שיש יותר תשובות 'לא', כך עולה סיכון ההזיה.
שאלות נפוצות
איך אני יודע אם תשובת AI היא הזיה?
אין סימן מושלם, אבל החזק ביותר הוא חוסר יכולת אימות: אם המודל לא יכול להצביע על מקור אמיתי וניתן לבדיקה עבור טענה ספציפית — ציטוט, מסמך, קישור — כדאי להתייחס אליה כלא מאומתת. השוואת פרטים ספציפיים כמו שמות, תאריכים, נתונים סטטיסטיים וציטוטים מול מקור עצמאי היא הדרך האמינה ביותר לתפוס הזיה לפני שהיא גורמת לבעיה.
האם RAG (יצירה מבוססת-אחזור) מונע הזיות לגמרי?
לא. RAG מפחית הזיות משמעותית על ידי ביסוס תשובות על מסמכים שאוחזרו במקום על זיכרון המודל, אבל הוא לא מחסל אותן לגמרי — שלב האחזור עצמו עלול למשוך את המסמך הלא נכון, או שהמודל עדיין עלול לפרש או לצטט לא נכון מקור אמיתי שסופק לו. הוא מוריד את הסיכון באופן משמעותי, לא מסיר אותו.
למה AI נשמע כל כך בטוח בעצמו גם כשהוא טועה?
כי ביטחון ודיוק הם שני דברים נפרדים לגמרי באופן שבו המודלים האלה מייצרים טקסט. מודל שפה מייצר שפה רהוטה ותקיפה כסגנון ברירת מחדל, בלי קשר לנכונות הטענה הבסיסית — אין לו מנגנון מובנה שמנמיך את הטון שלו כשהוא לא בטוח, כפי שבן אדם עושה באופן טבעי כשהוא מסתייג בדבריו.
האם הזיית AI זה אותו דבר כמו AI ש'משקר'?
לא. שקר מרמז על כוונה להטעות, ולמודל שפה אין כוונה בכלל — הוא חוזה טקסט סביר, לא בוחר להטעות מישהו. הזיה היא תוצר לוואי של האופן שבו המודל מייצר שפה, לא מעשה מכוון, וזו בדיוק הסיבה שהיא יכולה להופיע במערכת שאין לה שום מניע להטעות אף אחד.