הזיות AI

מהי הזיית AI?

הזיית AI מתרחשת כשמערכת בינה מלאכותית מייצרת פלט שגוי עובדתית, מומצא או שאינו נתמך בנתוני האימון או בחומרי המקור שלה. בהקשר של מודלי שפה גדולים (LLMs), הזיה פירושה שהמודל מייצר טקסט רהוט ובטוח בעצמו שמכיל עובדות מומצאות, ציטוטים שאינם קיימים או טענות שגויות. המונח שואב את ההשראה מהזיה אנושית: המערכת תופסת (או מייצרת) משהו שלא קיים.

בשירות לקוחות, הזיית AI היא לא בעיה מחקרית מופשטת אלא סיכון תפעולי מוחשי. כשסוכן AI ממציא מדיניות החזרות, בודה פיצ'ר במוצר או מוסר יתרת חשבון שגויה, הוא שוחק את אמון הלקוחות ויוצר חשיפה משפטית. לפי מדד של AIMultiple שעודכן בינואר 2026, יותר מ-15% מהפלטים של 37 LLMs שנבדקו הכילו תוכן הוזה, ו-77% מהעסקים מציינים הזיות כאחד החששות המרכזיים בפריסת AI.

איך נוצרות הזיות AI

ההזיות נובעות מהאופן שבו LLMs מאומנים. LLMs חוזים את הטוקן הבא הסביר ביותר ברצף. המטרה הזו מתגמלת רהיטות וסבירות, לא דיוק עובדתי. המודל למד דפוסים סטטיסטיים ומייצר טקסט שמתאים להם, לא עובדות מאומתות.

שלושה גורמים עיקריים מובילים להזיות. הראשון, בעיות בנתוני האימון: מידע רועש, מוטה או מיושן בקורפוס האימון המקדים מטמיע אי-דיוקים במודל. השני, אי-התאמה במטרה: מטרת חיזוי הטוקן הבא מעודדת המשך סביר על פני כנות אפיסטמית. השלישי, שבריריות השליפה: במערכות RAG, אם ההקשר שנשלף חלקי או לא רלוונטי, המודל עלול להזות כדי למלא את החסר.

סוגים עיקריים של הזיות AI

הזיה פנימית: הפלט סותר את חומר המקור שסופק למודל. לדוגמה, סוכן AI שמסכם מאמר ממאגר הידע עלול לטעון את ההפך ממה שכתוב במאמר.

הזיה חיצונית: הפלט כולל מידע שאי אפשר לאמת באף מקור שסופק. זה הדפוס הקלאסי של "המצאת דברים", כמו ציטוט מחקר שלא קיים או בדיית מפרט מוצר.

הזיית ישויות ומספרים: המודל מחליף ישות אחת באחרת (מייחס פיצ'ר למוצר הלא נכון) או ממציא מספרים, תאריכים ומחירים. סוגים אלה מסוכנים במיוחד בשירותים פיננסיים, בחיוב ובניהול הזמנות.

למה הזיות AI חשובות לחוויית הלקוח

בשירות לקוחות, דיוק הוא לא אופציה. תשובה הוזה עלולה לגרום ללקוח לקבל מחיר שגוי, שלבי פתרון תקלות לא נכונים או מדיניות מומצאת שהחברה תיאלץ לכבד או להתווכח עליה. העלויות בהמשך הדרך כוללות החזרים כספיים, הסלמות, הפרות ציות ונזק קבוע לאמון במותג.

Gartner מזהה הזיות כחסם מרכזי לאימוץ AI גנרטיבי בארגונים, וממליצה על מענה רב-שכבתי, כולל עיגון באמצעות שליפה, כוונון עדין של המודל ואימות לאחר היצירה, כרכיבים חיוניים בכל פריסת AI בסביבת ייצור.

האתגר מחריף בהיקפים גדולים. ארגון שמטפל במיליוני אינטראקציות בשנה לא יכול לבדוק ידנית כל תשובה שה-AI מייצר. אסטרטגיית ההתמודדות צריכה להיות מובנית בארכיטקטורת המערכת, ולא להתווסף בדיעבד.

איך מצמצמים הזיות AI

Retrieval-Augmented Generation ‏(RAG): עיגון כל תשובה במסמכי מקור שנשלפים ממאגר ידע מאומת. RAG לא מבטל הזיות, אבל מצמצם משמעותית את טווח מה שהמודל יכול לייצר.

עיגון בגרף ידע: שימוש בגרפי ידע כדי לספק הקשר מובנה ועובדתי, במקום להסתמך רק על שליפת טקסט לא מובנה. לתשובות שמעוגנות בגרף יש שרשרת היסק שניתנת לאימות.

אימות לאחר היצירה: הפעלת מודולים לבדיקת עובדות, ספי ביטחון ובודקי ציטוטים אחרי היצירה. אם אי אפשר לקשר את הפלט של המודל למקור, מסמנים אותו לבדיקה או נמנעים ממתן תשובה.

אי-ודאות מכוילת: מחקר עדכני (arXiv, 2025) על למידת חיזוק מכוילת התנהגותית מאמן מודלים לדווח על רמות ביטחון כנות ולהימנע ממתן תשובה כשהם לא בטוחים, במקום לנחש.

כוונון עדין ייעודי לתחום: כוונון מודלים על נתונים איכותיים ונבחרים מהתחום, כדי לצמצם את השפעת הנתונים הרועשים מהאימון המקדים על הפלטים בתחומים מתמחים.

היתרון של Maven

הפלטפורמה של Maven AGI בנויה לצמצם הזיות בכל שכבה. המערכת משתמשת ב-RAG מרובה מקורות שמעוגן בנתונים ארגוניים מאומתים, בזיהוי כוונות כדי למקד את התשובות בדיוק, ובאימות לאחר היצירה כדי לוודא את הדיוק לפני שהתשובה מגיעה ללקוח. כשרמת הביטחון נמוכה, Maven מעבירה את הפנייה לנציג אנושי באמצעות AI Copilot במקום לנחש.

Check, חברת טכנולוגיה ממשלתית, השיגה 85% דיוק בשאילתות רגולציה וציות מורכבות עם Maven AGI. זו הוכחה שדיוק ברמה ארגונית אפשרי גם בתחומים רגישים, שבהם להזיות יש השלכות ממשיות.

לקריאה נוספת על מחקר ההזיות, עיינו בסקירה מקיפה על טכניקות לצמצום הזיות מ-arXiv, או במחקר של Stanford HAI על הזיות AI.

שאלות נפוצות

האם אפשר לבטל הזיות AI לחלוטין?

אף טכניקה קיימת לא מבטלת הזיות לגמרי. המטרה היא לצמצם אותן לרמה שמקובלת לשימוש הספציפי, ולבנות מערכות שמזהות אותן ומטפלות בהן בצורה מבוקרת. מערכות בסביבת ייצור צריכות לשלב כמה שכבות הגנה (RAG, אימות, אי-ודאות מכוילת, העברה לנציג אנושי) כדי למזער את הסיכון ואת ההשפעה של פלטים הוזים.

איך מזהים הזיות AI בסביבת ייצור?

שיטות הזיהוי כוללות בדיקות ייחוס למקור (האם אפשר לקשר את הפלט למסמך שנשלף?), דירוג עקביות סמנטית (האם התשובה סותרת את חומר המקור?), ספי ביטחון (האם רמת הוודאות של המודל נמוכה מהרמה הבטוחה?) ודגימה עם מעורבות אנושית, שבה בודקים משווים מדגם אקראי של תשובות AI מול נתוני המקור.

האם RAG מספיק כדי למנוע הזיות?

RAG מצמצם משמעותית הזיות באמצעות עיגון היצירה במסמכים שנשלפו, אבל לבדו הוא לא מספיק. אם ההקשר שנשלף חלקי, מיושן או לא רלוונטי, המודל עדיין עלול להזות כדי למלא את החסר. מערכות אפקטיביות משלבות RAG עם עיגון בגרף ידע, אימות לאחר היצירה והעברה לנציג על בסיס רמת ביטחון.

למה LLMs הוזים גם כשהם מקבלים מידע נכון?

LLMs מעבדים מידע באופן הסתברותי, לא לוגי. גם כשההקשר הנכון נמצא בפרומפט, חיזוי הטוקן הבא עלול לסטות מחומר המקור, במיוחד בפלטים ארוכים או כשהמקור דורש היסק רב-שלבי. לכן שכבות אימות הן חיוניות: תהליך היצירה עצמו מכניס אי-ודאות, בלי קשר לאיכות הקלט.