78% מהמנהלים הבכירים אינם בטוחים במידה רבה שיוכלו לעבור ביקורת ממשל AI בלתי תלויה בתוך 90 יום. הנתון הזה, מתוך הסקר של Grant Thornton בקרב 950 מנהלים בהנהלה הבכירה שפורסם החודש, מתמצת בעיה שקהילת הציות מנסה לנסח כבר זמן רב. רוב הארגונים מטמיעים AI שהם אינם יכולים להסביר, למדוד או להגן עליו. Grant Thornton קראה לזה פער ההוכחה של ה-AI.
להשלכות העסקיות יש משקל של ממש. ארגונים שבהם ה-AI משולב באופן מלא נוטים כמעט פי 4 לדווח על צמיחה בהכנסות בזכות AI לעומת ארגונים שעדיין בשלב הפיילוט: 58% לעומת 15%. כמעט מחציתם מציינים כשלים בממשל ובציות כגורם מרכזי לביצועי חסר של AI. ועם זאת, 3 מכל 4 דירקטוריונים אישרו השקעות AI גדולות, בעוד שכמעט מחציתם לא הגדירו ציפיות בתחום הממשל ולא הפכו את סיכוני ה-AI לנושא קבוע על סדר היום.
דירקטוריונים מאשרים השקעות AI בלי לשאול מה קורה כשמשהו משתבש.
ממשל הוא מה שמאפשר לשמור על הקצב לאורך זמן
פער הביטחון בנתונים מספר את הסיפור בבירור. בקרב ארגונים שעדיין בשלב הפיילוט, רק 7% בטוחים מאוד שיוכלו לעבור ביקורת ממשל בלתי תלויה בתוך 90 יום. בקרב ארגונים שבהם ה-AI משולב באופן מלא, הנתון עומד על 74%. מדובר בפער של פי 10, והוא תואם כמעט בדיוק את ההבדל בתוצאות העסקיות.
כשאפשר להראות איך התקבלה החלטה ומי אחראי לתוצאה, אין צורך להאט בכל פעם שתרחיש שימוש חדש מגיע לוועדת הסיכונים. יש מערכת שמטפלת בזה. לזה אנחנו ב-Maven AGI מתכוונים ב-"Built In, Not Bolted On": ממשל שמוטמע בפלטפורמה מההתחלה, ולא נוסף כשכבה לאחר מעשה. התאמה בדיעבד של ציות למערכת AI שכבר פרוסה יקרה יותר, משבשת יותר ואמינה הרבה פחות מאשר בנייה שלו מההתחלה.
בעיית התיאום בהנהלה הבכירה
הנתונים של Grant Thornton מצביעים על מתח שאני נתקל בו באופן קבוע. מנהלי מערכות מידע (CIO) ומנהלי טכנולוגיה (CTO) נוטים פי 5 יותר ממנהלי תפעול (COO) לומר שכוח האדם מוכן במלואו לאימוץ AI. ובאשר ל-AI אגנטי בפרט, 54% ממנהלי התפעול מודאגים מאי-ודאות רגולטורית ובתחום הציות, לעומת 20% בלבד ממנהלי מערכות המידע והטכנולוגיה.
הפער הזה בדאגה הוא כשלעצמו סיכון ממשל. מי שמטמיעים את הטכנולוגיה ומי שמנהלים את התפעול שהיא משפיעה עליו לא רואים את אותה תמונה. כשחוסר התיאום הזה נמשך, שאלות ממשל נדחות, כי הפונקציה שמודאגת מהן אינה מחזיקה בסמכות התקציבית, והפונקציה שמחזיקה בסמכות התקציבית אינה רואה בעיה.
AI אגנטי הוא פער האחריותיות הבא
החלק בסקר שראוי לתשומת הלב הרבה ביותר מצד צוותי הציות עוסק ב-AI אגנטי. כמעט 3 מכל 4 ארגונים כבר מעניקים ל-AI אגנטי גישה לנתונים ולתהליכים שלהם, בפיילוט, בהרחבה או בייצור. רק 1 מכל 5 מחזיק תוכנית תגובה לאירועים שנבדקה בפועל למקרה שהוא נכשל.
זו לא בעיה חדשה שדורשת תוכנית חדשה. לרוב הארגונים כבר יש את יכולת התגובה לאירועים מעולם הסייבר: ניטור רציף, זיהוי, נתיבי הסלמה מוגדרים, נתיבי ביקורת ואחריותיות ברורה. התשתית קיימת. מה שחסר הוא החיבור שלה להטמעת AI. ארגונים מתייחסים לממשל AI כאל תחום נפרד, בעוד שהיכולת שהם צריכים כבר קיימת אצלם ברובה.
בתחום חוויית הלקוח בארגונים בפרט, סוכני AI פותרים פניות, מעבדים תשלומים, קובעים פגישות וניגשים לנתוני חשבונות בהיקף רחב ובזמן אמת. לצוותי התפעול שאחראים לתוצאות הלקוחות ולציות הרגולטורי יש שאלות לגיטימיות: איך הסוכנים האלה מתנהגים במקרי קצה, מה קורה כשמשהו נכשל, והאם נתיב הביקורת עומד במבחן. השאלות האלה ראויות לתשובות ברמת המערכת, לא להבטחות בעל פה.
מה צוותי ציות בארגונים צריכים לעשות עכשיו
- מפו את החשיפה שלכם ל-AI אגנטי לפני שאתם מסדירים אותה. אי אפשר להחיל ממשל על מה שלא מופה. לרוב הארגונים אין תמונה מדויקת של מה שסוכני AI עושים, באילו נתונים הם נוגעים ובאיזו רמת אוטונומיה. זה הצעד הראשון ההכרחי, ורוב הארגונים עדיין לא עשו אותו.
- התייחסו לציות AI כתחום חי ומתמשך, לא כפרויקט שנתי. הדרישות של ה-EU AI Act ממערכות AI בסיכון גבוה ייכנסו לתוקף מלא ב-2 באוגוסט 2026. ISO 42001 מופיע ברשימות הבדיקה של רכש ארגוני בתדירות הולכת וגוברת. מחזורי סקירה שנתיים לא יכולים לעמוד בקצב.
- סגרו את פער התיאום בהנהלה הבכירה לפני שהוא הופך לאירוע. אם ל-CIO ול-COO שלכם יש תפיסות שונות מהותית לגבי מקור סיכוני ה-AI, חוסר התיאום הזה יצוף ככשל ולא כדיון תכנוני. הגדרות משותפות של מוכנות ל-AI, אחריותיות וסיכון צריכות להתקיים לפני ההטמעה.
- בנו ובדקו תוכנית תגובה לאירועי AI, לא מסמך מדיניות אלא פרוטוקול שנבדק בפועל. הגדירו בעלות, תעדו איך מערכות ה-AI מקבלות החלטות, ותרגלו את התגובה לפני שתזדקקו לה. ארגונים שעשו זאת בתחום הסייבר יכולים להסתגל מהר יחסית.
- דרשו אישור צד שלישי מספקי ה-AI שלכם. אם אתם מטמיעים פלטפורמת AI של ספק, מצב הציות שלו הוא חלק מהמצב שלכם. ספקים עם הסמכות אמיתיות משתפים אותן בלי היסוס.
המחיר של ההמתנה
פער ההוכחה של ה-AI הולך ומצטבר. כל שבוע של דחיית הממשל קשה יותר לסגירה מהשבוע שלפניו, כי כל יוזמה ללא ממשל מקשה למדוד את היוזמה הבאה ולהגן עליה.
הארגונים שבנו תשתית אחריותיות מוקדם כבר מתרחקים מהשאר, לא משום שהיו זהירים יותר אלא משום שהיו מוכנים יותר. הם יכולים להתרחב בביטחון. אלה שלא עשו זאת מנהלים סיכונים שלא תכננו.
אם אתם רוצים לראות איך Maven AGI ניגשת לאמון ולציות בפועל, ה-Trust Center שלנו פתוח לציבור בכתובת https://trust.mavenagi.com
אם אתם בוחנים פלטפורמות AI לחוויית לקוח (CX) בארגונים, נשמח לשיחה. לקביעת הדגמה: https://www.mavenagi.com/demo
ראו את זה על השיחות שלכם.
בקשו הדגמה מותאמת אישית ללא עלות.
