הנה שיחה שמתרחשת לעיתים קרובות יותר משנדמה.
לקוח פונה לנציג תמיכה כדי לפתור בעיה. במהלך השיחה הוא משתף פרטי חשבון נפוצים, כמו שם, כתובת אימייל, מספר טלפון או מזהה לקוח. לפעמים לקוחות משתפים יותר מדי: מספר תעודת זהות, פרטי כרטיס אשראי או מידע רפואי כמו אבחנה או שם של תרופה.
השאלה פשוטה אבל קריטית: מה צריך לקרות למידע הזה מעכשיו?
ב-Maven AGI אנחנו מבחינים בבירור בין מידע מאושר לבין מידע רגיש שאין בו צורך. רק מידע שאושר במפורש לתרחיש שימוש מסוים רשאי להיכנס לצנרת העיבוד של ה-AI. כל מידע רגיש שאין בו צורך מזוהה ומושחר אוטומטית כבר בשלב הקליטה — לפני שניתן להשתמש בו להסקה של AI, לשלוח אותו לספקי מודלים חיצוניים, לרשום אותו ביומני ביקורת או להציג אותו בממשקי הנציגים.
בקרות אלה מבוססות מדיניות ועקביות. הן אינן משתנות משיחה לשיחה. הלקוחות מגדירים איזה מידע מאושר לתהליכי העבודה שלהם, ו-Maven AGI אוכפת את המדיניות הזו באופן עקבי בכל הפלטפורמה.
זו לא יכולת שנוספה בדיעבד. כך המערכת תוכננה מהיום הראשון.
בעיית האמון ב-AI ארגוני
אימוץ AI בארגונים כבר לא מוגבל על ידי יכולות המודלים — הוא מוגבל על ידי אמון.
ארגונים שבוחנים פלטפורמות AI שיחתי שואלים את אותן שאלות מעשיות: האם המערכת יכולה לטפל בבטחה במידע רגיש של לקוחות? איך היא מונעת חשיפה מיותרת של מידע בסיכון גבוה? איך מוכיחים את אפקטיביות הבקרות למבקרים, לרגולטורים וללקוחות? האם אפשר להטמיע AI בסביבות מפוקחות בלי ליצור סיכון חדש?
אלה לא חששות תיאורטיים. כשלקוח ארגוני עם דגש חזק על אבטחה בחן את מערך הציות של Maven, התגובה המיידית שלו הייתה: הדירקטוריון שלנו יהיה מרוצה מאוד. התגובה הזו חרגה מעבר ליכולות. היא שיקפה ביטחון שהטמעת AI לא תיצור חבות בתחום הממשל התאגידי או הציות.
אבטחה כחלק מהארכיטקטורה, לא כתוספת
הגישה של Maven מבוססת על עיקרון פשוט: אבטחה מואצלת.
אנחנו לא מבקשים מהלקוחות לאמץ מודל זהויות או הרשאות חדש. במקום זאת, אנחנו משתלבים במערכות שהם כבר סומכים עליהן. הלקוחות מגדירים את מדיניות הגישה, ו-Maven AGI אוכפת אותה באופן עקבי.
זה חשוב כי דרישות אבטחה אינן אחידות. תעשיות וארגונים שונים פועלים תחת מגבלות רגולטוריות, תפעוליות ומגבלות סיכון שונות. אבטחה בגודל אחד לכולם פשוט לא עובדת.
ברמה הכללית, Maven AGI מספקת שילוב עם מערכות זהות ארגוניות, בקרת גישה מבוססת תפקידים, אימות חזק למשתמשים מורשים, רישום ביקורת מקיף, הצפנה בתעבורה ובמנוחה, הפרדה בין דיירים ובדיקות אבטחה בלתי תלויות שוטפות.
אבטחת המוצר: השכבה הייחודית ל-AI
בקרות אבטחה מסורתיות נחוצות, אבל הן לא מספיקות. מערכות AI מביאות איתן תרחישי כשל חדשים שדורשים אמצעי הגנה נוספים.
מידע מאושר נכנס. מידע רגיש מיותר נשאר בחוץ. Maven AGI משתמשת במודל של רשימת היתרים שמוגדרת על ידי הלקוח ונאכפת באמצעות מדיניות. רכיבי מידע מאושרים — כמו שמות, כתובות אימייל, מספרי טלפון ומזהי חשבון — מותרים כשהם נדרשים לתהליכי התמיכה. מידע רגיש בסיכון גבוה שאין בו צורך, כמו מספרי תעודת זהות, פרטי חשבונות פיננסיים או פרטים רפואיים, מזוהה ומושחר בשלב הקליטה. ההשחרה מתבצעת לפני קריאות למודלים חיצוניים, אחסון לטווח ארוך, רישום ביקורת או הצגה בממשקי הנציגים.
מידע של לקוחות אינו משמש לאימון מודלים. Maven AGI אינה משתמשת במידע של לקוחות לאימון או לכוונון של מודלי יסוד. מידע של לקוחות אינו מאוגד ואינו ממוחזר לשיפור מודלים.
בטיחות ועמידות בפני התקפות. הפלטפורמה מתוכננת לזהות תוכן מזיק ולהתגונן מפני איומים ייחודיים ל-AI, כולל prompt injection, ניסיונות הסוואה וטקטיקות שנועדו לחלץ מידע רגיש או לעקוף את התנהגות המערכת.
תשובות מבוססות מקורות עם יכולת מעקב. התשובות מבוססות על מקורות ידע שאושרו על ידי הלקוח. המשתמשים יכולים לראות על איזה מידע התבססה כל תשובה, מה שמצמצם תשובות לא מבוססות ומשפר את יכולת הביקורת.
פיקוח אנושי כחלק מהתכנון. כשאוטומציה אינה מתאימה, Maven AGI תומכת בהעברה לנציגים אנושיים על סמך אותות שניתנים להגדרה, כמו ספי ביטחון, בקשות לקוח או סממני סיכון בשיחה. הנציגים מקבלים את ההקשר המלא, כך שהלקוחות לא צריכים לחזור על עצמם.
אימות באמצעות ביקורות בלתי תלויות
בקרות חזקות חשובות. אימות בלתי תלוי מחזק את האמון.
נוהלי האבטחה, הפרטיות וממשל ה-AI של Maven מאומתים באמצעות ביקורות והסמכות של צד שלישי, כולל ISO/IEC 27001:2022 (ניהול אבטחת מידע), SOC 2 Type II (בקרות אבטחה, זמינות וסודיות), ISO/IEC 27017 (בקרות אבטחת ענן), ISO/IEC 27018 (הגנה על מידע אישי בסביבות ענן), PCI-DSS v4.0 Level 1 AOC, HIPAA/HITECH עם אפשרות ל-BAA, ISO/IEC 27701 (ניהול מידע פרטיות) ו-ISO/IEC 42001 (מערכת ניהול AI).
ISO/IEC 42001 מספק אימות בלתי תלוי לכך שמערכות ה-AI של Maven מנוהלות באמצעות מדיניות מוגדרת, ניטור וניהול אירועים — ולא פשוט מוטמעות ונשארות ללא פיקוח.
אבטחה וממשל בסביבות ארגוניות מפוקחות
הסמכות הן חשובות, אבל הן חלק ממערכת רחבה יותר.
המדד האמיתי להצלחה הוא האם ארגונים יכולים להטמיע AI בביטחון: לדעת שהמידע שלהם מוגן, שהם עומדים בחובותיהם ושמערכות ה-AI שלהם מתנהגות באופן צפוי ואחראי בסביבת הייצור.
אם אתם בוחנים AI שיחתי לארגון או לתעשייה מפוקחת, אלה השאלות שכדאי לשאול ספקים: איזה מידע מותר במפורש להיכנס למערכת ה-AI? היכן ומתי מושחר מידע רגיש שאין בו צורך? האם מידע של לקוחות משמש לאימון מודלים? אילו הסמכות הושגו בפועל? האם ניתן להטמיע את המערכת on-premises במידת הצורך? איך מטופלות התקפות prompt injection והתקפות אחרות הייחודיות ל-AI? מה קורה כשה-AI מעביר את השיחה לנציג אנושי — האם הלקוח צריך להתחיל מההתחלה?
ב-Maven AGI, אבטחה וממשל AI אינם מחשבה שנייה או סיסמה שיווקית. הם התשתית הארכיטקטונית שמאפשרת אימוץ AI בארגונים.
כדי לראות את הגישה הזו בפעולה, בקשו הדגמה או בקרו בTrust Center שלנו.
ראו את זה על השיחות שלכם.
בקשו הדגמה מותאמת אישית ללא עלות.
