Ecco una conversazione che capita più spesso di quanto si pensi.
Un cliente sta lavorando con un agente di supporto per risolvere un problema. Durante lo scambio condivide dati comuni dell'account, come nome, indirizzo email, numero di telefono o un ID cliente. A volte, però, i clienti condividono più del necessario: un numero di previdenza sociale, i dati della carta di credito o informazioni mediche come una diagnosi o il nome di un farmaco.
La domanda è semplice ma cruciale: cosa deve succedere a quei dati?
In Maven AGI distinguiamo chiaramente tra informazioni approvate e informazioni sensibili non necessarie. Solo i dati esplicitamente approvati per un determinato caso d'uso possono entrare nella pipeline di elaborazione AI. Tutti i dati sensibili non necessari vengono rilevati e oscurati automaticamente al momento dell'acquisizione, prima che possano essere usati per l'inferenza AI, inviati a fornitori di modelli esterni, scritti nei log di audit o mostrati nelle interfacce degli agenti.
Questi controlli sono basati su policy e coerenti. Non vengono adattati conversazione per conversazione. I clienti definiscono quali informazioni sono approvate per i propri flussi di lavoro e Maven AGI applica queste policy in modo coerente su tutta la piattaforma.
Non è una funzionalità aggiunta a posteriori. È il modo in cui il sistema è stato progettato fin dal primo giorno.
Il problema della fiducia nell'AI enterprise
L'adozione dell'AI in azienda non è più limitata dalle capacità dei modelli, ma dalla fiducia.
Le organizzazioni che valutano piattaforme di AI conversazionale si pongono le stesse domande concrete: questo sistema può gestire in sicurezza i dati sensibili dei clienti? Come evita l'esposizione non necessaria di informazioni ad alto rischio? Come dimostriamo l'efficacia dei controlli ad auditor, enti regolatori e clienti? L'AI può essere adottata in ambienti regolamentati senza introdurre nuovi rischi?
Non sono preoccupazioni teoriche. Quando un cliente enterprise molto attento alla sicurezza ha esaminato la postura di compliance di Maven, la sua prima reazione è stata: il nostro consiglio di amministrazione ne sarà molto soddisfatto. Una reazione che andava oltre le funzionalità: era la certezza che adottare l'AI non avrebbe creato rischi di governance o di compliance.
La sicurezza come architettura, non come aggiunta
L'approccio di Maven si fonda su un principio semplice: la sicurezza delegata.
Non chiediamo ai clienti di adottare un nuovo modello di identità o di accesso. Ci integriamo invece con i sistemi di cui già si fidano. I clienti definiscono le policy di accesso e Maven AGI le applica in modo coerente.
È importante perché i requisiti di sicurezza non sono uniformi. Settori e organizzazioni diversi operano con vincoli normativi, operativi e di rischio diversi. Una sicurezza uguale per tutti non funziona.
In sintesi, Maven AGI offre integrazione con i sistemi di identità aziendali, controllo degli accessi basato sui ruoli, autenticazione forte per gli utenti privilegiati, log di audit completi, crittografia dei dati in transito e a riposo, isolamento dei tenant e test di sicurezza indipendenti continui.
Sicurezza del prodotto: il livello specifico per l'AI
I controlli di sicurezza tradizionali sono necessari, ma non sufficienti. I sistemi AI introducono nuove modalità di errore che richiedono protezioni aggiuntive.
Dentro i dati approvati. Fuori i dati sensibili non necessari. Maven AGI adotta un modello di allow-list definito dal cliente e applicato tramite policy. Gli elementi approvati, come nomi, indirizzi email, numeri di telefono e identificativi dell'account, sono ammessi quando servono ai flussi di supporto. I dati sensibili ad alto rischio non necessari, come numeri di previdenza sociale, dati di conti finanziari o informazioni mediche, vengono rilevati e oscurati al momento dell'acquisizione. L'oscuramento avviene prima delle chiamate a modelli esterni, dell'archiviazione a lungo termine, della scrittura nei log di audit o della visualizzazione nelle interfacce degli agenti.
I dati dei clienti non vengono usati per addestrare i modelli. Maven AGI non usa i dati dei clienti per addestrare o effettuare il fine-tuning dei modelli di base. I dati dei clienti non vengono aggregati né riutilizzati per migliorare i modelli.
Sicurezza e resilienza agli attacchi. La piattaforma è progettata per individuare contenuti dannosi e difendersi dalle minacce specifiche dell'AI, tra cui prompt injection, tentativi di offuscamento e tattiche volte a estrarre dati sensibili o ad alterare il comportamento del sistema.
Risposte fondate e tracciabili. Le risposte si basano su fonti di conoscenza approvate dal cliente. Gli utenti possono vedere quali informazioni hanno contribuito a ciascuna risposta, riducendo gli output non supportati e migliorando la verificabilità.
Supervisione umana per design. Quando l'automazione non è adatta, Maven AGI supporta l'escalation ad agenti umani in base a segnali configurabili, come soglie di confidenza, richieste del cliente o indicatori di rischio della conversazione. Gli agenti ricevono il contesto completo, così i clienti non devono ripetersi.
Convalida tramite audit indipendenti
Controlli solidi sono importanti. La convalida indipendente rafforza la fiducia.
Le pratiche di sicurezza, privacy e governance dell'AI di Maven sono verificate tramite audit e certificazioni di terze parti, tra cui ISO/IEC 27001:2022 (gestione della sicurezza delle informazioni), SOC 2 Type II (controlli di sicurezza, disponibilità e riservatezza), ISO/IEC 27017 (controlli di sicurezza per il cloud), ISO/IEC 27018 (protezione dei dati personali negli ambienti cloud), PCI-DSS v4.0 Level 1 AOC, HIPAA/HITECH con BAA disponibile, ISO/IEC 27701 (gestione delle informazioni sulla privacy) e ISO/IEC 42001 (sistema di gestione dell'AI).
La ISO/IEC 42001 attesta in modo indipendente che i sistemi AI di Maven sono governati tramite policy definite, monitoraggio e gestione degli incidenti, e non semplicemente messi in produzione e lasciati senza controllo.
Sicurezza e governance negli ambienti enterprise regolamentati
Le certificazioni sono importanti, ma fanno parte di un sistema più ampio.
Il vero metro del successo è la possibilità per le organizzazioni di adottare l'AI con fiducia: sapendo che i loro dati sono protetti, che i loro obblighi sono rispettati e che i loro sistemi AI si comportano in modo prevedibile e responsabile in produzione.
Se stai valutando l'AI conversazionale per la tua azienda o per un settore regolamentato, ecco le domande da porre ai fornitori: quali informazioni sono esplicitamente ammesse nel sistema AI? Dove e quando vengono oscurati i dati sensibili non necessari? I dati dei clienti vengono usati per addestrare i modelli? Quali certificazioni sono state effettivamente ottenute? Il sistema può essere installato on-premise, se necessario? Come vengono gestiti la prompt injection e gli altri attacchi specifici dell'AI? Cosa succede quando l'AI passa la conversazione a un operatore umano: il cliente deve ricominciare da capo?
In Maven AGI, sicurezza e governance dell'AI non sono ripensamenti né slogan di marketing. Sono le fondamenta architetturali che rendono possibile l'adozione dell'AI in azienda.
Se vuoi vedere questo approccio in pratica, puoi richiedere una demo o visitare il nostro Trust Center.
Mettilo alla prova sulle tue conversazioni.
Richiedi una demo personalizzata gratuita.
