Eis uma conversa que acontece com mais frequência do que a maioria das pessoas imagina.
Um cliente está a trabalhar com um agente de suporte para resolver um problema. Durante a interação, partilha dados de conta habituais, como o nome, o endereço de email, o número de telefone ou um ID de cliente. Por vezes, os clientes partilham mais do que deviam: um número de Segurança Social, dados do cartão de crédito ou informação médica, como um diagnóstico ou o nome de um medicamento.
A pergunta é simples, mas crítica: o que deve acontecer a esses dados a seguir?
Na Maven AGI, fazemos uma distinção clara entre informação aprovada e informação sensível desnecessária. Apenas os dados explicitamente aprovados para um determinado caso de utilização podem entrar no pipeline de processamento de IA. Quaisquer dados sensíveis desnecessários são detetados e ocultados automaticamente no momento da ingestão — antes de poderem ser usados para inferência de IA, enviados a fornecedores externos de modelos, gravados em registos de auditoria ou apresentados nas interfaces dos agentes.
Estes controlos são baseados em políticas e consistentes. Não são ajustados conversa a conversa. Os clientes definem que informação está aprovada para os seus fluxos de trabalho e a Maven AGI aplica essas políticas de forma consistente em toda a plataforma.
Não se trata de uma funcionalidade acrescentada à posteriori. É assim que o sistema foi concebido desde o primeiro dia.
O problema da confiança na IA empresarial
A adoção de IA nas empresas já não está limitada pela capacidade dos modelos — está limitada pela confiança.
As organizações que avaliam plataformas de IA conversacional colocam as mesmas questões práticas: este sistema consegue tratar dados sensíveis de clientes com segurança? Como evita a exposição desnecessária de informação de alto risco? Como demonstramos a eficácia dos controlos a auditores, reguladores e clientes? É possível implementar IA em ambientes regulados sem introduzir novos riscos?
Não são preocupações teóricas. Quando um cliente empresarial com forte foco em segurança analisou a postura de conformidade da Maven, a reação imediata foi: o nosso conselho de administração vai ficar muito satisfeito com isto. Essa reação foi além das funcionalidades. Traduziu a confiança de que implementar IA não criaria um passivo de governação ou de conformidade.
Segurança como arquitetura, não como complemento
A abordagem da Maven assenta num princípio simples: segurança delegada.
Não pedimos aos clientes que adotem um novo modelo de identidade ou de acesso. Em vez disso, integramo-nos com os sistemas em que já confiam. Os clientes definem as políticas de acesso e a Maven AGI aplica-as de forma consistente.
Isto é importante porque os requisitos de segurança não são uniformes. Diferentes setores e organizações operam sob restrições regulamentares, operacionais e de risco distintas. Uma segurança igual para todos não funciona.
Em termos gerais, a Maven AGI oferece integração com a identidade empresarial, controlo de acessos baseado em funções, autenticação forte para utilizadores privilegiados, registos de auditoria completos, encriptação em trânsito e em repouso, isolamento de inquilinos e testes de segurança independentes contínuos.
Segurança do produto: a camada específica da IA
Os controlos de segurança tradicionais são necessários, mas não suficientes. Os sistemas de IA introduzem novos modos de falha que exigem salvaguardas adicionais.
Entram os dados aprovados. Ficam de fora os dados sensíveis desnecessários. A Maven AGI utiliza um modelo de lista de autorizações definida pelo cliente e aplicada por políticas. Os elementos de dados aprovados — como nomes, endereços de email, números de telefone e identificadores de conta — são permitidos quando necessários para os fluxos de suporte. Os dados sensíveis de alto risco que não são necessários, como números de Segurança Social, informação de contas financeiras ou dados médicos, são detetados e ocultados no momento da ingestão. A ocultação ocorre antes de chamadas a modelos externos, do armazenamento de longo prazo, do registo de auditoria ou da apresentação nas interfaces dos agentes.
Os dados dos clientes não são usados para treinar modelos. A Maven AGI não utiliza dados de clientes para treinar nem afinar modelos de base. Os dados dos clientes não são agregados nem reutilizados para melhorar modelos.
Segurança e resiliência contra ataques. A plataforma foi concebida para identificar conteúdo nocivo e proteger contra ameaças específicas da IA, incluindo prompt injection, tentativas de ofuscação e táticas destinadas a extrair dados sensíveis ou a alterar o comportamento do sistema.
Respostas fundamentadas e rastreáveis. As respostas baseiam-se em fontes de conhecimento aprovadas pelo cliente. Os utilizadores podem ver que informação sustentou cada resposta, o que reduz resultados sem fundamento e melhora a auditabilidade.
Supervisão humana desde a conceção. Quando a automação não é adequada, a Maven AGI permite o encaminhamento para agentes humanos com base em sinais configuráveis, como limiares de confiança, pedidos do cliente ou indicadores de risco da conversa. Os agentes recebem todo o contexto, para que os clientes não tenham de se repetir.
Validação através de auditorias independentes
Controlos robustos são importantes. A validação independente reforça a confiança.
As práticas de segurança, privacidade e governação de IA da Maven são verificadas através de auditorias e certificações de terceiros, incluindo ISO/IEC 27001:2022 (gestão da segurança da informação), SOC 2 Type II (controlos de segurança, disponibilidade e confidencialidade), ISO/IEC 27017 (controlos de segurança na cloud), ISO/IEC 27018 (proteção de dados pessoais em ambientes cloud), PCI-DSS v4.0 Level 1 AOC, HIPAA/HITECH com BAA disponível, ISO/IEC 27701 (gestão da informação de privacidade) e ISO/IEC 42001 (sistema de gestão de IA).
A ISO/IEC 42001 valida de forma independente que os sistemas de IA da Maven são geridos através de políticas definidas, monitorização e gestão de incidentes — e não simplesmente implementados e deixados sem controlo.
Segurança e governação em ambientes empresariais regulados
As certificações são importantes, mas fazem parte de um sistema mais amplo.
A verdadeira medida de sucesso é saber se as organizações conseguem implementar IA com confiança: sabendo que os seus dados estão protegidos, que as suas obrigações são cumpridas e que os seus sistemas de IA se comportam de forma previsível e responsável em produção.
Se está a avaliar IA conversacional para a sua empresa ou para setores regulados, estas são as perguntas que vale a pena colocar aos fornecedores: que informação pode entrar explicitamente no sistema de IA? Onde e quando são ocultados os dados sensíveis desnecessários? Os dados dos clientes são usados para treinar modelos? Que certificações foram efetivamente obtidas? O sistema pode ser implementado on-premises, se necessário? Como são tratados o prompt injection e outros ataques específicos da IA? O que acontece quando a IA encaminha para um humano — o cliente tem de começar do zero?
Na Maven AGI, a segurança e a governação de IA não são uma reflexão tardia nem argumentos de marketing. São a base arquitetónica que torna possível a adoção de IA nas empresas.
Se quiser ver esta abordagem na prática, pode pedir uma demonstração ou visitar o nosso Trust Center.
Veja-o nas suas próprias conversas.
Peça uma demonstração personalizada gratuita.
