Bloqueios insuficientes
Transações indevidas, vazamentos de dados, compartilhamento de conteúdo impróprio em canais oficiais.
Você conhece sua IA, mas não a intenção de quem a usa.
Quando a Inteligência Artificial deixa de ser apenas interna, é preciso olhar atentamente para as ameaças que não existiam da porta para dentro.
A Check Point AI Guardrails oferece proteção em tempo real para aplicações de IA generativa voltadas ao cliente.
Conversas legítimas ou comandos maliciosos: para o modelo, tudo chega como texto.
No contato com clientes e usuários externos, a aplicação de IA fica exposta a diferentes riscos disfarçados de interações comuns:
Prompt injection e jailbreak
Mensagens que tentam anular as regras do assistente com comandos diretos, troca de idioma ou texto codificado.
Injeção indireta
Instruções escondidas em documentos, e-mails ou páginas que o assistente consulta para responder.
Vazamento de dados
Dados pessoais, segredos comerciais ou o próprio prompt de sistema devolvidos na resposta do modelo.
Conteúdo e links indevidos
Respostas ofensivas, mensagens enganosas ou links de phishing publicadas em nome da empresa.
Exaustão de recursos
Pedidos desenhados para gerar propositalmente respostas longas, elevando o custo de processamento.
É preciso saber quando e por que aplicar bloqueios.
Uma detecção imprecisa pode abrir a porta para fraudadores ou afastar potenciais clientes legítimos.
Bloqueios excessivos
Clientes legítimos barrados, atritos na interação, complicação na jornada de compra, atendimento humano sobrecarregado.
Centralize sua segurança de Inteligência Artificial com a Check Point
O Plano de Defesa de IA da Check Point propõe uma abordagem em três pilares (Colaboradores, Agentes e Apps) e em três camadas (Descoberta, Proteção e Governança) em uma única plataforma, permitindo visibilidade e conectividade.
AI Guardrails: a camada de verificação entre a aplicação e o modelo.
A aplicação envia a pergunta do cliente e a resposta a ser devolvida para o Guardrails antes de envolver o modelo generativo, envia a pergunta do cliente e a resposta programada da IA. O Guardrails analisa o texto e devolve um veredito para a aplicação decidir como seguir.
Investigação de entrada e saída
Analisa a mensagem do cliente, a resposta do modelo e as fontes consultadas.
Flexível ao seu modelo de IA
Funciona com OpenAI, Anthropic, Cohere, modelos open-source e modelos próprios.
Disponível em +100 idiomas
Detecção direta em português e diversos outros idiomas, sem tradução intermediária
Ambiente SaaS ou Self-hosted
Serviço em nuvem hospedado pela Check Point ou instalação em ambiente próprio.
Cinco defesas, uma chamada de API.
A solução Lakera da Check Point agora é AI Guardrails: uma plataforma focada em proteger o contato da IA com o usuário externo enquanto a interação acontece.
1
Ataques de prompt
Detecção em milissegundos de injeção e jailbreak na mensagem do cliente, em documentos de referência e em respostas da ferramenta, permitindo resposta rápida.
2
Vazamento de dados
Identificação de dados pessoais e informações sensíveis na pergunta ou na resposta do modelo. O Guardrails é acionado e realiza a verificação.
3
Violação de conteúdo
Bloqueio ativo de conteúdo ofensivo, violento, de ódio, gráfico ou impróprio em mensagens externa ou em respostas induzidas do modelo.
4
Links maliciosos
Definição de uma lista de domínios permitidos e rejeição automática de links fora da lista, evitando phishing no processamento e na respostas.
5
Guardrails customizados
Criação de controles e salvaguardas próprios da empresa, descritos em linguagem natural, possibilitando proteção personalizada por critérios internos.
Segurança de IA completa com a Check Point.
Proteja sua empresa das diferentes ameaças que surgem quando ela interage com usuários externos. Adicione uma camada de segurança extra entre a pergunta e a resposta sem alterar o modelo utilizado.
Como funciona na prática?
Da implementação ao uso, da visibilidade à prática: com a Nexoria e a Check Point, você tem suporte em todas as etapas.
Painel de análise
Visualização de volume e taxa detecção, classificação de ameaças por tipo e filtro de exibição por projeto ou e período.
Investigação de ameaças
Detalhes de cada investigação, como data, política aplicada e origem da mensagem. O Modo Enforce
Políticas por aplicação
Catálogo de políticas personalizadas ou prontas para aplicação pública, interna ou defesa de prompt, com diferentes níveis de sensibilidade.
Proteja sua IA enquanto ela interage com o cliente. Conte com a Nexoria.
Uma chamada de API antes do modelo e outra depois, sem trocar o modelo de IA em uso.
Por que Nexoria + Check Point?
A Nexoria entrega a tecnologia SentinelOne no formato que faz mais sentido para o nível de maturidade de segurança da sua empresa.
SaaS (nuvem da Check Point)
Gestão de políticas feita por interface web e API para automação, modelos atualizados diariamente, com ajustes a partir das classificações incorretas reportadas. Logs e eventos disponíveis no painel web e podem ser integrados ao SIEM, e a observabilidade conta com análises e investigação no próprio painel. A escala é automática, gerenciada pela Check Point.
Self-hosted (seu ambiente)
Gestão de políticas feita por arquivos de configuração. Atualização a cada versão estável, com opção de builds noturnos. Logs e eventos gerados de forma estruturada para uso em ferramentas próprias ou de terceiros. Observabilidade via métricas e escala gerida pelo cliente, com apoio da engenharia da Check Point.
