Riscos de IA não são todos iguais
Quando alguém diz que “a empresa enfrenta riscos de inteligência artificial”, geralmente está descrevendo três situações diferentes como se fossem uma só. O funcionário cola informação sensível em uma ferramenta pública de IA; o cliente testa ataques contra o assistente que a própria empresa colocou no ar; e o agente automatizado executa tarefas sem que ninguém tenha definido sua alçada.
Cada um desses cenários tem prazo, dono e controles diferentes, e eles não devem ser tratados como um item único. Separar essas três conversas é o primeiro passo para qualquer empresa que queira transformar “risco de IA” em algo gerenciável.
Pilar 1: O time
O uso de IA generativa por colaboradores já não é exceção, é rotina. Segundo um estudo da Verizon, cerca de 45% das pessoas hoje usam IA generativa dentro dos escritórios — no ano anterior, esse número era de 15%. Mais preocupante: dois terços desse uso acontecem em contas pessoais, muitas vezes gratuitas.
Esse comportamento abrange três diferentes riscos:
Risco regulatório
Imagine o RH ou o time comercial colando dados pessoais de colaboradores ou clientes em uma IA generativa hospedada fora do país. Isso configura transferência internacional de dados sem base legal e sem que o titular saiba para qual finalidade sua informação está sendo usada. Finalidade, necessidade e transferência internacional são princípios centrais da LGPD. Não se trata de detalhes operacionais, mas sim de risco regulatório direto.
Risco competitivo
Aqui, o prejuízo acontece em silêncio, sem que ninguém faça a reclamação das informações. Dados estratégicos da companhia (metas, margens, minutas de negociação) podem ser usados no retreino de modelos públicos e, no limite, ficar acessíveis a concorrentes.
Risco reputacional
Uma resposta gerada pela máquina pode virar material externo sem qualquer revisão. O problema é sutil: uma afirmação errada soa tão convincente quanto uma correta e é divulgada como tal. Afinal, a IA generativa não é treinada para estar certa, ela é treinada para ter convicção.
Há ainda um detalhe que quase passa despercebido: quando a conta é pessoal, o histórico de conversas e arquivos pertence à pessoa, não à empresa. Se ela sai da organização, leva tudo consigo.
O controle para mitigar esse risco parece simples, mas a maioria das empresas não o implementa: um inventário de quem usa IA e com qual finalidade, monitoramento no ponto de uso e regras diferentes por área. Hoje, já há tecnologias disponíveis que permitem essa visibilidade e vão um passo além, com bloqueio de upload de arquivos, anonimização de dados sensíveis, identificação dos temas discutidos nas conversas e mapeamento dos modelos mais usados e seus riscos associados. Mais do que garantir segurança, essas ferramentas permitem que empresas otimizem custos, definindo quais times precisam de modelos pagos e quais podem usar modelos gratuitos, desde que sob conta corporativa e monitoramento.
Pilar 2: A aplicação da empresa
Este é um risco de outra natureza: a aplicação de IA que a própria empresa desenvolveu e publicou para uso externo.
Um banco digital, ao implantar uma camada de proteção sobre uma aplicação de IA já disponível para seus clientes, identificou uma série de tentativas de ataque. Instruções em idiomas que o assistente não deveria reconhecer, comandos escondidos em código Morse para escapar dos filtros, e mensagens com milhões de caracteres para forçar o estouro de processamento do modelo.
A conclusão prática é direta: o modelo não se defende sozinho. Ele precisa de uma camada intermediária entre o usuário e o assistente, capaz de ler tanto o que entra quanto o que sai. E essa camada deve ser de responsabilidade do time de riscos, não pode pertencer a quem construiu a aplicação. Caso contrário, cada área de negócio aplica o critério de segurança que quiser, e a empresa fica com um mosaico de padrões inconsistentes.
Pilar 3: O agente
O terceiro risco é o de agentes de IA que executam ações sem alçada clara definida.
Para ilustrar, um caso conhecido: em 2025, pesquisadores demonstraram uma falha no assistente de IA da Microsoft que roda integrado a e-mails e documentos corporativos, o Copilot. Bastava enviar uma mensagem aparentemente comum, com uma instrução escondida no meio do texto, como em um comentário de código ou em fonte branca sobre fundo branco, invisível para quem lê o e-mail. Dias depois, quando o usuário pedia um resumo ao assistente, ele processava aquele conteúdo junto com o restante do contexto e executava a instrução oculta como se viesse do próprio dono da caixa de entrada, chegando a buscar arquivos internos e enviá-los para fora da empresa.
Esse tipo de falha mostra o que acontece quando um agente tem capacidade de ação (ler, buscar, enviar) sem que exista uma alçada definida e auditável para cada operação que ele pode realizar.
Antes de pedir orçamento, separe as três conversas
Da próxima vez que uma proposta de proteção de inteligência artificial chegar à sua mesa, a primeira pergunta deveria ser: qual dos três cenários ela resolve? Se a resposta for “os três”, atente-se. Há, então, um problema: ou a proposta é excessivamente otimista, ou o problema não foi entendido de fato.
A partir desse ponto, três perguntas simples organizam o resto da discussão:
- Quem hoje sabe dizer, com registro, quais ferramentas de IA o time usa e em qual conta?
- Quem responde pela camada de proteção entre o cliente e um assistente proprietário da empresa?
- Qual é a alçada de cada agente automatizado em cada operação — e quem definiu e aprovou esses limites?
Se essas três perguntas ficarem sem dono, o problema não está na tecnologia. Está na governança.
Conte com a Nexoria para te auxiliar no mapeamento dos diferentes riscos que sua empresa pode enfrentar e na busca pela solução ideal para mitigar e remediar ameaças de Inteligência Artificial.
