Seu negócio está preparado para uma clonagem de voz?

“Alô, sou eu. Preciso que você faça uma transferência agora. É urgente.”

A voz era idêntica, até com o mesmo ritmo, a mesma pausa encurtada antes do “urgente”. Até a mesma respiração que você já ouviu dezenas e dezenas de vezes na vida. Mas o “eu” não era “eu”.

Era “ia”.

Nos últimos meses, diversos veículos de imprensa passaram a noticiar golpes envolvendo clonagem de voz e uso de inteligência artificial para simular executivos, autoridades, familiares e pessoas de confiança, explorando um elemento simples que sempre foi considerado quase incontestável: a própria voz.

Hoje, golpes já não se tratam mais de e-mails mal redigidos enviados por algum suposto herdeiro, ou sites e mensagens suspeitas, mas algo muito, muito mais difícil de contestar, sobretudo emocionalmente.

É a evolução da engenharia social, que sempre existiu. O que mudou foi o nível de realismo, a velocidade de execução e o custo de acesso à tecnologia necessária para produzir essa simulação tão, mas tão convincente.

A dimensão do problema, em números

Quando olhamos para dados consolidados, percebemos que esse risco não está surgindo do nada. Ele está se apoiando em uma estrutura de fraude que já era bilionária antes mesmo da IA generativa ganhar escala.

Segundo o Internet Crime Report 2023, publicado pelo Internet Crime Complaint Center (IC3) do FBI, as perdas reportadas com crimes cibernéticos nos Estados Unidos atingiram aproximadamente US$ 12,5 bilhões em 2023, o maior valor já registrado pelo órgão. Apenas a categoria de Business Email Compromise (BEC), golpes em que criminosos se passam por executivos ou parceiros para ordenar transferências, respondeu por cerca de US$ 2,9 bilhões em perdas no ano. Desde 2013, o acumulado dessa modalidade já supera US$ 55 bilhões em prejuízos reportados.

O ponto aqui não é estatístico, é estrutural: o modelo de fraude baseado em autoridade e urgência já era altamente lucrativo antes da clonagem de voz. A IA apenas torna esse mesmo modelo mais persuasivo e, potencialmente, mais rápido e lucrativo.

Em 2019, um caso amplamente divulgado pelo The Wall Street Journal relatou que uma empresa no Reino Unido foi induzida a transferir aproximadamente € 220 mil após o diretor acreditar estar falando ao telefone com o CEO da empresa controladora. A voz havia sido sintetizada com tecnologia de IA. A seguradora Euler Hermes confirmou posteriormente os detalhes do incidente.

Já em fevereiro de 2024, a polícia de Hong Kong informou que uma empresa perdeu cerca de US$ 25 milhões após um funcionário participar de uma videoconferência em que múltiplos “executivos” eram, na realidade, deepfakes. O caso foi noticiado pela BBC News e pelo Financial Times, com confirmação das autoridades locais.

Aqui há uma mudança qualitativa bem relevante para todos, sobretudo para nós, profissionais da área: não se trata apenas de voz, mas de ambiente corporativo simulado com múltiplos interlocutores, reduzindo drasticamente a probabilidade de contestação imediata.

Se alguém ainda considera deepfake um fenômeno distante, os relatórios técnicos indicam outra direção. O relatório “State of Deepfakes 2023” da Sumsub, empresa especializada em verificação de identidade digital, apontou crescimento superior a 700% na incidência de deepfakes detectados globalmente entre 2022 e 2023, com aumento ainda mais expressivo no setor de serviços financeiros, que superou 900% em determinados segmentos analisados.

Ao mesmo tempo, o Verizon Data Breach Investigations Report (DBIR) 2023 indicou que 74% das violações analisadas envolveram elemento humano, seja por engenharia social, uso indevido de credenciais ou erro operacional.

Ou seja: o vetor humano continua central. A IA explora a vulnerabilidade humana com ainda mais precisão.

Onde o problema realmente mora

Eu atuo há mais de uma década com proteção de dados e governança em ambientes regulados, inclusive em contextos multi-jurisdicionais e envolvendo dados sensíveis, e algo se repete com uma desconfortável consistência: ataques realmente eficazes que não dependem de nenhuma falha técnica muito sofisticada, mas da decisão humana tomada sob pressão.

A pressa continua sendo uma variável crítica. E o incrível é que, aparentemente, o medo de errar por “excesso de cautela” ainda pesa mais do que o medo de errar por confiança excessiva.

Quando a clonagem de voz entra nesse cenário, ela não cria uma vulnerabilidade nova. Ela simplesmente elimina um resquício de dúvida que poderia frear qualquer decisão. Afinal, a pessoa está te falando para realizar aquela ação. É quase automático.

Clonar voz hoje pode exigir apenas alguns segundos de áudio limpo, extraído de entrevistas, palestras, vídeos institucionais ou mesmo de redes sociais. A tecnologia ainda não é perfeita, mas já alcançou um nível de verossimilhança absurdo, suficiente para atravessar protocolos que dependem exclusivamente de validação verbal.

E é aqui que a discussão deixa de ser tecnológica e passa a ser organizacional.

Muitas empresas investem em ferramentas de monitoramento, automação, detecção e resposta a incidentes. Mas mantêm processos financeiros que ainda permitem movimentações relevantes com base em confirmação telefônica isolada. Ou estabelecem políticas de “dupla checagem” que, na prática, não resistem a uma ordem urgente emitida por alguém com poder hierárquico elevado.

Eu já vi esse tipo de fragilidade em ambientes altamente regulados, inclusive no setor financeiro. Vi clientes experientes caindo em situações assim. Não por falta de tecnologia, mas por ausência de cultura institucional que legitime um certo “complicador”, uma certa fricção.

Segurança exige fricção. Velocidade é valorizada como eficiência. Cuidados de governança, no dia a dia, acabam sendo apontados como atraso. Até que algo assim acontece.

Quem poderá nos defender da IA? Uma outra IA?

O discurso dominante frequentemente aponta para a necessidade de “usar mais IA para detectar IA”, o que pode ser parte da solução técnica, mas dificilmente resolverá a raiz do problema.

Se um colaborador acredita que questionar uma ordem urgente do CEO pode comprometer a sua posição, nenhuma ferramenta automatizada vai ser capaz de eliminar esse fator psicológico. Se o procedimento da organização ainda considera a voz um elemento suficiente de validação para certa ação, o risco não é tecnológico, mas, sim, procedimental.

As perguntas são mais abrangentes:

• Quais decisões na sua organização ainda dependem exclusivamente de um único canal de validação?
• Existe política formal que autorize e proteja a interrupção de uma ordem hierárquica quando houver dúvida razoável, sem retaliações formais ou informais?
• Os treinamentos internos incluem simulações realistas e atualizadas de engenharia social com áudio sintético, ou permanecem restritos a campanhas genéricas de phishing?

Porque a clonagem de voz não é apenas uma nova técnica de fraude. Ela é um teste nada silencioso de maturidade do negócio.

Portanto, talvez a resposta não esteja apenas em tecnologia adicional, mas na capacidade institucional de ponderar melhor decisões críticas mesmo quando a urgência parece legítima.

Porque, quando até a voz pode ser simulada, o que está em jogo já não é tecnologia, é a qualidade das decisões que o seu negócio permite que sejam tomadas. E aqui, a informação e a resiliência devem falar mais alto.

Perguntas frequentes