Tarde da noite, seus pais recebem uma mensagem de voz sua cheia de pânico, informando que você está com problemas e precisa de ajuda, que sua carteira foi roubada e que você está preso em um lugar desconhecido. O dinheiro deve ser transferido para você imediatamente para que você possa voltar para casa.
A voz na carta parece muito real e é inconfundivelmente a voz de seu filho, mas não é. Ele é um clone de voz de IA que se tornou alvo de um golpe tão sofisticado quanto assustadoramente eficaz.
Este tipo de fraude baseia-se na utilização de técnicas de inteligência artificial para gerar vozes que parecem pertencer a familiares ou amigos de uma forma muito semelhante às vozes reais. Se não forem detectados, estes votos falsos podem criar confusão e desinformação, e podem levar a consequências graves. Portanto, detectar fraudes de clonagem de áudio familiar é essencial para manter a integridade e a segurança. Verificar Avaliando o uso da tecnologia de reprodução de som na criação de conteúdo em grande escala.
Como funciona o golpe de clonagem de voz de IA?
As tecnologias de clonagem de voz podem criar cópias digitais incrivelmente realistas da voz de uma pessoa. Essa tecnologia, comumente chamada Áudio deepfake, usando ferramentas de clonagem de voz de IA como ElevenLabs (veja o exemplo de clonagem de voz de IA abaixo). Combinada com IA generativa e síntese de voz, a voz clonada pode replicar emoções, nuances, entonação e até medo.
Para referência, aqui está o que Christian Cowley realmente parece, falando no Podcast Realmente Útil.
Para criar uma transcrição de IA, é necessária apenas uma pequena amostra de áudio – geralmente apenas um minuto ou menos. O áudio costuma ser amostrado de postagens públicas em mídias sociais, tornando vloggers, criadores e celebridades particularmente vulneráveis porque o áudio em suas postagens é de alta qualidade e está prontamente disponível.
Depois que o golpista clona a amostra de voz, ele usa a conversão de texto em fala ou até mesmo a conversão de voz em tempo real para criar chamadas e mensagens de voz falsas.
Depois de acessar as contas de mídia social da vítima e coletar seus dados pessoais, o golpista cria um cenário verossímil. Pode estar relacionado a hospitalização, prisão, roubo, sequestro ou qualquer coisa que crie medo e confusão. A voz clonada é então usada para manipular o membro da família, fazendo-o acreditar que alguém da família está sofrendo de um problema sério.
O realismo da voz e da emoção, aliado ao choque e à urgência do pedido, pode superar o cepticismo, levando a decisões precipitadas de transferência de dinheiro ou de fornecimento de informações sensíveis.
Por que o esquema de clonagem de voz de IA é tão eficaz?
Como a maioria dos golpes direcionados a familiares e amigos, a clonagem de voz por IA é eficaz porque explora conexões pessoais. O pânico de receber um pedido de socorro de um membro da família pode rapidamente atrapalhar o julgamento, levando a decisões precipitadas. É a mesma tática usada em golpes de troca, mas o efeito aumenta quando você ouve a voz de alguém próximo a você.
Os familiares daqueles com grande presença nas redes sociais ou daqueles que viajam estão particularmente em risco porque as suas situações fornecem um contexto plausível para a narrativa fabricada do golpista. O golpista geralmente coleta e usa os dados privados de seus alvos em suas contas públicas de mídia social com antecedência, o que torna as histórias mais convincentes. Verificar Como enfrentar a ameaça do sequestro virtual e se proteger online? Reconhecer ameaças.
Principais sinais de um golpe de clonagem de voz de IA
Apesar da sua complexidade, a clonagem de voz por IA pode revelar-se através de sinais de alerta específicos:
- Urgência: O golpista tentará convencê-lo de que algo terrível acontecerá se nenhuma ação for tomada imediatamente.
- os fatos: O golpista nem sempre conhece toda a história por trás do seu relacionamento com o alvo, então preste atenção às inconsistências.
- Solicitações incomuns: Solicitações de transferência de fundos para contas bancárias no exterior ou de pagamento para uma carteira de criptomoeda são métodos comuns.
Esses fatores são difíceis de levar em consideração diante de um cenário terrível, mas podem impedir que você seja enganado.
O que fazer se você suspeitar de um golpe de clonagem de voz de IA
Se você receber uma ligação ou mensagem de voz de um ente querido em perigo, mantenha a calma. O golpista tentará fazer você entrar em pânico e ficar emocionado, pois isso aumenta a probabilidade de você ser exposto aos métodos dele.
Se você receber um telefonema
Se você suspeitar, mesmo que por um segundo, que uma chamada pode ser um golpe de clonagem de voz, desligue imediatamente. Não compartilhe nenhuma informação e não faça negócios com golpistas. Em vez disso, ligue de volta para seus entes queridos em um número conhecido para confirmar a autenticidade da chamada de socorro.
Ter mais conversas com o golpista também pode correr o risco de ter sua voz gravada e clonada.
Se você receber uma mensagem de voz
Se o golpista deixar uma mensagem de voz, salve o áudio em seu telefone ou laptop imediatamente. Esta amostra de áudio pode ser usada em um classificador de fala de IA para determinar se é uma voz humana. Classificadores de fala com tecnologia de IA funcionam como hardware Detecção de digitação por inteligência artificial. Basta inserir o arquivo de áudio e o classificador irá marcá-lo como gerado por humanos ou gerado por IA.
Uma ótima ferramenta para fazer essa verificação é o ElevenLabs Speech Classifier. ElevenLabs alimenta a maioria das plataformas de clonagem de voz de IA, por isso é uma ferramenta ideal para determinar se uma voz foi clonada. Veja como usá-lo para identificar áudio reproduzido por IA:
- Vamos para Classificador de fala ElevenLabs.
- Faça upload de um exemplo de mensagem de voz e clique em “Detectar fala sintetizada”.
No exemplo abaixo, uma mensagem de socorro foi gravada por alguém e carregada na pasta de trabalho. Você pode ver que ele está sinalizado como tendo 2% de chance de ser adulterado.
No exemplo a seguir, a mesma mensagem de socorro foi produzida usando uma ferramenta de clonagem de voz de IA. Para o ouvido humano, os sons são indistinguíveis. No entanto, a ferramenta classificou-o como tendo 98% de chance de ser gerado por IA.
Embora você não possa confiar 100% nesta pasta de trabalho, ela pode confirmar suas suspeitas sobre o uso de áudio clonado. Você também deve ligar para seu ente querido em um número conhecido para confirmar. Verificar As capacidades humanas ou a inteligência artificial são superiores na detecção de tecnologia profundamente falsa?.
A prevenção é a melhor defesa contra golpes de clonagem de voz de IA
Às vezes, a melhor defesa contra golpes de alta tecnologia são soluções de baixa tecnologia.
Crie uma senha offline conhecida apenas por seus entes queridos, familiares e amigos. Se você estiver fazendo uma chamada em situações críticas, usar essa senha pode ser uma maneira infalível de confirmar a identidade do chamador.
Por fim, manter suas informações privadas fora dos sites de mídia social é um grande passo para garantir que os golpistas não consigam reunir informações suficientes para construir uma história. Lembre-se: se você não quer que todos saibam, é melhor não compartilhar nas redes sociais. Agora você pode visualizar Qual é o valor dos dados da sua conta de mídia social na dark web?
