As capacidades humanas ou a inteligência artificial são superiores na detecção de tecnologia profundamente falsa?

Numa era tecnológica em que o poder dos computadores e dos modelos de inteligência artificial aumentou significativamente, a prevalência de deepfakes aumentou para interessar a todos. Deepfaking significa criar conteúdo visual ou de áudio que parece ter sido gravado por indivíduos humanos em alta resolução. Deepfakes ameaçam todos os aspectos da sociedade.

Nossa capacidade de identificar conteúdo falso é crucial para neutralizar a desinformação, mas à medida que a tecnologia de IA melhora, em quem podemos confiar para detectar deepfakes? Aqui surge a questão: Quem é melhor na detecção de deep fakes, humanos ou inteligência artificial?

Durante milhares de anos, os humanos tiveram sucesso em distinguir sons, rostos e compreender línguas. Mas será que as máquinas alimentadas por IA podem superar essas capacidades? Este artigo explora os desafios e desenvolvimentos na detecção de deepfakes e compara as capacidades de inteligência humana e artificial neste contexto. Verificar Como saber se um vídeo é deepfake modificado?

Os perigos dos deepfakes

À medida que a tecnologia de IA avança, os perigos dos deepfakes representam uma ameaça crescente para todos nós. Aqui está um rápido resumo de algumas das questões mais urgentes colocadas pelos deepfakes:

1. Desinformação: Vídeos e gravações de áudio falsos podem espalhar informações enganosas, como notícias falsas.
2. roubo de identidade: Ao se passar por indivíduos, os deepfakes podem prejudicar a reputação das pessoas ou enganar qualquer pessoa que elas conheçam.
3. Segurança nacional: Um cenário de guerra óbvio e falso são imagens fabricadas ou gravações de áudio de um líder mundial incitando conflito.
4. Agitação civil: As partes também podem usar imagens e clipes de áudio enganosos para incitar a raiva e a agitação civil entre grupos específicos.
5. Cíber segurança: Os cibercriminosos já estão usando ferramentas de clonagem de voz alimentadas por IA para atingir indivíduos com mensagens persuasivas de pessoas que eles conhecem.
6. Privacidade e consentimento: O uso malicioso de deepfakes assume a forma de indivíduos sem o seu consentimento.
7. Confiança e sua falta: Se você não consegue distinguir entre verdade e engano, informações precisas tornam-se igualmente indignas de confiança.

Os deepfakes se tornarão mais convincentes, por isso precisamos de ferramentas e métodos poderosos para detectá-los. A inteligência artificial fornece uma dessas ferramentas na forma de modelos de detecção de deepfake. No entanto, assim como os algoritmos projetados para reconhecer escrita gerada por IA, as ferramentas de detecção de deepfake não são perfeitas e nunca serão perfeitamente precisas.

Neste momento, o julgamento humano é a única outra ferramenta em que podemos confiar. Então, somos melhores que algoritmos na identificação de deepfakes?

Os algoritmos podem detectar deepfakes melhor do que os humanos?

Deepfakes representam uma ameaça tão séria que gigantescas empresas de tecnologia e grupos de pesquisa estão dedicando enormes recursos à pesquisa e desenvolvimento. Em 2019, empresas como Meta, Microsoft e Amazon ofereceram US$ XNUMX milhão em prêmios durante um desafio Desafio de detecção do Deepfake Para o modelo de detecção mais preciso.

O modelo com melhor desempenho teve 82.56% de precisão em relação a um conjunto de dados de vídeos disponíveis publicamente. No entanto, quando os mesmos modelos foram testados em um “conjunto de dados de caixa preta” de 10000 vídeos não vistos, o modelo com melhor desempenho teve apenas 65.18% de precisão.

Também temos muitos estudos analisando o desempenho das ferramentas de detecção de deepfake de IA contra humanos. É claro que os resultados variam de estudo para estudo, mas, em geral, os humanos igualam ou excedem a taxa de sucesso das ferramentas de detecção de deepfakes.

Um estudo publicado em 2021 descobriu... PNAS “Observadores humanos comuns” alcançaram uma taxa de precisão ligeiramente maior do que as principais ferramentas de detecção de deepfake. No entanto, o estudo também descobriu que os participantes humanos e os modelos de IA eram suscetíveis a diferentes tipos de erros.

É interessante que a pesquisa realizada por... Universidade de Sydney Descobri que o cérebro humano é subconscientemente mais eficaz na detecção de deepfakes do que nossos esforços conscientes. Verificar Os principais riscos dos deepfakes e como identificá-los.

Descubra pistas visuais na tecnologia deepfake

A ciência da detecção de deepfakes é complexa e a análise necessária varia dependendo da natureza da filmagem. Por exemplo, um vídeo falso do líder norte-coreano Kim Jong Un de 2020 é essencialmente um vídeo de discussão. Nesse caso, a maneira mais eficaz de detectar deepfakes pode ser analisar fonemas (movimentos da boca) e fonemas (sons vocais) em busca de inconsistências.

Especialistas humanos, observadores comuns e algoritmos podem realizar esse tipo de análise, mesmo que os resultados variem. Ele especifica Instituto de Tecnologia de Massachusetts (MIT) Oito perguntas para ajudar a identificar vídeos falsos:

1. Preste atenção no rosto. Manipulações sofisticadas de deepfake geralmente envolvem transformações faciais.
2. Preste atenção nas bochechas e na testa. A pele parece muito lisa ou muito enrugada? A idade da pele corresponde à idade dos cabelos e dos olhos? Eles podem não corresponder em algumas dimensões.
3. Preste atenção nos olhos e sobrancelhas. As sombras aparecem nos lugares que você espera? A tecnologia Deepfake pode não conseguir representar totalmente a física natural da cena.
4. Preste atenção nos óculos. Existe algum brilho? Há muito brilho? O ângulo de brilho muda quando a pessoa se move? Mais uma vez, a tecnologia deepfake pode não conseguir representar totalmente a física natural da iluminação.
5. Prestando atenção aos pelos faciais ou à falta deles. Esses pelos faciais parecem reais? A tecnologia Deepfake pode adicionar ou remover bigode, costeletas ou barba. No entanto, a tecnologia deepfake pode não conseguir criar transformações completamente naturais nos pelos faciais.
6. Preste atenção às manchas faciais. A toupeira parece real?
7. Preste atenção nos cílios. A pessoa está piscando o suficiente ou demais?
8. Preste atenção aos movimentos dos lábios. Algumas falsificações profundas dependem da sincronização labial. Os movimentos dos seus lábios parecem normais?

As mais recentes ferramentas de detecção de deepfake de IA podem analisar os mesmos fatores, novamente, com vários graus de sucesso. Os cientistas de dados também estão constantemente desenvolvendo novos métodos, como a detecção do fluxo sanguíneo normal nos rostos dos alto-falantes na tela. Novos métodos e melhorias nos métodos existentes podem resultar em ferramentas de detecção de deepfake de IA superando consistentemente os humanos no futuro.

Detectando pistas de áudio em deepfakes

Detectar áudio falso é um desafio completamente diferente. Sem as pistas visuais do vídeo e a oportunidade de identificar inconsistências audiovisuais, a detecção de deepfake depende muito da análise de áudio (outros métodos, como a verificação de metadados, também podem ajudar em alguns casos).

Encontrei um estudo que você publicou Faculdade Universitária de Londres Em 2023, os humanos conseguem detectar áudio falso em 73% (em inglês e mandarim). Tal como acontece com os vídeos falsos, os ouvintes humanos muitas vezes detectam intuitivamente padrões de fala não naturais na fala gerada por IA, mesmo que não consigam identificar o que parece não natural.

Os sinais comuns incluem:

1. As sílabas.
2. Falta de expressão.
3. Ruído de fundo ou interferência.
4. – Inconsistência na voz ou fala.
5. Falta de “plenitude” nos sons.
6. Entrega excessivamente escrita.
7. Sem defeitos (falsas partidas, correções, pigarro, etc.).

Novamente, os algoritmos também podem analisar a fala em busca dos mesmos sinais deepfake, mas novos métodos estão tornando as ferramentas ainda mais eficazes. Ela descreveu a pesquisa que conduziu USENIX Padrões na reconstrução do trato vocal usando inteligência artificial que não conseguem imitar a fala natural. O que acontece é que os geradores de som de IA produzem som idêntico em tratos vocais estreitos (aproximadamente do tamanho de um canudo) sem os movimentos naturais da fala humana.

Pesquisa anterior conduzida por Instituto Horst Goertz Ele analisou áudio real e falso em inglês e japonês, revelando diferenças sutis nas altas frequências da fala real e falsa.

Tanto os contrastes do trato vocal quanto as altas frequências podem ser percebidos por ouvintes humanos e modelos de detecção de IA. No caso de variações de alta frequência, os modelos de IA poderiam, em teoria, tornar-se cada vez mais precisos – embora o mesmo também possa ser dito para os deepfakes de IA.

Humanos e algoritmos são enganados por deepfakes, mas de maneiras diferentes

Estudos sugerem que os humanos e as mais recentes ferramentas de detecção de IA podem detectar deepfakes de forma semelhante. As taxas de aprovação podem variar de 50% a 90+%, dependendo dos critérios do teste.

Assim, humanos e máquinas também são enganados por deepfakes em graus semelhantes. No entanto, é crucial que sejamos vulneráveis ​​de diferentes maneiras, e este pode ser o nosso maior trunfo para enfrentar os riscos da tecnologia deepfake. Combinar os pontos fortes dos humanos e das ferramentas de detecção de deepfake irá mitigar seus respectivos pontos fracos e melhorar as taxas de sucesso.

Por exemplo, encontrei Pesquisa do Instituto de Tecnologia de Massachusetts Os humanos foram melhores em reconhecer imagens falsas de líderes e celebridades mundiais do que os modelos de inteligência artificial. Também revelou que os modelos de IA tiveram dificuldade em captar o áudio de várias pessoas, embora sugira que isso pode ser resultado do treinamento dos algoritmos em imagens contendo vozes individuais.

Por outro lado, o mesmo estudo descobriu que os modelos de IA superam os humanos com vídeos de baixa qualidade (borrados, granulados, escuros, etc.) que podem ser usados ​​intencionalmente para enganar os espectadores humanos. Da mesma forma, os métodos modernos de detecção de IA, como o monitoramento do fluxo sanguíneo em áreas específicas do rosto, envolvem análises que os humanos não podem fazer.

À medida que mais métodos são desenvolvidos, não só melhorará a capacidade da IA ​​para detectar sinais que não conseguimos detectar, mas também melhorará a sua capacidade de enganar. A grande questão é se a tecnologia de detecção de deepfake pode superar os próprios deepfakes. Verificar Como enfrentar a ameaça do sequestro virtual e se proteger online? Reconhecer ameaças.

perguntas comuns

Q1. O que é tecnologia deepfake?

Deepfakes são uma tecnologia que utiliza inteligência artificial para criar conteúdo visual ou de áudio que parece ter sido produzido por seres humanos com alta precisão.

Q2. Quais são os usos dos deepfakes?

A tecnologia Deepfake é usada em uma ampla gama de aplicações, incluindo filmes, indústria de jogos, segurança, fraude e muito mais.

Q3. Como podem ser detectadas falsificações profundas?

Há progresso contínuo nas técnicas de detecção de deepfakes com contribuições da inteligência artificial, mas ferramentas e métodos humanos ainda são necessários.

Q4. Quais são os desafios enfrentados pela detecção de deepfakes?

Entre os desafios estão o desenvolvimento contínuo de tecnologias de falsificação e a dificuldade em distinguir entre conteúdo real e deepfakes.

Q5. A inteligência artificial pode superar os humanos na detecção de falsificações profundas?

A inteligência artificial está a fazer progressos significativos, mas as capacidades humanas ainda são importantes neste contexto.

Vendo as coisas de maneira diferente na era dos deepfakes

As ferramentas de detecção de deepfake baseadas em IA continuarão a melhorar, assim como a qualidade do próprio conteúdo deepfake. Se a capacidade de enganar da IA ​​exceder a sua capacidade de detectar (como é o caso dos textos gerados pela IA), o julgamento humano pode ser a única ferramenta que nos resta para combater os deepfakes.

É responsabilidade de todos reconhecer os sinais dos deepfakes e como identificá-los. Além de nos protegermos de fraudes e ameaças à segurança, tudo o que discutimos e partilhamos online fica vulnerável à desinformação se perdermos a noção da realidade. Você pode ver agora Riscos de escrever conteúdo de IA e como detectar texto gerado por IA.