Goste ou não, a inteligência artificial (IA) transformará a maneira como segmentos inteiros de nossa sociedade pensam e interagem, e isso inclui a World Wide Web.
Com modelos como o ChatGPT disponíveis para qualquer pessoa com conexão à Internet, está se tornando cada vez mais difícil separar o conteúdo gerado por IA do conteúdo original e exclusivo gerado por humanos. É bom termos detectores de conteúdo de IA, certo? Verificar Riscos de escrever conteúdo de IA e como detectar texto gerado por IA.
Os detectores de conteúdo ativam o reconhecimento de texto AI?
Os detectores de conteúdo de IA são ferramentas especializadas que determinam se um texto foi escrito por um computador ou por um ser humano. Se você apenas pesquisar no Google a frase "detector de conteúdo AI", verá que existem dezenas de detectores disponíveis, todos os quais afirmam ser capazes de distinguir de forma confiável entre texto humano e não humano.
A maneira como funciona é bastante simples: você cola um trecho de sua escrita e a ferramenta informa se foi ou não gerada por IA. Em termos mais técnicos, usando uma combinação de técnicas de processamento de linguagem natural e algoritmos de aprendizado de máquina, as ferramentas de detecção de conteúdo de IA procuram padrões, fazem previsões e fazem conexões com base nisso.
Isso parece ótimo no papel, mas se você já usou uma ferramenta de detecção de conteúdo de IA, sabe muito bem que ela acerta e erra, para dizer o mínimo. Muitas vezes, você identifica o conteúdo escrito por humanos como feito por IA ou o texto gerado por IA como gerado por humanos. Na verdade, alguns são embaraçosamente ruins no que deveriam fazer.
Quão precisas são as ferramentas de detecção de conteúdo de IA?
Se você mora nos EUA, o primeiro resultado de pesquisa do Google para “detector de conteúdo AI” é Escritor.com (Anteriormente Qordoba; uma plataforma de conteúdo AI que também possui seu próprio detector). Mas quando você cola uma seção de um artigo aleatório de Associated Press Nesta ferramenta, afirma que há uma chance muito boa de ter sido moldada pela IA.
Então, você está errado.
Para ser justo, outras ferramentas de detecção de conteúdo de IA não são melhores. Eles não apenas geram falsos positivos, mas também classificam o conteúdo de IA como humano. E mesmo que não o faça, fazer pequenos ajustes no texto gerado pela IA é suficiente para que ele seja aprovado completamente.
Em fevereiro de 2023, o professor da Universidade de Wollongong Armin Alimardani e professor associado da Universidade de New South Wales Sydney Emma A. Jin” usou várias ferramentas populares de detecção de conteúdo de IA, o que prova que nenhuma delas é confiável. Alimardani e Jane concluíram em sua análise, que foi publicada em A Conversação , que a “corrida armamentista” da IA entre geradores de texto e ferramentas de detecção será um grande desafio no futuro, principalmente para educadores.
Mas não são apenas os professores que têm motivos para se preocupar: todos deveriam ter. À medida que o texto gerado por IA se torna onipresente, será mais difícil distinguir entre o que é "real" e o que não é, ou seja, detectar o que é escrito por IA. Isso terá um impacto significativo em quase todas as indústrias e áreas da sociedade, até mesmo nas relações pessoais. Verificar Maneiras responsáveis de usar a IA como redator ou editor de conteúdo.
Implicações da inteligência artificial para segurança cibernética e privacidade
O fato de não haver mecanismos confiáveis para determinar se algo foi gerado por um chatbot ou por um ser humano tem sérias implicações de segurança cibernética e privacidade.
Os invasores já estão usando o ChatGPT para escrever malware, criar e-mails de phishing, escrever spam, criar sites fraudulentos e muito mais. E embora existam maneiras de se defender contra isso, certamente é preocupante que não haja um aplicativo capaz de distinguir com segurança entre conteúdo orgânico e um bot.
As notícias falsas também são um grande problema. Com a IA generativa instalada, os agentes de desinformação podem escalar suas operações de maneira sem precedentes. Enquanto isso, a pessoa comum não tem como saber se algo que lê online foi criado por um chatbot ou por um humano. Verificar Maneiras como a IA pode ajudar os cibercriminosos.
GPTZero, um detector de IA, acha que a Constituição dos EUA foi escrita por IA.
Os pais fundadores estavam à frente de seu tempo 😂 pic.twitter.com/dsXqZOJxSz
- Barsee 🐶 (@heyBarsee) 4 de março de 2023
A privacidade é um assunto totalmente diferente. Veja o ChatGPT, por exemplo. Ele foi alimentado com mais de 300 bilhões de palavras antes de ser lançado. Este conteúdo foi retirado de livros, postagens de blog, fóruns, artigos e mídias sociais. Ele foi coletado sem o consentimento de ninguém e aparentemente com total desrespeito às proteções de privacidade e direitos autorais.
Depois, há também a questão dos falsos positivos. Se o conteúdo for sinalizado erroneamente como gerado por IA, isso não poderia levar à censura, o que é um grande problema de qualquer maneira? Sem mencionar o dano que ser acusado de usar texto gerado por IA pode causar à reputação de um editor, tanto online quanto na vida real.
Se realmente existe uma corrida armamentista entre IA generativa e detectores de conteúdo, o primeiro é o vencedor. O que é pior, parece não haver solução. Todos os nossos produtos semi-assados não funcionam tão bem ou podem ser enganados com muita facilidade. Verificar Maneiras como os escritores de conteúdo podem ser mais espertos que as ferramentas de escrita de IA.
Como descobrir conteúdo de IA: soluções possíveis
Só porque não temos respostas reais para esse problema agora, não significa que não teremos acesso a nenhuma no futuro. Na verdade, já existem várias propostas sérias que podem funcionar. A marca d'água é uma delas.
Quando se trata de IA e modelos de linguagem profunda, a marca d'água refere-se à incorporação de um tipo de código secreto no texto gerado pela IA (como estilo de palavra e estilo de pontuação). Essa marca d'água seria invisível a olho nu e, portanto, impossível de remover, mas aplicativos especializados seriam capazes de detectá-la.
Com efeito, em 2022, desenvolveu Pesquisadores da Universidade de Maryland Um novo método de marca d'água para redes neurais artificiais. O pesquisador principal, Tom Goldstein, disse na época que sua equipe conseguiu "provar matematicamente" que a marca d'água não pode ser completamente removida.
Agora, o que uma pessoa comum poderia fazer era confiar em seus instintos e bom senso. Se algo sobre o conteúdo que você está lendo - se parece antinatural, repetitivo, sem criatividade ou simples - pode ter sido gerado por um bot. Obviamente, você também deve verificar todas as informações que vê online, verificar novamente a fonte e ficar longe de sites suspeitos. Verificar Quem possui os direitos autorais das criações de IA? Como funcionam os direitos autorais dessas obras de arte?
A revolução da inteligência artificial está em andamento
Alguns argumentam que a Quinta Revolução Industrial já está aqui, com a inteligência artificial ocupando o centro do palco no que é descrito como uma convergência do digital e do físico. Seja ou não esse o caso, tudo o que podemos fazer é nos adaptar.
A boa notícia é que a indústria de segurança cibernética está se adaptando a essa nova realidade, implementando novas estratégias defensivas com inteligência artificial e aprendizado de máquina na vanguarda. Você pode ver agora Alguns mitos de segurança cibernética que o tornam mais vulnerável a ataques.
