Qu'on le veuille ou non, l'intelligence artificielle (IA) transformera la façon dont des segments entiers de notre société pensent et interagissent, et cela inclut le World Wide Web.
Avec des modèles comme ChatGPT accessibles à toute personne disposant d'une connexion Internet, il devient de plus en plus difficile de séparer le contenu généré par l'IA du contenu original et unique généré par l'homme. C'est bien que nous ayons des détecteurs de contenu IA, non ? Vérifier Risques liés à l'écriture de contenu IA et comment détecter le texte généré par l'IA.
Les détecteurs de contenu activent-ils la reconnaissance de texte AI ?
Les détecteurs de contenu IA sont des outils spécialisés qui déterminent si un texte a été écrit par un ordinateur ou par un humain. Si vous venez de rechercher sur Google l'expression "détecteur de contenu IA", vous verrez qu'il existe des dizaines de détecteurs disponibles, qui prétendent tous être capables de faire la distinction de manière fiable entre le texte humain et non humain.
Le fonctionnement est assez simple : vous collez un extrait de votre écriture, et l'outil vous indique s'il a été généré ou non par l'IA. En termes plus techniques, en utilisant une combinaison de techniques de traitement du langage naturel et d'algorithmes d'apprentissage automatique, les outils de détection de contenu d'IA recherchent des modèles et font des prédictions, et établissent des connexions en fonction de cela.
Cela sonne bien sur le papier, mais si vous avez déjà utilisé un outil de détection de contenu IA, vous savez très bien qu'il tombe à pic, c'est le moins qu'on puisse dire. Souvent, vous repérez le contenu écrit par l'homme comme créé par l'IA, ou le texte généré par l'IA comme généré par l'homme. En fait, certains sont horriblement mauvais dans ce qu'ils sont censés faire.
Quelle est la précision des outils de détection de contenu IA ?
Si vous êtes basé aux États-Unis, le premier résultat de recherche Google pour "détecteur de contenu IA" est Écrivain.com (Anciennement Qordoba ; une plate-forme de contenu d'IA qui possède également son propre détecteur). Mais lorsque vous collez une section d'un article au hasard à partir de Associated Press Dans cet outil, il prétend qu'il y a de très fortes chances qu'il ait été façonné par l'IA.
Donc, vous vous trompez.
Pour être juste, les autres outils de détection de contenu IA ne sont pas meilleurs. Non seulement ils génèrent des faux positifs, mais ils classent également le contenu de l'IA comme humain. Et même si vous ne le faites pas, il suffit d'apporter de légers ajustements au texte généré par l'IA pour le faire passer complètement.
En février 2023, maître de conférences à l'Université de Wollongong Armin Alimardani et professeur associé à l'Université de Nouvelle-Galles du Sud Sydney Emma A. Jin" a utilisé un certain nombre d'outils de détection de contenu AI populaires, ce qui prouve qu'aucun d'entre eux n'est fiable. Alimardani et Jane ont conclu dans leur analyse publiée dans The Conversation , que la "course aux armements" de l'IA entre les générateurs de texte et les outils de détection sera un énorme défi à l'avenir, en particulier pour les éducateurs.
Mais il n'y a pas que les enseignants qui ont des raisons de s'inquiéter : tout le monde devrait l'être. Au fur et à mesure que le texte généré par l'IA devient omniprésent, être capable de faire la distinction entre ce qui est "réel" et ce qui ne l'est pas, c'est-à-dire détecter ce qui est écrit par l'IA, deviendra plus difficile. Cela aura un impact significatif sur presque toutes les industries et tous les domaines de la société, même les relations personnelles. Vérifier Des moyens responsables d'utiliser l'IA en tant que rédacteur ou éditeur de contenu.
Implications de l'intelligence artificielle pour la cybersécurité et la confidentialité
Le fait qu'il n'existe aucun mécanisme fiable pour déterminer si quelque chose a été généré par un chatbot ou un humain a de graves implications en matière de cybersécurité et de confidentialité.
Les attaquants utilisent déjà ChatGPT pour écrire des logiciels malveillants, créer des e-mails de phishing, écrire des spams, créer des sites Web frauduleux, etc. Et bien qu'il existe des moyens de se défendre contre cela, il est certainement inquiétant qu'il n'y ait pas d'application capable de faire la distinction de manière fiable entre le contenu organique et un bot.
Les fausses nouvelles sont également un très gros problème. Avec l'IA générative en place, les agents de désinformation peuvent faire évoluer leurs opérations d'une manière sans précédent. Pendant ce temps, la personne moyenne n'a aucun moyen de savoir si quelque chose qu'elle lit en ligne a été créé par un chatbot ou un humain. Vérifier Comment l'IA peut aider les cybercriminels.
GPTZero, An AI Detector, pense que la Constitution américaine a été rédigée par l'IA.
Les pères fondateurs étaient en avance sur leur temps 😂 pic.twitter.com/dsXqZOJxSz
- Barsee 🐶 (@heyBarsee) 4 mars 2023
La vie privée est une tout autre affaire. Prenez ChatGPT, par exemple. Il a été alimenté par plus de 300 milliards de mots avant son lancement. Ce contenu a été extrait de livres, de billets de blog, de forums, d'articles et de médias sociaux. Il a été collecté sans le consentement de quiconque et avec un mépris apparemment total pour la protection de la vie privée et du droit d'auteur.
Ensuite, il y a aussi la question des faux positifs. Si le contenu est marqué par erreur comme généré par l'IA, cela ne pourrait-il pas conduire à la censure, ce qui est de toute façon un gros problème ? Sans parler des dommages que le fait d'être accusé d'utiliser du texte généré par l'IA pourrait causer à la réputation d'un éditeur, à la fois en ligne et dans la vie réelle.
S'il y a vraiment une course aux armements entre l'IA générative et les détecteurs de contenu, le premier est le gagnant. Pire encore, il semble qu'il n'y ait pas de solution. Tous nos produits semi-cuits ne fonctionnent même pas aussi bien, ou ils peuvent être trompés très facilement. Vérifier Comment les rédacteurs de contenu peuvent déjouer les outils d'écriture de l'IA.
Comment découvrir du contenu IA : solutions possibles
Ce n'est pas parce que nous n'avons pas de vraies réponses à ce problème en ce moment que nous n'en aurons pas accès à l'avenir. En fait, il existe déjà plusieurs propositions sérieuses qui pourraient fonctionner. Le filigrane en fait partie.
En ce qui concerne l'IA et les modèles de langage profond, le filigrane fait référence à l'intégration d'une sorte de code secret dans le texte généré par l'IA (tel que le style de mot et le style de ponctuation). Un tel filigrane serait invisible à l'œil nu et donc impossible à retirer, mais des applications spécialisées seraient capables de le détecter.
En effet, en 2022, il développe Chercheurs de l'Université du Maryland Une nouvelle méthode de tatouage pour les réseaux de neurones artificiels. Le chercheur principal Tom Goldstein a déclaré à l'époque que son équipe avait été en mesure de « prouver mathématiquement » que le filigrane ne peut pas être complètement supprimé.
À l'heure actuelle, ce qu'une personne ordinaire pouvait faire, c'était se fier à son instinct et à son bon sens. Si quelque chose à propos du contenu que vous lisez, s'il semble non naturel, répétitif, non créatif ou simple, il peut avoir été généré par un bot. Bien sûr, vous devez également vérifier toutes les informations que vous voyez en ligne, revérifier la source et rester à l'écart des sites Web suspects. Vérifier Qui détient les droits d'auteur sur les créations d'IA ? Comment fonctionne le droit d'auteur pour ces œuvres ?
La révolution de l'intelligence artificielle est en marche
Certains affirment que la cinquième révolution industrielle est déjà là, l'intelligence artificielle occupant le devant de la scène dans ce qui est décrit comme une convergence du numérique et du physique. Que ce soit le cas ou non, tout ce que nous pouvons faire, c'est nous adapter.
La bonne nouvelle est que l'industrie de la cybersécurité s'adapte à cette nouvelle réalité, mettant en œuvre de nouvelles stratégies défensives avec l'intelligence artificielle et l'apprentissage automatique au premier plan. Vous pouvez voir maintenant Quelques mythes sur la cybersécurité qui vous rendent plus vulnérable aux attaques.
