Qui n'a pas utilisé ChatGPT à ce stade, même à travers une simple expérimentation ? C'est une option très intéressante et cool si vous vous intéressez à l'IA, et c'est gratuit (pour l'instant).
Bien qu'il soit généralement décrit comme un chatbot, ChatGPT offre bien plus que cela. Il peut créer une transcription virtuelle, expliquer des sujets complexes, agir en tant que traducteur, montrer des blagues et écrire du code. Mais il peut aussi être utilisé par des acteurs malveillants. Vérifier Questions sur ChatGPT, avec réponses.
Comment fonctionne ChatGPT et pourquoi il attire les cybercriminels
ChatGPT (General Pre-Trained Models) a été développé par le laboratoire de recherche sur l'IA OpenAI et publié en novembre 2022. Il s'agit d'un modèle de langage naturel avancé qui utilise une combinaison de techniques d'apprentissage automatique supervisées et augmentées.
Peut-être plus important encore, ChatGPT est constamment affiné et formé par les utilisateurs, qui peuvent voter oui ou non sur ses différentes réponses, ce qui le rend plus précis et robuste, car il collecte lui-même des données.
C'est ce qui fait que ChatGPT devance les autres chatbots. Et si vous l'avez déjà utilisé, vous savez que la différence est immédiatement perceptible : contrairement à d'autres produits similaires, il est capable de s'engager activement dans une conversation et d'accomplir des tâches complexes avec une précision impressionnante, tout en fournissant des réponses cohérentes et plus humaines.
Si on vous montre un court article écrit par un humain et un autre écrit par ChatGPT, il y a de fortes chances que vous ayez du mal à dire lequel est généré par l'IA. Par exemple, il s'agit d'un morceau de texte généré dans ChatGPT lorsqu'on lui a demandé d'écrire un court article sur The Catcher in the Rye.
Cela ne veut pas dire que ChatGPT n'a pas ses limites - c'est certainement le cas. Plus vous l'utiliserez, plus vous remarquerez que c'est le cas. Malgré son pouvoir, il peut toujours lutter avec la logique élémentaire, faire des erreurs, partager des informations fausses et trompeuses, interpréter de manière comique des instructions erronées et les manipuler pour arriver à une mauvaise conclusion.
Mais la force de ChatGPT ne réside pas dans sa capacité à parler et à interagir avec vous. Au lieu de cela, cela réside dans sa capacité quasi illimitée à accomplir des tâches en masse, bien plus efficacement et plus rapidement qu'un être humain ne peut le faire. Avec les bonnes entrées et commandes, et quelques correctifs créatifs, ChatGPT peut être transformé en un outil d'automatisation incroyablement puissant.
Dans cet esprit, il n'est pas difficile d'imaginer comment un cybercriminel pourrait s'armer avec ce que ChatGPT a à offrir. Il s'agit de trouver le bon chemin, de le mettre à l'échelle et de faire en sorte que l'IA accomplisse autant de tâches que possible simultanément, avec plusieurs comptes et sur plusieurs appareils si nécessaire. Vérifier Les meilleures alternatives à ChatGPT.
Certaines des choses qu'un cybercriminel peut faire avec ChatGPT
Il existe déjà quelques exemples concrets d'utilisation de ChatGPT par des acteurs malveillants, mais il est probable qu'il pourrait être transformé en arme de différentes manières, ou le sera à un moment donné dans le futur. Voici quelques-unes des choses que les pirates peuvent faire (et probablement faire) avec ChatGPT.
1. Écrire des logiciels malveillants
Si ChatGPT peut écrire du code, il peut certainement écrire des logiciels malveillants. Pas étonnant. Mais ce n'est pas seulement une possibilité théorique. En janvier 2023, la société de cybersécurité Check Point Research a découvert que les cybercriminels utilisaient déjà ChatGPT pour écrire des logiciels malveillants et s'en vanter sur des forums clandestins.
L'acteur de la menace découvert par Check Point Research a utilisé le chatbot avancé de manière imaginative et créative pour recréer le logiciel malveillant basé sur Python décrit dans des publications de recherche données. Lorsque les chercheurs ont testé le logiciel malveillant, ils ont découvert que le cybercriminel disait la vérité : le logiciel malveillant créé par ChatGPT faisait exactement ce pour quoi il était conçu.
2. Créez des e-mails de phishing
Aussi puissants que soient devenus les filtres anti-spam, les messages de phishing dangereux passent toujours à travers de nombreuses failles, et il n'y a pas grand-chose qu'une personne moyenne puisse faire à part signaler l'expéditeur à son fournisseur. Mais il n'y a pas grand-chose qu'un pirate capable puisse faire avec une liste de diffusion et un accès ChatGPT.
Avec les bonnes commandes et suggestions, ChatGPT peut générer de manière convaincante des e-mails de phishing, automatisant potentiellement le processus pour les acteurs de la menace et leur permettant de faire évoluer leurs opérations.
3. Créer des sites Web frauduleux
Si vous avez utilisé l'expression "créer un site Web avec ChatGPT" dans une recherche Google, vous trouverez un tas de tutoriels détaillant comment le faire. Bien que ce soit une bonne nouvelle pour quiconque souhaite créer un site Web à partir de zéro, c'est également une excellente nouvelle pour les cybercriminels. Qu'est-ce qui pourrait les empêcher d'utiliser ChatGPT pour créer un ensemble de sites Web frauduleux ou de pages de destination de phishing ?
Les possibilités sont presque infinies. L'auteur de la menace peut cloner puis modifier un site Web existant à l'aide de ChatGPT, créer de faux sites Web de commerce électronique, gérer un site Web avec un contenu trompeur, etc. Vérifier Quelques façons de tirer le meilleur parti de ChatGPT.
4. Générez du contenu de spam
Pour démarrer un faux site Web, pour créer une page de réseau social frauduleuse ou pour créer un faux site Web, vous avez besoin de contenu - beaucoup de contenu. Le contenu écrit doit apparaître le plus légitime possible pour que l'arnaque réussisse. Pourquoi un pirate embaucherait-il des rédacteurs de contenu ou rédigerait-il lui-même des articles de blog, alors qu'il peut simplement demander à ChatGPT de le faire pour lui ?
Bien sûr, un site Web avec du contenu généré par l'IA serait probablement pénalisé assez rapidement par Google et n'apparaîtrait pas dans les résultats de recherche, mais il existe de nombreuses façons pour un pirate de promouvoir un site Web, d'y envoyer du trafic et d'arnaquer les gens pour qu'ils donnent leur argent. ou voler leurs informations personnelles. Vérifier Comment obtenir les résultats de recherche Google par date : quelques méthodes.
5. Diffuser de fausses informations et de fausses nouvelles
La désinformation en ligne est devenue un problème majeur ces dernières années. Les fausses nouvelles se répandent comme une traînée de poudre sur les réseaux sociaux, et les personnes qui ne le savent pas tombent souvent dans le piège d'histoires trompeuses – et parfois littéralement inventées. Cela peut avoir des conséquences désastreuses dans la vie réelle, et il semble que personne ne sache comment arrêter la diffusion de fausses nouvelles sans violer les lois sur la liberté d'expression.
Des outils comme ChatGPT peuvent exacerber ce problème. Les acteurs de la menace ayant accès à des applications capables de créer chaque jour des milliers de fausses nouvelles et de publications sur les réseaux sociaux semblent être une recette pour un désastre.
Ne prenez pas au sérieux ce qui a été dit
Si vous n'êtes pas convaincu, nous avons demandé à ChatGPT comment un cybercriminel pourrait l'utiliser. Semble d'accord avec l'essentiel de cet article.
Il a indiqué qu'il peut être utilisé par les cybercriminels de plusieurs façons, et il en a mentionné certaines : hameçonnage, fraude et ingénierie sociale.
Entre de mauvaises mains, ChatGPT peut être dangereux
On ne peut qu'imaginer ce que l'IA sera capable de faire dans cinq ou dix ans. Pour l'instant, il est préférable d'ignorer le battage médiatique et la panique, et d'évaluer ChatGPT de manière rationnelle.
Comme toutes les technologies, ChatGPT n'est ni bénéfique ni nuisible en soi. Malgré quelques défauts, il s'agit de loin du chatbot le plus avancé jamais lancé au public. Vous pouvez voir maintenant Les meilleurs outils basés sur l'IA pour créer gratuitement de l'art photo à partir de votre écriture.
