ChatGPT est un nouveau chatbot IA puissant et rapide, mais beaucoup de gens ont souligné qu'il présentait de sérieux défauts. Demandez-lui tout ce que vous voulez, et vous recevrez une réponse qui semble avoir été conçue par un être humain, ayant reçu les connaissances et les compétences d'écriture d'une formation sur de grandes quantités de données en ligne.
Cependant, tout comme Internet, la frontière entre réalité et fiction est certainement fluide, et ChatGPT est coupable d'avoir commis une erreur à plusieurs reprises. Avec ChatGPT sur le point de changer notre avenir, voici quelques-unes de nos plus grandes préoccupations à ce sujet. Vérifier ChatGPT a-t-il des problèmes de confidentialité ?
Qu'est-ce que ChatGPT ?
ChatGPT est un paradigme de langage naturel conçu pour produire des réponses qui ressemblent étroitement à des conversations humaines. Tout comme si vous vous disputiez avec quelqu'un, vous pouvez parler à ChatGPT, et il se souviendra des choses que vous avez dites dans le passé tout en étant capable de corriger ses réponses en cas de défi.
Il est formé sur toutes sortes de textes provenant d'Internet, vous pouvez penser à Wikipédia, aux articles de blog, aux livres et aux articles universitaires. Cela signifie qu'en plus de vous répondre d'une manière humaine, il peut rappeler des informations sur notre monde actuel, ainsi qu'extraire des informations historiques de notre passé.
Apprendre à utiliser ChatGPT est simple, et il est facile de se laisser berner en pensant que le système d'IA fonctionne sans aucun problème. Cependant, dans les mois qui ont suivi son lancement, les utilisateurs du monde entier ont poussé le chatbot IA à ses limites, ce qui a révélé des problèmes majeurs.
1. ChatGPT génère de mauvaises réponses
ChatGPT échoue en mathématiques de base, ne semble pas répondre à des questions logiques simples et ira même jusqu'à discuter de faits qui ne sont pas entièrement vrais. Comme l'attestent les utilisateurs des réseaux sociaux, ChatGPT peut se tromper à plusieurs reprises.
connaître l'entreprise OpenAI À propos de cette limitation, j'ai écrit ce qui suit : "ChatGPT écrit parfois des réponses qui semblent raisonnables mais qui sont incorrectes ou qui n'ont pas de sens." Ces « hallucinations » de faits et de fiction, comme je les appelle, sont particulièrement dangereuses lorsqu'il s'agit de choses comme des conseils médicaux ou de la précision des faits sur des événements historiques clés.
Contrairement à d'autres assistants IA comme Siri ou Alexa, ChatGPT n'utilise pas Internet pour sélectionner les réponses. Au lieu de cela, il construit une phrase mot pour mot, en choisissant le "jeton" le plus probable qui devrait venir ensuite, en fonction de sa propre formation. En d'autres termes, ChatGPT arrive à une réponse en faisant une série de suppositions, ce qui fait partie de la raison pour laquelle il argumente les mauvaises réponses comme si elles étaient exactement correctes.
Bien qu'il soit doué pour expliquer des concepts complexes, ce qui en fait un puissant outil d'apprentissage, il est important de ne pas croire tout ce qu'il dit. ChatGPT n'a pas toujours raison, du moins pas encore. Vérifier ChatGPT peut faire des blagues, mais l'IA peut-elle vraiment nous faire rire ?
2. ChatGPT a un biais dans son modèle
ChatGPT est formé sur les textes collectifs qui ont été écrits par de nombreuses personnes à travers le monde, passées et présentes. Malheureusement, cela signifie que les mêmes biais qui existent dans le monde réel peuvent également apparaître dans le modèle.
Il a été démontré que ChatGPT produisait des réponses terribles qui discriminaient le sexe, l'origine ethnique et les minorités, ce que l'entreprise tente d'atténuer.
Une façon d'expliquer ce problème est de désigner les données comme le problème, en blâmant l'humanité pour les préjugés en ligne et au-delà. Mais une partie de la responsabilité incombe également à OpenAI, dont les chercheurs et les développeurs sélectionnent les données utilisées pour former ChatGPT.
Encore une fois, OpenAI reconnaît qu'il s'agit d'un problème et a déclaré qu'il s'attaquait à ce qu'ils appellent un "comportement biaisé" en recueillant les commentaires des utilisateurs qui sont encouragés à signaler une mauvaise sortie ChatGPT.
Avec le potentiel de nuire aux gens, vous pourriez affirmer que ChatGPT ne devrait pas être rendu public avant que ces problèmes ne soient étudiés et résolus. Mais la course pour être le premier à lancer les outils d'IA les plus puissants pourrait suffire à OpenAI pour jeter une telle prudence au vent.
En revanche, un chatbot AI similaire appelé Sparrow, propriété de la société mère de Google, Alphabet, a été lancé en septembre 2022. Cependant, il a été délibérément gardé à huis clos en raison de problèmes de sécurité similaires.
À peu près au même moment, Facebook a publié un modèle de langage d'IA appelé Galactica, destiné à aider la recherche universitaire. Il a été rapidement rappelé après que de nombreux utilisateurs l'aient critiqué pour avoir produit des résultats faux et biaisés liés à la recherche scientifique.
3. ChatGPT peut prendre des fonctions aux humains
Le battage médiatique entourant le développement et le déploiement rapides de ChatGPT ne s'est pas calmé, mais vous constaterez que cette technologie de base est déjà intégrée dans un certain nombre d'applications commerciales. Parmi les applications qui ont intégré GPT-4 figurent Duolingo et Khan Academy. Vérifier Des applications qui ont intégré le modèle GPT-4 à leur cœur, mais comment fonctionnent-elles ?
La première est une application dédiée à l'enseignement d'une nouvelle langue, tandis que la seconde est un outil d'apprentissage polyvalent qui propose des tonnes de cours. Les deux offrent ce qui est essentiellement un tuteur d'IA, soit sous la forme d'un personnage alimenté par l'IA auquel vous pouvez parler dans la langue que vous apprenez. Ou en tant que tuteur IA qui peut vous fournir des commentaires personnalisés sur votre apprentissage et vos progrès.
D'une part, cela pourrait changer notre façon d'apprendre, rendre l'enseignement plus accessible et rendre la maîtrise des compétences un peu plus facile. L'inconvénient, cependant, est que cela supprime des emplois que les humains occupent depuis longtemps.
Les progrès technologiques ont toujours entraîné des pertes d'emplois, mais la rapidité des progrès de l'intelligence artificielle signifie que de nombreuses industries sont confrontées au même problème. De l'éducation à l'illustration en passant par les rôles de service client, ChatGPT et sa technologie sous-jacente vont radicalement remodeler notre monde moderne. Vérifier Comment l'IA générative va changer le marché du travail.
4. ChatGPT peut contester la langue utilisée à l'école
Vous pouvez demander à ChatGPT de relire votre écriture ou d'indiquer comment améliorer un paragraphe. Ou vous pouvez vous retirer complètement de l'équation et laisser ChatGPT écrire tout pour vous.
Les enseignants ont expérimenté l'introduction de devoirs en anglais dans ChatGPT et ont reçu de meilleures réponses que la plupart de leurs élèves. De la rédaction de lettres d'introduction à la description des principaux sujets d'une œuvre littéraire célèbre, ChatGPT peut tout faire sans hésitation.
Cela soulève la question : si ChatGPT peut nous écrire, les étudiants devront-ils apprendre à écrire à l'avenir ? Cela peut sembler être une question existentielle, mais lorsque les élèves commenceront à utiliser ChatGPT pour aider à rédiger leurs essais, les écoles devront penser à une réponse rapide. La propagation rapide de l'intelligence artificielle ces dernières années devrait choquer de nombreuses industries, et l'éducation n'est que l'une d'entre elles.
5. ChatGPT peut causer des dommages dans le monde réel
Plus tôt, nous avons mentionné comment des informations incorrectes de ChatGPT peuvent causer des dommages dans le monde réel, un exemple étant un mauvais avis médical. Mais il y a aussi d'autres préoccupations.
La vitesse à laquelle un texte d'apparence naturelle peut être généré permet très facilement à un fraudeur de se faire passer pour quelqu'un que vous connaissez sur les réseaux sociaux. De même, il sera plus difficile de détecter un e-mail de phishing conçu pour vous extraire des détails sensibles, avec l'avantage supplémentaire que ChatGPT peut produire du texte sans erreurs grammaticales, ce qui était auparavant un signe d'avertissement évident.
La diffusion de fausses informations est également une préoccupation majeure. L'échelle à laquelle ChatGPT peut produire du texte, associée à la capacité de faire apparaître des informations incorrectes de manière convaincante, rendra certainement les informations sur Internet plus discutables.
La vitesse à laquelle ChatGPT peut produire des informations a déjà causé des problèmes à Stack Exchange, un site Web dédié à fournir des réponses correctes aux questions quotidiennes. Peu de temps après le lancement de ChatGPT, les utilisateurs ont commencé à inonder le site de réponses demandant à ChatGPT de le générer.
Sans suffisamment de volontaires humains pour trier l'arriéré, il serait impossible de maintenir un niveau élevé de réponses de qualité. Sans oublier que de nombreuses réponses étaient tout simplement incorrectes. Pour éviter d'endommager le site Web, toutes les réponses générées avec ChatGPT ont été interdites. Vérifier Comment les enfants peuvent utiliser ChatGPT en toute sécurité.
6. OpenAI a beaucoup de pouvoir
Un grand pouvoir s'accompagne d'une grande responsabilité, et OpenAI détient beaucoup de pouvoir. C'est l'une des premières sociétés d'IA à véritablement secouer le monde avec non pas un, mais plusieurs modèles d'IA, dont Dall-E 2, GPT-3 et GPT-4.
OpenAI sélectionne les données utilisées pour former ChatGPT, mais ces informations ne sont pas accessibles au public. Nous ne connaissons tout simplement pas les détails de la façon dont ChatGPT a été formé, quelles données ont été utilisées, d'où proviennent les données ou à quoi ressemble l'architecture du système en détail.
Bien qu'OpenAI considère la sécurité comme une priorité absolue, nous ignorons beaucoup de choses sur le fonctionnement des modèles eux-mêmes, pour le meilleur ou pour le pire. Que vous pensiez que le code devrait être open source ou que vous conveniez qu'il devrait en garder certaines parties secrètes, nous ne pouvons pas y faire grand-chose.
En fin de compte, nous devons faire aveuglément confiance à OpenAI pour rechercher, développer et utiliser ChatGPT de manière responsable. Que nous soyons d'accord avec les méthodes ou non, OpenAI continuera à développer ChatGPT selon ses propres objectifs et normes éthiques. Vérifier OpenAI a-t-il vraiment perdu le contrôle du chatbot ChatGPT ?
S'attaquer aux plus gros problèmes de l'intelligence artificielle
Il y a beaucoup de raisons de s'enthousiasmer avec ChatGPT, mais au-delà de ses utilisations immédiates, il y a quelques problèmes sérieux qui méritent d'être compris. OpenAI reconnaît que ChatGPT peut produire des réponses malveillantes et biaisées, dans l'espoir d'atténuer le problème en recueillant les commentaires des utilisateurs. Mais sa capacité à produire un texte convaincant, même lorsque les faits ne sont pas vrais, peut facilement être utilisée par des personnes mal intentionnées.
Avec une technologie entièrement nouvelle, il est difficile de prévoir les problèmes qui surgiront à l'avenir. Ainsi, même si cela peut être amusant à utiliser, assurez-vous de ne pas croire tout ce que dit ChatGPT. Vous pouvez voir maintenant ChatGPT peut-il fournir des informations fiables sur la santé ?
