ChatGPT apprend-il des conversations des utilisateurs ?

Avec des millions d'utilisateurs de ChatGPT, vous vous demandez peut-être ce que fait OpenAI avec toutes les conversations qui ont lieu avec un chatbot. Analysez-vous constamment les choses dont vous parlez avec ChatGPT ?

La réponse est oui, ChatGPT apprend de l'entrée de l'utilisateur, mais pas comme la plupart des gens le pensent. Voici un guide étape par étape qui explique pourquoi ChatGPT suit les conversations, comment l'utiliser et si votre sécurité est menacée. Vérifier Pourquoi ne pas faire confiance à ChatGPT pour partager des informations confidentielles avec lui.

ChatGPT mémorise-t-il les conversations ?

ChatGPT ne prend pas les réclamations au pied de la lettre. Il utilise la mémoire contextuelle pour mémoriser et référencer les entrées précédentes, garantissant des réponses cohérentes et pertinentes.

Prenez la conversation ci-dessous comme exemple. Lorsque nous avons demandé à ChatGPT des idées de recettes, il a pris en compte notre précédent article sur les allergies aux arachides.

Voici la recette du ChatGPT sécurisé.

La mémoire contextuelle permet également à l'IA d'effectuer des tâches en plusieurs étapes. L'image ci-dessous montre que ChatGPT reste en contexte même après avoir reçu une nouvelle invite.

ChatGPT peut mémoriser des dizaines d'instructions dans les conversations. Sa sortie s'améliore en termes de précision et de fiabilité plus vous fournissez de contexte. Assurez-vous simplement d'expliquer explicitement vos instructions.

Il faut aussi gérer ses attentes car la mémoire contextuelle de ChatGPT a encore des limites.

Les conversations ChatGPT ont des capacités de mémoire limitées

La mémoire contextuelle est limitée. ChatGPT dispose de ressources matérielles limitées, il ne mémorise donc que des points spécifiques des conversations en cours. Le modèle oublie les invites précédentes une fois qu'il atteint sa capacité de mémoire.

Dans cette conversation, ChatGPT nous a demandé de jouer un personnage fictif nommé Tomie.

Il a commencé à répondre aux invites en tant que Tomie, pas ChatGPT.

Bien que notre application ait réussi, ChatGPT a cassé le caractère après avoir reçu une invite de 1000 XNUMX mots.

OpenAI n'a jamais révélé les limites exactes de ChatGPT, mais la rumeur dit qu'il ne peut traiter que 3000 2800 mots à la fois. D'après notre expérience, ChatGPT se bloque après seulement XNUMX mots.

Vous pouvez diviser les invites en deux blocs de 1500 XNUMX mots, mais ChatGPT ne contiendra probablement pas toutes vos instructions. Commencez simplement une autre conversation entièrement. Sinon, vous devrez répéter plusieurs fois des détails spécifiques tout au long de votre conversation.

ChatGPT ne mémorise que les entrées pertinentes

ChatGPT utilise la mémoire contextuelle pour améliorer la précision de la sortie. Il ne conserve pas les informations juste pour les collecter. Le formulaire oublie presque automatiquement les détails non pertinents, même si vous êtes loin d'atteindre la limite de jetons.

Dans l'image ci-dessous, nous essayons de confondre différentes instructions incohérentes et sans rapport.

Nous avons gardé nos entrées groupées en dessous de 100 mots, mais ChatGPT a quand même oublié notre première aide. Il a rapidement rompu le caractère.

Pendant ce temps, ChatGPT a continué à jouer un rôle au cours de cette conversation car nous n'avons posé que des questions pertinentes.

Idéalement, chaque dialogue devrait suivre un seul sujet pour que les résultats restent exacts et pertinents. Vous pouvez toujours saisir plusieurs instructions à la fois. Assurez-vous simplement qu'il correspond au sujet général, sinon ChatGPT peut supprimer des instructions qu'il juge non pertinentes.

Les instructions de formation surmontent l'entrée de l'utilisateur

ChatGPT donnera toujours la priorité aux instructions prédéfinies par rapport aux entrées générées par l'utilisateur. OpenAI arrête les activités illégales grâce à des restrictions. Le formulaire rejette toute réclamation qu'il juge dangereuse ou préjudiciable à autrui.

Prenez les demandes de jeu de rôle comme exemples. Bien qu'il contourne certaines restrictions de langage et de formulation, vous ne pouvez pas l'utiliser pour commettre des activités illégales.

Bien sûr, toutes les restrictions ne sont pas raisonnables. Si des directives strictes rendent des tâches spécifiques difficiles à exécuter, continuez à réécrire vos invites. Le choix des mots et le ton influencent grandement la sortie. Vous pouvez vous inspirer de Invites les plus efficaces et détaillées sur GitHub.

Comment OpenAI étudie-t-il les conversations des utilisateurs ?

La mémoire contextuelle ne s'applique qu'à votre conversation en cours. L'architecture sans état de ChatGPT traite les conversations comme des états indépendants ; Les informations du contenu précédent ne peuvent pas être référencées. Le démarrage de nouvelles conversations réinitialise toujours l'état du formulaire.

Cela ne signifie pas que ChatGPT se débarrasse immédiatement des discussions des utilisateurs. États Conditions d'utilisation d'OpenAI Cependant, l'entreprise recueille des informations auprès de services grand public non API tels que ChatGPT et Dall-E. Vous pouvez même demander des copies de votre historique de chat.

Pendant que ChatGPT accède librement aux chats, bannissez Politique de confidentialité d'OpenAI Activités susceptibles de mettre les utilisateurs en danger. Les coachs ne peuvent utiliser vos données que pour la recherche et le développement de produits.

Les développeurs recherchent des failles

L'équipe de développement OpenAI parcourt les conversations à la recherche de vulnérabilités. Il analyse les cas où ChatGPT montre des biais de données, produit des informations malveillantes ou aide à la commission d'activités illégales. Les lignes directrices éthiques du modèle sont constamment renouvelées.

Par exemple, les premières versions de ChatGPT répondaient ouvertement aux questions sur le codage de logiciels malveillants ou la création d'explosifs. Ces incidents ont fait sentir aux utilisateurs qu'OpenAI n'avait aucun contrôle sur ChatGPT. Pour regagner la confiance du public, elle a formé un chatbot pour rejeter toute question qui pourrait aller à l'encontre de ses directives. Vérifier OpenAI a-t-il vraiment perdu le contrôle du chatbot ChatGPT ?

Les entraîneurs collectent et analysent des données

ChatGPT utilise des technologies d'apprentissage supervisé. Bien que le modèle se souvienne de toutes les entrées, il n'en apprend pas en temps réel. L'équipe de formation OpenAI les collecte et les analyse en premier. Cela garantit que ChatGPT n'absorbe jamais les informations nuisibles et biaisées qu'il reçoit.

L'apprentissage supervisé demande plus de temps et d'énergie que les techniques non supervisées. Cependant, laisser l'IA analyser seule les entrées s'est déjà avéré néfaste.

Prenons l'exemple de Microsoft Tay : une fois, une erreur d'apprentissage automatique s'est produite. Alors qu'il analysait constamment les tweets sans direction du développeur, des utilisateurs malveillants l'ont finalement formé aux préjugés raciaux et aux stéréotypes. Vérifier ChatGPT va-t-il devenir une menace pour la cybersécurité ? Voici ce qu'il faut surveiller.

Les développeurs font constamment attention aux préjugés

De nombreux facteurs externes provoquent des biais dans l'IA. Des biais inconscients peuvent provenir de différences dans les modèles de formation, d'erreurs dans les ensembles de données et de contraintes mal construites. Vous le découvrirez dans de nombreuses applications de l'intelligence artificielle.

Heureusement, ChatGPT n'a pas montré de préjugés discriminatoires ou raciaux. Selon un rapport, le pire biais que les utilisateurs ont remarqué est peut-être l'inclinaison de ChatGPT envers les idéologies de gauche. Poste de New York. Le modèle écrit plus ouvertement sur des sujets libéraux que sur des sujets conservateurs.

Pour remédier à ces biais, OpenAI a interdit au chatbot ChatGPT de fournir des informations politiques. Il ne peut répondre qu'à des faits généraux. Vérifier Qu'est-ce qu'un jailbreak ChatGPT ? Devez-vous utiliser ces technologies ?

Les modérateurs auditent les performances de ChatGPT

Les utilisateurs peuvent évaluer les réponses ChatGPT. Vous trouverez les boutons pouce vers le haut et pouce vers le bas à droite de chaque réponse. Le premier indique une réaction positive. Après avoir appuyé sur le bouton J'aime ou Je n'aime pas, une fenêtre apparaîtra dans laquelle vous pourrez envoyer des commentaires dans vos propres mots.

Le système de rétroaction est utile. Donnez simplement à OpenAI le temps de passer au crible les commentaires. Des millions d'utilisateurs commentent régulièrement ChatGPT - ses développeurs donnent potentiellement la priorité aux cas graves de biais et à la génération de résultats nuisibles. Vérifier ChatGPT a-t-il des problèmes de confidentialité ?

Vos conversations ChatGPT sont-elles sécurisées ?

Compte tenu des politiques de confidentialité d'OpenAI, vous pouvez être assuré que vos données resteront sécurisées. ChatGPT utilise les conversations uniquement pour l'apprentissage des données. Ses développeurs étudient les informations collectées pour améliorer la précision et la fiabilité des résultats, et non pour voler des données personnelles.

Cela dit, aucun système d'IA n'est parfait. ChatGPT n'est pas intrinsèquement biaisé, mais des individus malveillants peuvent toujours exploiter ses vulnérabilités, par exemple, des erreurs de collecte de données, une formation bâclée et des vulnérabilités de sécurité. Pour votre protection, apprenez à combattre ces risques. Vous pouvez voir maintenant ChatGPT peut faire des blagues, mais l'IA peut-elle vraiment nous faire rire ?