Bien que les modèles d'IA tels que ChatGPT d'OpenAI soient sans aucun doute utiles dans de nombreux domaines, ils ont tendance à fournir des informations qui sont en fait incorrectes de temps en temps - un problème communément appelé "hallucinations".
Les hallucinations se produisent parce que les modèles d'IA sont formés sur un ensemble de données relativement limité qui peut être incorrect ou biaisé. Cependant, vous pouvez faire certaines choses pour réduire les risques que cela se produise. Vérifier Comment utiliser ChatGPT pour la recherche et les articles académiques.
Qu'est-ce qu'une hallucination d'intelligence artificielle
Le terme « hallucinations » chez l'homme exprime la conscience d'un perceptible qui n'existe pas en raison d'un changement de conscience, alors qu'une perception irréelle de la réalité surgit, de sorte que le patient entend des voix et voit parfois des choses inexistantes plus tard comme un dysfonctionnement cérébral.
Par analogie avec le même terme, les hallucinations d'intelligence artificielle désignent des réponses et des réponses qui sont incorrectes dans la réalité ou qui ne sont pas liées au contexte donné et avec un degré de confiance élevé qui les font paraître convaincantes en surface, fournies par différentes intelligences artificielles. systèmes qui n'ont aucune source dans les données de formation qu'ils ont subies.
Les experts attribuent la principale raison des hallucinations des systèmes d'intelligence artificielle à des données de formation insuffisantes, et donc à leur incapacité à couvrir des sujets spécifiques qui leur permettent de générer des réponses précises à des questions spécifiques, ce qui les conduit à fabriquer arbitrairement des réponses, ce qui signifie que le manque de données conduira nécessairement à un mauvais résultat. Voici quelques façons différentes de réduire les hallucinations des systèmes d'IA.
1. Utilisez un langage simple et direct
Lorsque vous utilisez des invites directes, cela réduit la possibilité que le modèle d'IA interprète mal votre entrée. Alors, assurez-vous que vos réclamations sont claires, directes et faciles à comprendre.
Rédaction d'une réclamation complexe avec un certain nombre de détails inutiles conduit à ChatGPT en interprétant mal la question et en partageant des suggestions sur la meilleure façon d'acheter des vêtements d'hiver.
En revanche, l'utilisation d'une invite plus simple et directe a entraîné une réponse plus précise et informative.
Il est préférable de relire l'invite que vous entrez pour vous assurer qu'elle est axée sur l'objectif que vous souhaitez. Si vous constatez que votre entrée comprend des détails inutiles ou des phrases complexes, corrigez-la pour obtenir une réponse précise et empêcher le modèle d'IA d'halluciner. Vérifier Erreurs de revendications à éviter dans ChatGPT.
2. Intégrez le contexte dans vos réclamations
Donner un peu de contexte à votre modèle d'IA peut aider votre invite à créer une réponse plus précise. Le contexte aide à réduire les possibilités et encourage l'outil d'IA à envisager une approche plus spécifique lorsqu'il répond à votre invite.
Par exemple, au lieu de demander à un chatbot IA de partager des conseils sur la façon d'investir de l'argent, vous pouvez saisir l'invite suivante, qui inclut suffisamment de contexte :
"Je suis un investisseur averse au risque qui cherche à constituer un capital au cours des prochaines décennies pour atteindre un objectif financier à long terme. Compte tenu de ma tolérance au risque et de mon objectif de placement, pouvez-vous partager certaines classes d'actifs dans lesquelles je pourrais envisager d'investir ? "
Vous pouvez rendre cette motivation plus précise en ajoutant des détails tels que votre âge, vos revenus et le taux de croissance du capital requis au cours des prochaines années. Ce niveau de spécificité aidera le modèle d'IA à comprendre votre situation et vos préférences uniques, et à fournir une réponse plus conforme à vos attentes.
3. Affinez les réclamations que vous saisissez
Si vous remarquez que votre outil d'IA produit des réponses incorrectes ou biaisées, essayez de modifier les invites. En améliorant vos invites et en fournissant des conseils plus clairs, vous êtes plus susceptible d'obtenir une réponse pertinente.
Par exemple, au lieu de demander des suggestions de perte de poids qui peuvent conduire à des réponses ambiguës et parfois incorrectes, vous pouvez modifier votre invite en "Donnez-moi des stratégies de perte de poids fondées sur des preuves". Cette approche ciblée peut vous aider à obtenir des informations précieuses de votre chatbot IA.
Si vous avez constamment un chatbot IA qui produit des réponses inexactes ou problématiques, envisagez de partager vos commentaires avec les développeurs. Au fil du temps, des commentaires comme le vôtre peuvent aider les développeurs à améliorer le modèle de base. Vérifier Les meilleures façons d'utiliser Google Bard et de profiter de toutes ses capacités.
4. Modifier la température
Une température plus basse (le terme désignant le fonctionnement d'un chatbot) permet d'obtenir un résultat plus précis, tandis qu'une température plus élevée peut rendre la réponse plus aléatoire. Si vous recherchez des réponses basées sur des faits, assurez-vous d'utiliser le réglage de température le plus bas pour une réponse moins créative et plus analytique.
Cependant, si vous êtes, par exemple, en train de réfléchir à des idées ou de rechercher des réponses humoristiques, augmenter la chaleur peut jouer en votre faveur. Gardez à l'esprit, cependant, que l'augmentation de la température peut amener le modèle d'IA à générer des réponses hallucinatoires.
Dans l'exemple ci-dessous, vous remarquerez que la réponse de ChatGPT à l'invite directe était significativement "créative" à une température de trois.
Meilleure utilisation du chatbot pour de meilleurs résultats
Même les meilleurs modèles d'IA révèlent parfois des faits complètement faux. Compte tenu de cela, il est important que vous vérifiiez tous les détails et statistiques générés par le chat bot avant de l'accepter comme vrai.
C'est également une bonne idée de tester différents modèles d'IA et d'en choisir un capable de générer les réponses les plus précises, surtout si vous utilisez ces outils à des fins critiques ou de prise de décision. Vous pouvez voir maintenant Facteurs clés à prendre en compte lors du test de précision des chatbots IA.
