طرق منع الهلوسة لدى نماذج الذكاء الاصطناعي

على الرغم من أنَّ نماذج الذكاء الاصطناعي مثل ChatGPT من OpenAI مُفيدة بلا شك في الكثير من المجالات ، إلا أنها تميل إلى تقديم معلومات غير صحيحة فعليًا من وقت لآخر — وهي مشكلة يشار إليها عادةً باسم “الهلوسة”.

تحدث الهلوسة لأنَّ نماذج الذكاء الاصطناعي يتم تدريبها على مجموعة بيانات محدودة نسبيًا قد تكون غير صحيحة أو مُتحيزة. ومع ذلك ، هناك بعض الأشياء التي يُمكنك القيام بها لتقليل فرص حدوث ذلك. تحقق من كيفية استخدام ChatGPT للبحث والمقالات الأكاديمية.

صورة لـ طرق منع الهلوسة لدى نماذج الذكاء الاصطناعي | 1w_XzldJ_Y4R1PfvgSImYBg-DzTechs

ما هي هلوسة الذكاء الاصطناعي

يُعبِر مُصطلح “الهلوسة” عند البشر عن الوعي بمحسوس غير موجود بسبب تغير في الوعي، إذ ينشأ إدراك غير حقيقي للواقع ، فيسمع المريض أصواتاً وأحياناً يرى أشياء غير موجودة ، فسرتها نظريات فرويد بأنها بروز الأماني والأفكار والرغبات من العقل اللاواعي على صفحة الوعي ، وكذلك فسرت لاحقاً على أنها خلل وظيفي في الدماغ.

وقياساً بالمُصطلح ذاته تُشير هلوسة الذكاء الاصطناعي إلى الردود والإجابات غير الصحيحة في الواقع أو غير المُرتبطة بالسياق المُعطى ومع درجة عالية من الثقة تجعلها تبدو مُقنعة ظاهرياً التي تُقدّمها أنظمة الذكاء الاصطناعي على اختلافها والتي لا مصدر لها ضمنَ بيانات التدريب التي خضعت لها.

ويعزو الخبراء السبب الرئيس لهلوسة أنظمة الذكاء الاصطناعي إلى عدم كفاية بيانات التدريب ، وبالتالي عدم قدرتها على تغطية مواضيع مُعينة تخولها توليد أجوبة دقيقة على أسئلة مُحددة ، مما يدفعها إلى اختلاق أجوبة بشكل اعتباطي ، بمعنى أنَّ نقص المعطيات سيؤدي بالضرورة إلى نتيجة خاطئة. إليك بعض الطرق المُختلفة التي تُمكِّنك من تقليل هلوسة أنظمة الذكاء الاصطناعي.

1. استخدام لغة بسيطة ومُباشرة

عندما تستخدم مُطالبات مُباشرة ، فإنها تقلل من احتمالية أن يُسيء نموذج الذكاء الاصطناعي تفسير مُدخلاتك. لذلك ، تأكد من أنَّ مطالباتك واضحة ومباشرة وسهلة الفهم.

أدت كتابة مطالبة مُعقَّدة مع عدد من التفاصيل غير الضرورية إلى قيام ChatGPT بتفسير السؤال بشكل خاطئ ومشاركة الاقتراحات حول أفضل طريقة لشراء ملابس شتوية.

صورة لـ طرق منع الهلوسة لدى نماذج الذكاء الاصطناعي | 1wBqaHc2fqAUWGV9TNuWI2w-DzTechs

في المقابل ، أدى استخدام مُطالبة أبسط كانت مباشرةً إلى استجابة أكثر دقة وإفادة.

صورة لـ طرق منع الهلوسة لدى نماذج الذكاء الاصطناعي | 108e7gvrJUzdbSOSOmXyhOw-DzTechs

من الأفضل إعادة قراءة المُطالبة التي تُدخلها للتأكد من أنها تُركز على الهدف الذي تُريده. إذا وجدت أنَّ مدخلاتك تتضمن أي تفاصيل غير ضرورية أو جمل مُعقَّدة ، فقم بتصحيحها للحصول على إجابة دقيقة والحفاظ على نموذج الذكاء الاصطناعي بعيدًا عن الهلوسة. تحقق من أخطاء المُطالبات التي يجب تجنبها في ChatGPT.

2. دمج السياق في مُطالباتك

يُمكن أن يُساعد إعطاء بعض السياق لنموذج الذكاء الاصطناعي في مطالبتك في إنشاء استجابة أكثر دقة. يُساعد السياق في تقليل الاحتمالات المُمكنة ويُشجع أداة الذكاء الاصطناعي على التفكير في نهج أكثر تحديدًا عند الرد على مُطالبتك.

على سبيل المثال ، بدلاً من مطالبة روبوت الدردشة AI بمشاركة نصائح حول كيفية استثمار الأموال ، يُمكنك إدخال المطالبة التالية ، والتي تتضمن سياقًا كافيًا:

“أنا مُستثمر يكره المخاطرة وأتطلع إلى بناء رأس المال على مدى العقود القليلة القادمة لتحقيق هدف مالي طويل الأجل. بالنظر إلى تحملي للمخاطر وهدف الاستثمار ، هل يُمكنك مشاركة بعض فئات الأصول التي يُمكنني التفكير في الاستثمار فيها؟ “

يُمكنك جعل هذا الدافع أكثر تحديدًا عن طريق إضافة تفاصيل مثل عمرك ودخلك ومعدل نمو رأس المال المطلوب خلال السنوات القليلة القادمة. سيساعد هذا المستوى من الخصوصية نموذج الذكاء الاصطناعي على فهم وضعك وتفضيلاتك الفريدة ، وتقديم استجابة أكثر انسجامًا مع توقعاتك.

3. صقل المُطالبات التي تُدخلها

إذا لاحظت أنَّ أداة الذكاء الاصطناعي التي تستخدمها تُنتج ردودًا غير صحيحة أو مُتحيزة ، فحاول تغيير المُطالبات. من خلال تحسين مُطالباتك وتقديم إرشادات أوضح ، تزداد احتمالية حصولك على استجابة ذات صلة.

على سبيل المثال ، بدلاً من طلب اقتراحات فقدان الوزن التي قد تؤدي إلى ردود غامضة وأحيانًا غير صحيحة ، يمكنك تغيير مُطالبتك إلى “أعطني بعض استراتيجيات إنقاص الوزن القائمة على الأدلة”. يُمكن أن يساعدك هذا النهج المُستهدف في الحصول على رؤى قيمة من روبوت الدردشة AI.

إذا كان لديك باستمرار روبوت دردشة بالذكاء الاصطناعي يُنتج ردودًا غير دقيقة أو إشكالية ، ففكر في مشاركة ملاحظاتك مع المطورين. بمرور الوقت ، يمكن لملاحظات مثل تعليقاتك أن تُساعد المطورين على تحسين النموذج الأساسي. تحقق من أفضل الطرق لاستخدام Google Gemini والإستفادة من كامل قُدراته.

4. تغيير درجة الحرارة

تُساعد درجة الحرارة المنخفضة (المصطلح الخاص بكيفية عمل روبوت الدردشة) في الحصول على نتيجة أكثر دقة ، بينما يمكن أن تؤدي درجة الحرارة الأعلى إلى زيادة عشوائية الاستجابة. إذا كنت تبحث عن ردود قائمة على الحقائق ، فتأكد من استخدام إعداد درجة الحرارة الأدنى للحصول على إجابة أقل إبداعًا وأكثر تحليلية.

ومع ذلك ، إذا كنت ، على سبيل المثال ، تقوم بالعصف الذهني للأفكار أو تبحث عن ردود روح الدعابة ، فإنَّ زيادة درجة الحرارة يمكن أن تكون في صالحك. ضع في اعتبارك ، مع ذلك ، أن زيادة درجة الحرارة قد يتسبب في أن يولد نموذج الذكاء الاصطناعي استجابات هلوسة.

في المثال أدناه ، ستلاحظ أن استجابة ChatGPT للمُطالبة المباشرة كانت “إبداعية” بدرجة كبيرة عند درجة حرارة ثلاثة.

صورة لـ طرق منع الهلوسة لدى نماذج الذكاء الاصطناعي | 11IUfkI_wLTbTJrS1woDedw-DzTechs

استخدام أفضل لروبوت الدردشة للحصول على نتائج أفضل

حتى أفضل نماذج الذكاء الاصطناعي تكشف أحيانًا عن حقائق خاطئة تمامًا. بالنظر إلى ذلك ، من المهم أن تتحقق من كل التفاصيل والإحصاءات التي يتم إنشاؤها بواسطة روبوت الدردشة قبل قبولها على أنها صحيحة.

من الجيد أيضًا اختبار نماذج مختلفة للذكاء الاصطناعي واختيار نموذج قادر على توليد الاستجابات الأكثر دقة ، لا سيما إذا كنت تستخدم هذه الأدوات في المهام الحاسمة أو أغراض صنع القرار. يُمكنك الإطلاع الآن على العوامل الرئيسية التي يجب مراعاتها عند اختبار روبوتات الدردشة بالذكاء الاصطناعي للتأكد من دقتها.

زر الذهاب إلى الأعلى