هل ChatGPT جدير بالثقة ، أم هل يُمكن أن يكذب؟

اليوم ، يعتمد الملايين من المُستخدمين على العديد من روبوتات الدردشة التي تعتمد على الذكاء الاصطناعي مثل ChatGPT كمورد مفيد ، سواء كان ذلك للعمل أو المُتعة أو التعليم. ولكن هل يُمكنك الاعتماد على روبوت الدردشة للحصول على الحقائق دائمًا؟ هل يكذب ChatGPT ، أم أنه سيُعطيك معلومات واقعية فقط؟ تحقق من هل يتعلم ChatGPT من مُحادثات المستخدم؟

هل ChatGPT جدير بالثقة ، أم هل يُمكن أن يكذب؟ - الذكاء الاصطناعي

من أين يحصل ChatGPT على معلوماته؟

هل ChatGPT جدير بالثقة ، أم هل يُمكن أن يكذب؟ - الذكاء الاصطناعي

في فترة التدريب ، تم تغذية ChatGPT بالكثير من البيانات من مصادر عبر الويب ، مثل المواقع الحكومية والوكالات ، والمجلات العلمية ، والدراسات ، والمقالات الإخبارية ، والبودكاست ، والمنتديات عبر الإنترنت ، والكتب ، وقواعد البيانات ، والأفلام ، والأفلام الوثائقية ، ومواقع التواصل الاجتماعي.

على وجه التحديد ، تم تدريب ChatGPT-3 باستخدام قاعدة بيانات شاملة للمعلومات التي بلغت 570 جيجابايت من البيانات. كما ورد في مقال من Science Focus ، تم إدخال 300 مليار كلمة من المعلومات في نظام GPT-3 أثناء تطويره.

هناك شيء جدير بالملاحظة هنا وهو أنَّ ChatGPT لم يتم تغذيته إلا بالبيانات التي كانت موجودة قبل عام 2021. وهذا يعني أنَّ روبوت الدردشة لا يُمكنه الإجابة على الأسئلة المُتعلقة بالأحداث الأخيرة. كما أنَّ ChatGPT ليس لديه إمكانية الوصول إلى الإنترنت. البيانات التي تم تغذيتها في التدريب هي النوع الوحيد الذي يستخدمه لتلبية مُطالبات المستخدم.

ولكن هل يقوم ChatGPT بتزويدك بالحقائق فقط ، أم أن بعض المعلومات الغامضة مُختلطة مع ردوده؟ بالإضافة إلى ذلك ، هل يُمكن أن يكذب ChatGPT عليك؟ تحقق من هل يُمكن لـ ChatGPT توفير معلومات صحية موثوقة؟

هل يكذب ChatGPT؟

هل ChatGPT جدير بالثقة ، أم هل يُمكن أن يكذب؟ - الذكاء الاصطناعي

بينما يُوفر ChatGPT غالبًا معلومات صادقة للمُستخدمين ، إلا أنه يمتلك القدرة على “الكذب”. بالطبع ، لا يُقرر ChatGPT الكذب بشكل ضار على المُستخدمين ، لأنه ببساطة لا يمكنه فعل ذلك. بعد كل شيء ، يُعد ChatGPT أداة لمعالجة اللغة ، وليست تقليدًا لشخص واقعي حقيقي.

ومع ذلك ، لا يزال بإمكان ChatGPT تقنيًا أن تكمن من خلال ظاهرة تُعرف باسم هلوسة الذكاء الاصطناعي.

تتضمن هلوسة الذكاء الاصطناعي نظامًا للذكاء الاصطناعي يُوفر معلومات تبدو معقولة أو مقبولة ولكنها في الواقع ليست صحيحة على الإطلاق. في الواقع ، يُمكن أن تُوفر هلوسة الذكاء الاصطناعي معلومات تُفيد بأنه لم يتم تغذيتها مطلقًا خلال فترة التدريب. بدلاً من ذلك ، يُمكن أن يحدث ذلك عندما يوفر نظام الذكاء الاصطناعي معلومات لا علاقة لها بالمطالبة أو الطلب. قد يدَّعي نظام الذكاء الاصطناعي أنه إنسان في حالة هلوسة.

تقع أنظمة الذكاء الاصطناعي ، مثل روبوتات الدردشة ، في فخ الهلوسة لعدة أسباب: افتقارها إلى فهم العالم الحقيقي ، وأخطاء البرمجيات ، والقيود المفروضة على البيانات المُقدمة.

كما ذكرنا سابقًا ، لا يُمكن لـ ChatGPT توفير المعلومات إلا باستخدام البيانات المنشورة حتى عام 2021 ، مما يحد بالتأكيد من أنواع المطالبات التي يُمكنه تلبيتها.

واحدة من أكبر مشاكل ChatGPT هي أنه يُمكن أن يقع أيضًا ضحية للتحيز عند إعطاء المُستخدمين المعلومات. حتى قريق تطوير ChatGPT ذكر أنَّ نظام الذكاء الاصطناعي كان “مُتحيزًا سياسيًا ، ومهينًا” و “مرفوضًا بطريقة أخرى” في الماضي. كما ذكرت Independent ، يلتزم قريق تطوير ChatGPT بمعالجة هذه المشكلة ، لكن هذا لا يعني أنها لم تعد تُشكل خطرًا.

عندما سُئِل ، ذكر ChatGPT أنَّ الأسباب التي قد توفر معلومات غير دقيقة تشمل ما يلي:

  1. الغموض في السؤال (محفزات غامضة وغير واضحة).
  2. تم توفير معلومات غير كاملة.
  3. تقديم معلومات متحيزة أو غير صحيحة.
  4. القيود الفنية (بشكل رئيسي بسبب عدم الوصول إلى البيانات الحالية).

لذلك ، ذكر ChatGPT نفسه أنَّ هناك سيناريوهات لن يُوفر فيها معلومات دقيقة للمستخدمين.

في رد آخر في نفس المحادثة ، صرح ChatGPT أنه “من الجيد دائمًا التحقق من أي معلومات [يُوفرها] مع مصادر أخرى.” تحقق من أشياء يجب تجنب طلبها من روبوتات الدردشة المدعومة بالذكاء الاصطناعي.

هل يُمكنك الوثوق بـ ChatGPT؟

نظرًا لأنه يُمكن أن يوفر معلومات خاطئة ، فمن الواضح أنه لا يُمكنك الوثوق بـ ChatGPT بنسبة 100% طوال الوقت.

يُمكنك تقليل مخاطر هلوسات روبوت الدردشة بالذكاء الاصطناعي من خلال تعيين معايير مُحددة حول كيفية إجابتك. ومع ذلك ، لا يوجد حتى الآن ما يضمن عدم تسرب بعض المعلومات الخاطئة عبر الثغرات.

لهذا السبب ، من الأفضل التحقق من أي معلومات يُقدمها لك ChatGPT ، خاصة إذا كنت تطلب معلومات حول الأحداث الأخيرة. يُمكن أن يساعدك التحقق من هذه البيانات من خلال الرجوع إلى مصادر أخرى في تحديد ما إذا كان ChatGPT مُحقًا فيما يقوله ويمكن أن يمنعك من اتخاذ قرارات غير حكيمة.

ChatGPT مُفيد ولكنه ليس دائمًا صادقًا

لسوء الحظ ، لا يُمكنك الاعتماد على ChatGPT لتقديم معلومات صادقة وغير مُتحيزة بنسبة 100% من الوقت. روبوت الدردشة هذا الذي يعمل بالذكاء الاصطناعي مُفيد بلا شك ويُمكنه مساعدتك بطرق مختلفة ، لكن الأمر يستحق دائمًا التحقق مما إذا كانت المعلومات التي يُقدمها حقيقية أم لا. يُمكنك الإطلاع الآن على ما هو كسر حماية ChatGPT؟ هل يجب عليك استخدام هذه التقنيات؟

DzTech

أنا مهندس دولة مع خبرة واسعة في مجالات البرمجة وإنشاء مواقع الويب وتحسين محركات البحث والكتابة التقنية. أنا شغوف بالتكنولوجيا وأكرس نفسي لتقديم معلومات عالية الجودة للجمهور. يُمكنني أن أصبح موردًا أكثر قيمة للمُستخدمين الذين يبحثون عن معلومات دقيقة وموثوقة حول مُراجعات المُنتجات والتطبيقات المُتخصصة في مُختلف المجالات. إنَّ التزامي الثابت بالجودة والدقة يضمن أنَّ المعلومات المُقدمة جديرة بالثقة ومفيدة للجمهور. السعي المُستمر للمعرفة يدفعني إلى مواكبة أحدث التطورات التكنولوجية، مما يضمن نقل الأفكار المُشتركة بطريقة واضحة وسهلة المنال.
زر الذهاب إلى الأعلى