ChatGPT هو روبوت دردشة جديد يعمل بالذكاء الاصطناعي قوي وسريع التأثير ، لكن الكثير من الأشخاص أشاروا إلى أنَّ لديه بعض العيوب الخطيرة. اسأله عن أي شيء تُريده ، وستتلقى إجابة تبدو وكأنه قد تم صياغتها بواسطة إنسان ، بعد أن تم تزويده بالمعرفة والمهارات الكتابية من التدريب على كميات كبيرة من البيانات عبر الإنترنت.
ومع ذلك ، تمامًا مثل الإنترنت ، فإنَّ الخط الفاصل بين الحقيقة والخيال مُتقلب بالتأكيد ، و ChatGPT مُذنب بارتكاب خطأ في أكثر من مناسبة. مع تعيين ChatGPT لتغيير مُستقبلنا ، إليك بعض أكبر اهتماماتنا حوله. تحقق من هل لدى ChatGPT مُشكلات تتعلق بالخصوصية؟
روابط سريعة
ما هو ChatGPT؟
ChatGPT هو نموذج لغة طبيعية تم تصميمه لإنتاج ردود تُشبه إلى حد كبير المُحادثات البشرية. تمامًا مثل التجادل مع شخص ما ، يُمكنك التحدث إلى ChatGPT ، وسوف يتذكر الأشياء التي قلتها في الماضي بينما يكون قادرًا أيضًا على تصحيح ردوده عند التحدي.
تم تدريبه على جميع أنواع النصوص من الإنترنت ، يُمكنك التفكير في ويكيبيديا ، ومشاركات المدونات ، والكتب ، والمقالات الأكاديمية. هذا يعني أنه إلى جانب الرد عليك بطريقة شبيهة بالبشر ، يُمكنه استدعاء معلومات حول عالمنا الحالي ، بالإضافة إلى استخلاص المعلومات التاريخية من ماضينا.
يُعد تعلم كيفية استخدام ChatGPT أمرًا بسيطًا ، ومن السهل أن تنخدع بالاعتقاد بأن نظام الذكاء الاصطناعي يعمل دون أي مشاكل. ومع ذلك ، في الأشهر التي أعقبت إطلاقه ، دفع المُستخدمون في جميع أنحاء العالم روبوت الدردشة بالذكاء الاصطناعي إلى أقصى حدوده مما تم التسبب في الكشف عن بعض المشاكل الرئيسية.
1. ChatGPT يُنشئ إجابات خاطئة
ChatGPT فشل في الرياضيات الأساسية ، ولا يبدو أنه يُجيب على أسئلة منطقية بسيطة ، بل وسيذهب إلى أبعد من ذلك من خلال مناقشة حقائق غير صحيحة تمامًا. كما سيشهد الأشخاص عبر مواقع التواصل الاجتماعي ، يُمكن أن يخطئ ChatGPT في أكثر من مُناسبة.
تعرف شركة OpenAI عن هذا القيد ، حيث كتبت ما يلي: “يَكتب ChatGPT أحيانًا إجابات تبدو معقولة ولكنها غير صحيحة أو لا معنى لها.” هذه “الهلوسة” للحقيقة والخيال ، كما أشير إليها ، خطيرة بشكل خاص عندما يتعلق الأمر بأشياء مثل المشورة الطبية ، أو الحصول على الحقائق بشكل صحيح حول الأحداث التاريخية الرئيسية.
بخلاف مساعدي الذكاء الاصطناعي الآخرين مثل Siri أو Alexa ، لا يستخدم ChatGPT الإنترنت لتحديد الإجابات. بدلاً من ذلك ، يقوم ببناء جملة كلمة بكلمة ، واختيار “الرمز المُميز” الأكثر احتمالاً الذي يجب أن يأتي بعد ذلك ، بناءً على التدريب الخاص به. بعبارة أخرى ، يصل ChatGPT إلى إجابة عن طريق إجراء سلسلة من التخمينات ، وهو جزء من السبب الذي يجعله يُجادل في الإجابات الخاطئة كما لو كانت صحيحة تمامًا.
في حين أنه رائع في شرح المفاهيم المُعقَّدة ، مما يجعله أداة قوية للتعلم ، فمن المُهم عدم تصديق كل ما يقوله. ChatGPT ليس صحيحًا دائمًا — على الأقل ليس بعد. تحقق من يُمكن لـ ChatGPT صياغة النكات ، لكن هل يُمكن للذكاء الاصطناعي أن يجعلنا نضحك فعلًا؟
2. ChatGPT لديه تحيز في نموذجه
تم تدريب ChatGPT على النصوص الجماعية التي تم كتابتها من طرف الكثير من البشر عبر العالم ، في الماضي والحاضر. لسوء الحظ ، هذا يعني أنَّ نفس التحيزات الموجودة في العالم الحقيقي يُمكن أن تظهر أيضًا في النموذج.
لقد ثبت أنَّ ChatGPT يُنتج بعض الإجابات الرهيبة التي تُميز ضد الجنس والعرق والأقليات ، وهو أمر تُحاول الشركة التخفيف منه.
تتمثل إحدى طرق شرح هذه المشكلة في الإشارة إلى البيانات باعتبارها المشكلة ، وإلقاء اللوم على الإنسانية في التحيزات الموجودة على الإنترنت وما وراءها. لكن جزءًا من المسؤولية يقع أيضًا على شركة OpenAI ، التي يختار باحثوها ومطوروها البيانات المُستخدمة لتدريب ChatGPT.
مرة أخرى ، تُدرك شركة OpenAI أنَّ هذه مشكلة وقد قالت إنها تُعالج ما يُسمونه “السلوك المتحيز” من خلال جمع التعليقات من المستخدمين الذين يتم تشجيعهم على وضع علامة على مُخرجات ChatGPT السيئة.
مع احتمالية إلحاق الضرر بالأشخاص ، يُمكنك القول بأنه لا ينبغي إطلاق ChatGPT للجمهور قبل دراسة هذه المشكلات وحلها. لكن السباق على أن تكون أول شركة تُطلق أقوى أدوات الذكاء الاصطناعي قد يكون كافيًا لشركة OpenAI لتُلقي مثل هذا الحذر في مهب الريح.
على النقيض من ذلك ، تم إطلاق روبوت دردشة مُماثل للذكاء الاصطناعي يسمى Sparrow — مملوك لشركة Google الأم ، Alphabet — في سبتمبر 2022. ومع ذلك ، تم الاحتفاظ به عمداً خلف أبواب مُغلقة بسبب مخاوف تتعلق بالسلامة المماثلة.
في نفس الوقت تقريبًا ، أصدر Facebook نموذجًا للغة AI يُسمى Galactica ، يهدف إلى المساعدة في البحث الأكاديمي. تم استدعاؤه بسرعة بعد أن انتقده كثير من المُستخدمين لإخراجه نتائج خاطئة ومُتحيزة تتعلق بالبحث العلمي.
3. قد يأخذ ChatGPT وظائف من البشر
لم يستقر الضجيج المُصاحب للتطوير السريع ونشر ChatGPT إلا أنَّك ستجد أنَّ هذه التكنولوجيا الأساسية مُدمجة بالفعل في عدد من التطبيقات التجارية. من بين التطبيقات التي دمجت GPT-4 هناك Duolingo و Khan Academy. تحقق من التطبيقات التي دمجت نموذج GPT-4 في جوهرها ، ولكن كيف تعمل؟
الأول هو تطبيق مُخصص لتعليم لغة جديدة ، في حين أنَّ الأخير هو أداة تعليمية متنوعة تُوفر الكثير من الدورات التدريبية. يُقدم كلاهما ما هو في الأساس مُدرس بالذكاء الاصطناعي ، إما في شكل شخصية مدعومة بالذكاء الاصطناعي يُمكنك التحدث إليها باللغة التي تتعلمها. أو كمدرس للذكاء الاصطناعي يُمكنه تزويدك بتعليقات مُخصصة حول تعلمك ونسبة تقدمك.
من ناحية أخرى ، يُمكن أن يُغيِّر هذا الطريقة التي نتعلم بها ، مما يجعل التعليم أكثر سهولة ويُسهل عملية إتقان المهارات قليلاً. لكن الجانب السلبي هو أنَّ هذا يسلب الوظائف التي شغلها البشر منذ فترة طويلة.
لطالما أدت التطورات التكنولوجية إلى فقدان الوظائف ، لكن سرعة تقدم الذكاء الاصطناعي تعني أنَّ هناك العديد من الصناعات التي تُواجه نفس المشكلة. من التعليم إلى الرسم التوضيحي ووصولاً إلى أدوار خدمة العملاء ، فإنَّ ChatGPT وتقنيته الأساسية سيُعيد تشكيل عالمنا الحديث بشكل جذري. تحقق من الطرق التي سيُغيِّر بها الذكاء الاصطناعي التوليدي سوق العمل.
4. يُمكن أن يتحدى ChatGPT اللغة المُستخدمة في المدرسة
يُمكنك أن تطلب من ChatGPT تدقيق كتابتك أو الإشارة إلى كيفية تحسين فقرة. أو يُمكنك إزالة نفسك من المعادلة تمامًا وأن تطلب من ChatGPT بكتابة كل ما شيء نيابة عنك.
لقد جرب المُعلمون تغذية مهام اللغة الإنجليزية إلى ChatGPT وتلقوا إجابات أفضل مما يُمكن أن يفعله العديد من طلابهم. من كتابة الرسائل التقديمية إلى وصف الموضوعات الرئيسية في عمل أدبي مشهور ، يُمكن لـ ChatGPT القيام بكل ذلك دون تردد.
هذا يطرح السؤال: إذا كان بإمكان ChatGPT الكتابة لنا ، فهل سيحتاج الطلاب إلى تعلم الكتابة في المُستقبل؟ قد يبدو الأمر وكأنه سؤال وجودي ، ولكن عندما يبدأ الطلاب في استخدام ChatGPT للمساعدة في كتابة مقالاتهم ، سيتعين على المدارس التفكير في إجابة سريعة. من المُقرر أن يُؤدي الانتشار السريع للذكاء الاصطناعي في السنوات الأخيرة إلى إحداث صدمة في العديد من الصناعات ، والتعليم هو مجرد واحد منها.
5. يُمكن أن يُسبب ChatGPT ضررًا حقيقيًا في العالم
في وقت سابق ، ذكرنا كيف يُمكن للمعلومات غير الصحيحة من ChatGPT أن تُسبب ضررًا في العالم الحقيقي ، مع أحد الأمثلة على ذلك هو نصيحة طبية خاطئة. لكن هناك مخاوف أخرى أيضًا.
تجعل السرعة التي يُمكن بها إنشاء نص يبدو طبيعيًا الأمر في غاية السهولة للمُحتال من أجل التظاهر بأنه شخص تعرفه على مواقع التواصل الاجتماعي. وبالمثل ، فإنَّ اكتشاف رسالة بريد إلكتروني تصيدية مُصممة لاستخراج تفاصيل حساسة منك سيكون أصعب ، مع فائدة إضافية تتمثل في أنَّ ChatGPT يُمكن أن ينتج نصًا خالٍ من الأخطاء النحوية — ما كان في السابق علامة تحذير واضحة.
يُعد نشر معلومات مُزيفة مصدر قلق خطير أيضًا. المقياس الذي يُمكن أن يُنتج به ChatGPT نصًا ، إلى جانب القدرة على جعل المعلومات غير الصحيحة تبدو صحيحة بشكل مقنع ، من المؤكد أنها ستجعل المعلومات على الإنترنت أكثر إثارة للتساؤل.
تسبب المعدل الذي يُمكن أن ينتج به ChatGPT المعلومات بالفعل في حدوث مشكلات لـ Stack Exchange ، وهو موقع ويب مُخصص لتقديم إجابات صحيحة للأسئلة اليومية. بعد فترة وجيزة من إطلاق ChatGPT ، بدأ المستخدمون في إغراق الموقع بالإجابات التي طلبوا من ChatGPT إنشاؤها.
بدون عدد كافٍ من المتطوعين البشريين لفرز الأعمال المتراكمة ، سيكون من المستحيل الحفاظ على مستوى عالٍ من الإجابات عالية الجودة. ناهيك عن أنَّ العديد من الإجابات كانت ببساطة غير صحيحة. لتجنب تلف موقع الويب ، تم فرض الحظر على جميع الإجابات التي تم إنشاؤها باستخدام ChatGPT. تحقق من طرق يُمكن بها للأطفال استخدام ChatGPT بأمان.
6. OpenAI تمتلك الكثير من القوة
مع القوة الكبيرة تأتي مسؤولية كبيرة ، و OpenAI تمتلك الكثير من القوة. إنها واحدة من أولى شركات الذكاء الاصطناعي التي هزت العالم حقًا ليس بنموذج واحد ، ولكن نماذج مُتعددة للذكاء الاصطناعي ، بما في ذلك Dall-E 2 و GPT-3 و GPT-4.
تختار OpenAI البيانات المُستخدمة لتدريب ChatGPT ، لكن هذه المعلومات غير متاحة للجمهور. نحن ببساطة لا نعرف التفاصيل حول كيفية تدريب ChatGPT ، أو البيانات التي تم استخدامها ، أو من أين تأتي البيانات ، أو كيف تبدو بنية النظام بالتفصيل.
بينما تعتبر OpenAI السلامة أولوية عالية ، هناك الكثير مما لا نعرفه عن كيفية عمل النماذج نفسها ، للأفضل أو للأسوأ. سواء كنت تعتقد أنَّ الشفرة البرمجية يجب أن تكون مفتوحة المصدر ، أو تُوافق على أنها يجب أن تحافظ على سرية أجزاء منها ، فليس هناك الكثير مما يُمكننا فعله حيال ذلك.
في نهاية اليوم ، يجب أن نثق بشكل أعمى في أنَّ OpenAI ستقوم بالبحث والتطوير واستخدام ChatGPT بشكل مسؤول. سواء كنا نتفق مع الأساليب أم لا ، فإنَّ OpenAI ستواصل تطوير ChatGPT وفقًا لأهدافها الخاصة ومعاييرها الأخلاقية. تحقق من هل فقدت OpenAI بالفعل التحكم في روبوت الدردشة ChatGPT؟
معالجة أكبر مشاكل الذكاء الاصطناعي
هناك الكثير مما يجب أن تكون مُتحمسًا بشأنه مع ChatGPT ، ولكن بخلاف استخداماته الفورية ، هناك بعض المشكلات الخطيرة التي تستحق الفهم. تعترف OpenAI بأنَّ ChatGPT يُمكن أن ينتج إجابات ضارة ومُنحازة ، على أمل تخفيف المشكلة من خلال جمع تعليقات المستخدمين. لكن قدرته على إنتاج نص مُقنع ، حتى عندما تكون الحقائق غير صحيحة ، يُمكن بسهولة استخدامه من قبل الأشخاص ذوي النوايا السيئة.
مع التكنولوجيا الجديدة تمامًا ، من الصعب التنبؤ بالمشكلات التي ستنشأ في المستقبل. لذلك ، في حين أنه قد يكون من الممتع استخدامه ، تأكد من عدم تصديق كل ما يقوله ChatGPT. يُمكنك الإطلاع الآن على هل يُمكن لـ ChatGPT توفير معلومات صحية موثوقة؟