لاق بدء تشغيل روبوت الدردشة ChatGPT من OpenAI إثارةً ورواجًا لم يسبقه له سوى عدد قليل من المُنتجات التقنية من تاريخ الإنترنت.
في حين أنَّ الكثير من المُستخدمين سعداء بما تُقدمه خدمة الذكاء الاصطناعي الجديدة هذه ، إلا أنَّ التشويق الذي شعر به الآخرون منذ ذلك الحين تحول إلى مخاوف مُتعددة. تمكَّن الطلاب من الإستعانة بمثل هذه الأدوات للغش بالفعل ، أين اكتشف العديد من الأساتذة المقالات والواجبات التي كتبها روبوت الدردشة بالذكاء الاصطناعي. يُعبر المُتخصصون في مجال الأمن أيضًا عن مخاوفهم من أنَّ المُحتالين والجهات الفاعلة في مجال التهديد سيستخدمونها لكتابة رسائل بريد إلكتروني تصيدية وإنشاء برامج ضارة أكثر تقدمًا. تحقق من مخاطر كتابة المُحتوى بالذكاء الاصطناعي وكيفية اكتشاف النص الذي يُولده AI.
إذن ، مع كل هذه المخاوف ، هل تفقد OpenAI السيطرة على واحد من أقوى روبوتات الدردشة بالذكاء الاصطناعي الموجودة حاليًا على الإنترنت؟ هيا نكتشف.
فهم كيفية عمل ChatGPT
قبل أن نتمكن من الحصول على صورة واضحة عن مقدار فقدان السيطرة على ChatGPT بواسطة OpenAI ، يجب أن نفهم أولاً كيفية عمل ChatGPT.
باختصار ، يتم تدريب ChatGPT باستخدام مجموعة ضخمة من البيانات التي يتم الحصول عليها من مختلف أنحاء الإنترنت. تتضمن بيانات تدريب ChatGPT الموسوعات الرقمية والأوراق العلمية والبحثية ومنتديات الإنترنت والمواقع الإخبارية ومستودعات المعرفة مثل ويكيبيديا. في الأساس ، يتغذى على كمية هائلة من البيانات المُتاحة على شبكة الويب العالمية.
أثناء تجواله على الإنترنت ، يقوم بجمع المعلومات العلمية والنصائح الصحية والنصوص الدينية وجميع أنواع البيانات الجيدة التي يُمكنك التفكير فيها. ولكنه أيضًا يقوم بتصفية الكثير من المحتويات السلبية: الكلمات النابية ، ومحتوى غير مُناسب للعمل والبالغين ، ومعلومات حول كيفية تطوير برامج ضارة ، وجزء كبير من الأشياء السيئة التي يُمكنك العثور عليها على الإنترنت.
لا توجد طريقة مضمونة للتأكد من أنَّ ChatGPT يتعلم فقط من المعلومات الإيجابية والصحيحة بينما يتجاهل المعلومات السيئة والخاطئة. من الناحية التقنية ، من غير العملي القيام بذلك على نطاق واسع ، خاصةً بالنسبة إلى الذكاء الاصطناعي مثل ChatGPT الذي يحتاج إلى التدريب على الكثير من البيانات. علاوة على ذلك ، يُمكن استخدام بعض المعلومات لأغراض الخير والشر على حد سواء ، ولن يكون لدى ChatGPT أي وسيلة لمعرفة نوايا المُستخدم ما لم يتم وضع المطالبات في سياق أكبر.
لذلك ، منذ البداية ، لديك ذكاء اصطناعي قادر على توفير محتوى “الخير والشر”. ومن ثم تقع على عاتق شركة OpenAI مسؤولية ضمان عدم استغلال الجانب “الشرير” في ChatGPT لتحقيق مكاسب غير أخلاقية. السؤال هو؛ هل تقوم OpenAI بما يكفي للحفاظ على ChatGPT أخلاقيًا قدر الإمكان؟ أو هل فقدت OpenAI السيطرة على ChatGPT؟
هل ChatGPT قوي للغاية لمصلحته؟
في الأيام الأولى لـ ChatGPT ، كان بإمكانك الحصول على خطوات تفصيلية لإنشاء القنابل إذا طلبت ذلك بشكل جيد. كانت الإرشادات حول إنشاء برامج ضارة أو كتابة رسالة بريد إلكتروني احتيالية مثالية أيضًا.
ومع ذلك ، بمجرد أن أدركت OpenAI هذه المشكلات الأخلاقية ، سارعت الشركة لسن قواعد لمنع روبوت الدردشة من توليد ردود تُروِّج لأفعال غير قانونية أو مُثيرة للجدل أو غير أخلاقية. على سبيل المثال ، سيرفض أحدث إصدار من ChatGPT الرد على أي مطالبة مباشرةً حول صنع القنابل أو كيفية الغش في الاختبار.
لسوء الحظ ، يُمكن لـ OpenAI فقط توفير حل إسعافات أولية للمشكلة. بدلاً من بناء ضوابط صارمة على طبقة GPT-3 لمنع استغلال ChatGPT بشكل سلبي ، يبدو أنَّ OpenAI تُركز على تدريب روبوت الدردشة ليبدو أخلاقيًا. هذا النهج لا يُبطل قدرة ChatGPT على الإجابة عن الأسئلة المُتعلقة بالغش في الامتحانات ، على سبيل المثال — إنها ببساطة تُعلِّم روبوت الدردشة “رفض الإجابة”.
لذا ، إذا عبّر أي شخص عن مطالباته بشكل مختلف عن طريق تبني حيل كسر الحماية من ChatGPT ، فإنَّ تجاوز قيود المساعدة الشريطية سيكون أمرًا محرجًا. إذا لم تكن معتادًا على المفهوم ، فإنَّ كسر الحماية من ChatGPT عبارة عن مطالبات مصاغة بعناية لجعل ChatGPT يتجاهل قواعده الخاصة. تحقق من بعض الطرق للحصول على أفضل النتائج من ChatGPT.
ألق نظرة على بعض الأمثلة أدناه. إذا سألت ChatGPT عن كيفية الغش في الاختبارات ، فلن يَنتج عنه أي رد مُفيد.
ولكن إذا قمت بكسر حماية ChatGPT باستخدام مُطالبات مُصممة خصيصًا ، فسيُقدم لك نصائح حول الغش في الاختبارات باستخدام الملاحظات المخفية.
إليك مثال آخر: لقد سألنا ChatGPT سؤالًا غير أخلاقي ، وأوقفته تقييدات OpenAI من الإجابة.
ولكن عندما غيَّرنا المُطالبة لكسر حماية روبوت الدردشة بالذكاء الاصطناعي ، حصلنا على بعض الردود على غرار القاتل المُتسلسل.
حتى أنه كتب رسالة احتيال بريد إلكتروني كلاسيكية للأمير النيجيري عندما تم سؤاله.
تُبطل مطالبات كسر الحماية بشكل كامل تقريبًا أي إجراءات وقائية وضعتها OpenAI ، مما يبرز أنَّ الشركة قد لا يكون لديها طريقة موثوقة لإبقاء روبوت الدردشة الخاص بها تحت السيطرة. تحقق من طرق مسؤولة لاستخدام الذكاء الاصطناعي ككاتب أو مُحرِّر محتوى.
ملاحظة: لم نقم بتضمين مطالبات كسر الحماية في أمثلتنا لتجنب المُمارسات غير الأخلاقية.
ما الذي يحمله المُستقبل لـ ChatGPT؟
من الناحية المثالية ، تُريد OpenAI سد أكبر عدد مُمكن من الثغرات الأخلاقية لمنع ChatGPT من أن يُصبح تهديدًا للأمن السيبراني. ومع ذلك ، يميل ChatGPT إلى أن يُصبح أقل قيمة مقابل كل حماية تستخدمها الشركة. إنها مُعضلة.
على سبيل المثال ، قد تؤدي التقييدات ضد وصف الأعمال العنيفة إلى إضعاف قدرة ChatGPT على كتابة رواية تتضمن مسرح جريمة. بينما تكثف OpenAI إجراءات السلامة ، فإنها تضحي حتماً بجزء كبير من قدرات روبوت الدردشة في هذه العملية. هذا هو السبب في أنَّ ChatGPT عانى من انخفاض كبير في الوظائف منذ إنتقال OpenAI المُتجدد من أجل اعتدال أكثر صرامة.
ولكن ما مقدار قدرات ChatGPT التي ستكون OpenAI مُستعدة للتضحية بها لجعل روبوت الدردشة أكثر أمانًا؟ كل هذا يرتبط ارتباطًا وثيقًا باعتقاد راسخ في مجتمع الذكاء الاصطناعي — من المعروف أنَّ نماذج اللغة الكبيرة مثل ChatGPT يصعب التحكم فيها ، حتى من قِبل المُبدعين. تحقق من الإيجابيات والسلبيات الأخلاقية لجيل الأعمال الفنية بالذكاء الاصطناعي.
هل يمكن لـ OpenAI وضع ChatGPT تحت السيطرة؟
في الوقت الحالي ، لا يبدو أنَّ OpenAI لديها حل واضح لتجنب الاستخدام غير الأخلاقي لروبوتها. ضمان استخدام ChatGPT بشكل أخلاقي هو لعبة القط والفأر. بينما تكشف OpenAI عن الطرق التي يستخدمها الأشخاص للتلاعب بالنظام ، يقوم مستخدموه أيضًا باستمرار بكسر حماية النظام وفحصه لاكتشاف طرق إبداعية جديدة لجعل ChatGPT يفعل ما لا يُفترض أن يفعله.
لذا ، هل ستجد OpenAI حلاً موثوقًا به طويل الأجل لهذه المشكلة؟ الوقت فقط كفيل بإثبات كل ذلك. يُمكنك الإطلاع الآن على أفضل البدائل الموجودة لـ ChatGPT.
