مع الملايين من مُستخدمي ChatGPT ، قد تتساءل عما تفعله OpenAI بكل المُحادثات التي تتم مع روبوت الدردشة. هل تُحلل باستمرار الأشياء التي تتحدث عنها مع ChatGPT؟
الجواب على ذلك ، نعم ، يتعلم ChatGPT من مُدخلات المستخدم — ولكن ليس بالطريقة التي يفكر بها مُعظم الأشخاص. إليك دليل مُفصل يشرح سبب تتبع ChatGPT للمُحادثات ، وكيفية استخدامها ، وما إذا كان أمنك مُعرضًا للخطر. تحقق من لماذا لا يجب أن تثق في ChatGPT لمُشاركة المعلومات السرية معه.
هل يتذكر ChatGPT المُحادثات؟
لا يأخذ ChatGPT المُطالبات في ظاهرها. يستخدم الذاكرة السياقية لتذكر المُدخلات السابقة والرجوع إليها ، مما يضمن الاستجابات المُتسقة ذات الصلة.
خذ المحادثة أدناه كمثال. عندما طلبنا من ChatGPT أفكارًا للوصفات ، فقد أخذ في الاعتبار رسالتنا السابقة حول حساسية الفول السوداني.
ها هي وصفة ChatGPT الآمنة.
تُتيح الذاكرة السياقية أيضًا للذكاء الاصطناعي تنفيذ مهام مُتعددة الخطوات. تُظهر الصورة أدناه بقاء ChatGPT ضمن السياق حتى بعد تغذيته بمُطالبة جديدة.
يُمكن لـ ChatGPT تذكر عشرات التعليمات داخل المُحادثات. يتحسن ناتجه في الواقع من حيث الدقة والموثوقية كلما قدمت المزيد من السياق. فقط تأكد من شرح تعليماتك بشكل صريح.
يجب عليك أيضًا إدارة توقعاتك لأنَّ الذاكرة السياقية لـ ChatGPT لا تزال بها قيود.
تتمتع محادثات ChatGPT بسعات ذاكرة محدودة
الذاكرة السياقية محدودة. يحتوي ChatGPT على موارد أجهزة محدودة ، لذا فهو لا يتذكر سوى نقاط مُحددة من المُحادثات الحالية. ينسى النموذج المُطالبات السابقة بمجرد أن يصل إلى سعة الذاكرة الخاصة به.
في هذه المحادثة ، أمرنا ChatGPT بلعب دور شخصية خيالية اسمها Tomie.
بدأ في الرد على المُطالبات باسم Tomie ، وليس ChatGPT.
على الرغم من نجاح طلبنا ، كسر ChatGPT الشخصية بعد تلقي مطالبة من 1000 كلمة.
لم تكشف OpenAI مُطلقًا عن حدود ChatGPT الدقيقة ، لكن الشائعات تقول إنه لا يُمكنه معالجة سوى 3000 كلمة في المرة الواحدة. في تجربتنا ، تعطل ChatGPT بعد 2800 كلمة فقط.
يُمكنك تقسيم المطالبات إلى مجموعتين من 1500 كلمة ، ولكن من المحتمل ألا يحتفظ ChatGPT بجميع تعليماتك. فقط ابدأ محادثة أخرى تمامًا. وإلا ، فسيتعين عليك تكرار تفاصيل مُحددة عدة مرات خلال محادثتك.
لا يتذكر ChatGPT سوى المُدخلات ذات الصلة بالموضوع
يستخدم ChatGPT الذاكرة السياقية لتحسين دقة الإخراج. إنه لا يحتفظ بالمعلومات فقط من أجل جمعها. يكاد النموذج ينسى تلقائيًا التفاصيل غير ذات الصلة ، حتى لو كنت بعيدًا عن الوصول إلى حد الرمز المُميز.
في الصورة أدناه ، نحاول الخلط بين تعليمات مختلفة غير متماسكة وغير ذات صلة.
احتفظنا بإدخالاتنا المُجمَّعة أقل من 100 كلمة ، لكن ChatGPT ما زال ينسى تعليماتنا الأولى. سرعان ما كسر الشخصية.
وفي الوقت نفسه ، استمر ChatGPT في لعب الأدوار أثناء هذه المحادثة لأننا طرحنا أسئلة ذات صلة بالموضوع فقط.
من الناحية المثالية ، يجب أن يتبع كل حوار موضوعًا مُنفردًا للحفاظ على نتائج دقيقة وذات صلة. لا يزال بإمكانك إدخال عدة تعليمات في وقت واحد. فقط تأكد من توافقها مع الموضوع العام ، وإلا فقد يقوم ChatGPT بإسقاط التعليمات التي يعتبرها غير ذات صلة.
تعليمات التدريب تغلب على مُدخلات المستخدم
سيُعطي ChatGPT الأولوية دائمًا للتعليمات المُحددة مسبقًا على المُدخلات التي ينشئها المستخدم. توقف OpenAI الأنشطة غير المشروعة من خلال القيود. النموذج يرفض أي مُطالبة يراها خطيرة أو ضارة بالآخرين.
خذ طلبات لعب الأدوار كأمثلة. على الرغم من أنها تتجاوز قيودًا مُعينة على اللغة والصياغة ، لا يُمكنك استخدامه لارتكاب أنشطة غير مشروعة.
بالطبع ، ليست كل القيود معقولة. إذا كانت الإرشادات الصارمة تجعل تنفيذ مهام مُحددة أمرًا صعبًا ، فاستمر في إعادة كتابة مُطالباتك. يُؤثر اختيار الكلمات والنبرة بشكل كبير على المخرجات. يمكنك الحصول على الإلهام من المطالبات الأكثر فعالية وتفصيلاً على GitHub.
كيف تدرس OpenAI محادثات المُستخدم؟
تنطبق الذاكرة السياقية فقط على محادثتك الحالية. تتعامل بنية ChatGPT عديمة الحالة مع المحادثات على أنها حالات مُستقلة ؛ لا يُمكن الإشارة إلى معلومات من المُحتويات السابقة. يؤدي بدء محادثات جديدة دائمًا إلى إعادة تعيين حالة النموذج.
هذا لا يعني أنَّ ChatGPT يتخلص من محادثات المستخدم على الفور. تنص شروط استخدام OpenAI على أنَّ الشركة تجمع المدخلات من خدمات المُستهلك غير API مثل ChatGPT و Dall-E. يُمكنك حتى طلب نسخ من سجل الدردشة الخاصة بك.
بينما يصل ChatGPT إلى المحادثات بحرية ، تحظر سياسة خصوصية OpenAI الأنشطة التي قد تعرض المُستخدمين للخطر. يُمكن للمدربين استخدام بياناتك فقط في البحث عن المنتج وتطويره.
يبحث المطورون عن الثغرات
يتنقل فريق تطوير OpenAI من خلال المحادثات بحثًا عن الثغرات. يُحلل الحالات التي يُظهر فيها ChatGPT تحيزات البيانات ، أو ينتج معلومات ضارة ، أو يساعد في ارتكاب أنشطة غير مشروعة. يتم تجديد المبادئ التوجيهية الأخلاقية للنموذج باستمرار.
على سبيل المثال ، أجابت الإصدارات الأولى من ChatGPT علانية على أسئلة حول ترميز البرامج الضارة أو إنشاء مُتفجرات. جعلت هذه الحوادث المستخدمين يشعرون أنَّ OpenAI لا تتحكم في ChatGPT. لاستعادة ثقة الجمهور ، قامت بتدريب روبوت الدردشة على رفض أي سؤال قد يتعارض مع إرشاداتها. تحقق من هل فقدت OpenAI بالفعل التحكم في روبوت الدردشة ChatGPT؟
يقوم المدربون بجمع البيانات وتحليلها
يستخدم ChatGPT تقنيات التعلم تحت الإشراف. على الرغم من أنَّ النموذج يتذكر جميع المدخلات ، إلا أنه لا يتعلم منها في الوقت الفعلي. يقوم فريق تدريب OpenAI بجمعها وتحليلها أولاً. يضمن القيام بذلك أنَّ ChatGPT لا يمتص أبدًا المعلومات الضارة والمُتحيزة التي يتلقاها.
يتطلب التعلم الخاضع للإشراف مزيدًا من الوقت والطاقة مُقارنةً بالتقنيات غير الخاضعة للإشراف. ومع ذلك ، فإن ترك الذكاء الاصطناعي لتحليل المدخلات وحده قد ثبت أنه ضار بالفعل.
خذ Microsoft Tay كمثال — إحدى المرات التي حدث فيها خطأ في تعلم الآلة. نظرًا لأنه حلل باستمرار التغريدات دون توجيه من المطور ، قام المستخدمون الخبثاء في النهاية بتدريبه على التحيز العنصري والآراء النمطية. تحقق من هل سيتحول ChatGPT إلى تهديد للأمن السيبراني؟ إليك ما يجب الانتباه إليه.
يحترس المطورون باستمرار من التحيزات
العديد من العوامل الخارجية تُسبب تحيزات في الذكاء الاصطناعي. قد تنشأ التحيزات اللاواعية من الاختلافات في نماذج التدريب ، وأخطاء مجموعة البيانات ، والقيود سيئة الإنشاء. سوف تكتشفها في العديد من تطبيقات الذكاء الاصطناعي.
لحسن الحظ ، لم يُظهر ChatGPT تحيزات تمييزية أو عنصرية. ربما يكون أسوأ انحياز لاحظه المستخدمون هو ميل ChatGPT نحو الأيديولوجيات اليسارية ، وفقًا لتقرير نيويورك بوست. يكتب النموذج بشكل أكثر انفتاحًا عن الموضوعات الليبرالية أكثر من الموضوعات المحافظة.
لحل هذه التحيزات ، منعت شركة OpenAI روبوت الدردشة ChatGPT من تقديم رؤى سياسية تمامًا. يُمكنه فقط الإجابة على الحقائق العامة. تحقق من ما هو كسر حماية ChatGPT؟ هل يجب عليك استخدام هذه التقنيات؟
يقوم الوسطاء بمُراجعة أداء ChatGPT
يمكن للمُستخدمين تقديم تقييمات حول ردود ChatGPT. ستجد زري الإبهام لأعلى والإبهام لأسفل على الجانب الأيمن من كل إجابة. الأول يُشير إلى رد فعل إيجابي. بعد الضغط على زر الإعجاب أو عدم الإعجاب ، ستظهر نافذة يمكنك من خلالها إرسال التعليقات بكلماتك الخاصة.
نظام التغذية الراجعة مُفيد. فقط امنح OpenAI بعض الوقت للتدقيق في التعليقات. يُعلق الملايين من المستخدمين على ChatGPT بانتظام — من المحتمل أن يعطي مطوروه الأولوية لحالات خطيرة من التحيزات وتوليد المُخرجات الضارة. تحقق من هل لدى ChatGPT مُشكلات تتعلق بالخصوصية؟
هل مُحادثات ChatGPT الخاصة بك آمنة؟
بالنظر إلى سياسات خصوصية OpenAI ، يُمكنك أن تطمئن إلى أنَّ بياناتك ستظل آمنة. يستخدم ChatGPT المُحادثات فقط للتدريب على البيانات. يدرس مُطوروه الرؤى التي تم جمعها لتحسين دقة الإخراج وموثوقيته ، وليس سرقة البيانات الشخصية.
مع ذلك ، لا يوجد نظام مثالي للذكاء الاصطناعي. إنَّ ChatGPT ليس مُتحيزًا بطبيعته ، ولكن لا يزال بإمكان الأفراد الخبثاء استغلال نقاط الضعف الخاصة به ، على سبيل المثال ، أخطاء مجموعة البيانات ، والتدريب المُهمل ، والثغرات الأمنية. لحمايتك ، تعلم كيفية مكافحة هذه المخاطر. يُمكنك الإطلاع الآن على يُمكن لـ ChatGPT صياغة النكات ، لكن هل يُمكن للذكاء الاصطناعي أن يجعلنا نضحك فعلًا؟
