ما هي مشكلة زيادة مشابك الورق وما علاقتها بالذكاء الاصطناعي؟

لقد كان الذكاء الاصطناعي موضوع رائجًا للنقاش مُنذ نشأته. في حين أنَّ المخاوف من ظهور ذكاء اصطناعي شبيه بـ Skynet والاستيلاء على الكون والتخلص من البشرية أمر غير منطقي ، على أقل تقدير ، إلا أنَّ بعض التجارب قد أسفرت عن نتائج مُقلقة.

إحدى هذه التجارب هي مشكلة مشبك الورق الأقصى ، وهي تجربة فكرية تُظهر أنَّ الذكاء الاصطناعي عالي الذكاء ، حتى لو تم تصميمه بالكامل بدون حقد ، يُمكن أن يدمر البشرية في النهاية. تحقق من هل فقدت OpenAI بالفعل التحكم في روبوت الدردشة ChatGPT؟

ما هي مشكلة زيادة مشابك الورق وما علاقتها بالذكاء الاصطناعي؟ - الذكاء الاصطناعي

شرح مُشكلة زيادة مشابك الورق

هذه التجربة الفكرية التي تُفيد بأنه حتى الذكاء الاصطناعي غير المُؤذي تمامًا يُمكن أن يُؤثر سلبًا في النهاية على حياة البشرية ، تم تسميتها أولاً بـ “زيادة مشابك الورق”. لمُجرد أنه تم اختيار مشابك الورق لإظهار ما يُمكن أن يفعله الذكاء الاصطناعي لأنَّ لديها القليل من الخطر الواضح ولن يتسبب في حدوث ضائقة عاطفية عند مقارنتها بالمناطق الأخرى التي تنطبق عليها هذه المشكلة كعلاج السرطان أو كسب الحروب.

ما هي مشكلة زيادة مشابك الورق وما علاقتها بالذكاء الاصطناعي؟ - الذكاء الاصطناعي

ظهرت التجربة الأولى في ورقة الفيلسوف السويدي نيك بوستروم عام 2003 ، القضايا الأخلاقية في الذكاء الاصطناعي المتقدم ، والتي تضمَّنت “مُكبر مشابك الورق” لإظهار المخاطر الوجودية التي يُمكن أن يستخدمها الذكاء الاصطناعي المتقدم بدرجة كافية.

قدمت المشكلة ذكاءً اصطناعيًا تم تكليفه بهدف وحيد وهو صنع أكبر عدد مُمكن من المشابك الورقية ، يُمكنه أن يُقرر تحويل كل أمور الكون إلى مشابك ورقية ، بما في ذلك البشر. سوف يُدرك الذكاء الاصطناعي الذكي بدرجة كافية عاجلاً أم آجلاً أنَّ البشر يُشكلون تحديًا لهدفه في ثلاث مناطق مُختلفة.

  1. يُمكن للبشر إيقاف تشغيل الذكاء الاصطناعي.
  2. يُمكن للبشر تغيير أهدافهم.
  3. يتكون البشر من ذرات يُمكن تحويلها إلى مشابك ورقية.

في جميع الأمثلة الثلاثة ، سيكون هناك عدد أقل من مشابك الورق في الكون. لذلك ، فإنَّ الذكاء الاصطناعي الذكي بما فيه الكفاية والذي يتمثل هدفه الوحيد في صنع أكبر عدد مُمكن من المشابك الورقية سيستفيد من كل المواد والطاقة المُتاحة ويمنع نفسه من الانغلاق أو التغيير. كما يُمكنك أن تتخيل ، هذا أكثر خطورة بكثير من المُجرمين الذين يستخدمون ChatGPT لاختراق حسابك المصرفي أو الكمبيوتر الخاص بك.

الذكاء الاصطناعي ليس مُعاديًا للبشر. انه مجرد غير مُبالٍ ولا يُقدِّر حياة الإنسان. وبالتالي ، فإنَّ الذكاء الاصطناعي الذي يهتم فقط بزيادة عدد مشابك الورق سيقضي على البشرية ويُحولها أساسًا إلى مشابك ورقية للوصول إلى هدفه.

يُعتبر “زيادة مشبك الورق” مثالاً على التقارب الفعَّال ، وهو مُصطلح يُشير إلى أنَّ الذكاء الاصطناعي يُمكن أن يسعى إلى تحقيق هدف غير ضار بطرق ضارة (من وجهة نظر الإنسان). إنَّ تسخير ذكاء اصطناعي حقيقي للقيام بمهام بسيطة تبدو بريئة يُمكن أن يُشكل خطرًا وجوديًا على البشر إذا لم نكن نعرف بأمان كيفية جعل الآلة تُقدر حياة الإنسان. تحقق من أخطاء يجب تجنبها عند استخدام أدوات الذكاء الاصطناعي التوليدي.

كيف تنطبق مشكلة مشابك الورق على الذكاء الاصطناعي؟

تُشير الأبحاث والتجارب إلى مشكلة “زيادة مشابك الورق” جميعها إلى مُحسِّن افتراضي قوي للغاية أو عامل ذكي للغاية باعتباره الطرف التمثيلي هنا. ومع ذلك ، فإنَّ المشكلة تنطبق على الذكاء الاصطناعي بقدر ما يناسب الدور تمامًا.

تم إنشاء فكرة “زيادة مشابك الورق” لإظهار بعض مخاطر الذكاء الاصطناعي المُتقدم ، بعد كل شيء. بشكل عام ، فإنه يمثل مشكلتين.

  1. أطروحة التعامد: أطروحة التعامد هي الرأي القائل بأنَّ الذكاء والدافع لا يعتمدان على بعضهما البعض. هذا يعني أنه من المُمكن للذكاء الاصطناعي الذي يتمتع بمستوى عالٍ من الذكاء العام ألا يصل إلى نفس الاستنتاجات الأخلاقية مثل البشر.
  2. التقارب الآلي: يُعرَّف التقارب الآلي على أنه ميل معظم الكائنات الذكية بدرجة كافية (سواء البشرية أو غير البشرية) لمُتابعة أهداف فرعية مُماثلة حتى لو كان هدفها النهائي مُختلفًا تمامًا. في حالة مشكلة زيادة مشابك الورق ، فإنَّ هذا يعني أنَّ الذكاء الاصطناعي سينتهي به الأمر بالاستيلاء على كل الموارد الطبيعية والقضاء على البشرية لمجرد تحقيق هدفه المُتمثل في إنشاء المزيد والمزيد من مشابك الورق.

ما هي مشكلة زيادة مشابك الورق وما علاقتها بالذكاء الاصطناعي؟ - الذكاء الاصطناعي

المشكلة الأكبر التي أبرزها مثال “زيادة مشباك الورق” هي التقارب الفعَّال. يُمكن أيضًا تسليط الضوء عليه باستخدام فرضية ريمان ، وفي هذه الحالة قد يُقرر الذكاء الاصطناعي المُصمم لحل الفرضية بشكل جيد للغاية الاستيلاء على كتلة الأرض بالكامل وتحويلها إلى كمبيوتر (أكثر معالجات الكمبيوتر كفاءة) لبناء حواسيب عملاقة لحل المشكلة ويصل إلى هدفه.

أكد بوستروم نفسه أنه لا يعتقد أنَّ مشكلة مشبك الورق ستكون مشكلة حقيقية على الإطلاق ، لكن نيته كانت توضيح مخاطر إنشاء آلات فائقة الذكاء دون معرفة كيفية التحكم فيها أو برمجتها حتى لا تُشكل خطرًا وجوديًا على البشر. . تواجه أنظمة الذكاء الاصطناعي الحديثة مثل ChatGPT مشاكل أيضًا ، لكنها بعيدة كل البعد عن أنظمة الذكاء الاصطناعي الفائقة الذكاء التي يتم الحديث عنها في مثال مشبك الورق ، لذا لا يوجد سبب للذعر حتى الآن. تحقق من هل لدى ChatGPT مُشكلات تتعلق بالخصوصية؟

تحتاج أنظمة الذكاء الاصطناعي المُتقدمة إلى تحكم فائق

دائمًا ما تصل مشكلة زيادة مشابك الورق إلى نفس النتيجة وتُسلط الضوء على مشاكل إدارة نظام ذكي للغاية وقوي يفتقر إلى القيم الإنسانية.

على الرغم من أنَّ استخدام مشابك الورق قد يكون الطريقة الأكثر شيوعًا لتوضيح المشكلة ، إلا أنه ينطبق على أي عدد من المهام التي يُمكن أن تمنحها للذكاء الاصطناعي ، سواء كانت القضاء على السرطان ، أو الفوز بالحروب ، أو زرع المزيد من الأشجار أو أي مهمة أخرى ، بغض النظر عن مدى وضوحها. . يُمكنك الإطلاع الآن على هل استخدام الذكاء الاصطناعي في الأمن السيبراني يجعل العالم أكثر أمانًا؟

المصدر
زر الذهاب إلى الأعلى