أخطار المعاناة

بقلم Benjamin Hilton
بُعد الأمديةكارثة وجودية جهنميةمخاطر المعاناة
 

الملخص

يحاول المشتغلون على أخطار المعاناة الحد من خطر حدوث أمرٍ يسبب معاناة أكبر بكثير من المعاناة الموجودة على كوكب الأرض حتى الآن. ونرى أن الأبحاث المتعلقة بكيفية تجنب حدوث هذه الأمور لها أهمية خاصة. وربما يمكنك القيام بعملٍ مهم عن طريق تطوير هذا المجال الذي يتعرض حاليًا لإهمال كبير - إذ يعمل عليه أقل من 50 شخصًا في أنحاء العالم.

رؤيتنا الإجمالية

يُنصَح به أحيانًا

العمل على هذه المشكلة قد يكون من أفضل طرق تحسين المستقبل بعيد المدى، لكن الفرص المتاحة التي نعرفها لإحداث تأثير واسع عند العمل على هذه القضية أقل من الفرص المتاحة المتعلقة بمشكلاتنا الأعلى ترتيبًا من حيث الأولوية.

عُمق الملف

استكشافي

ما الذي قد يجعل أخطار المعاناة مشكلة ملحة بالأخص؟

تشغلنا الآثار التي ستتعرض لها الأجيال القادمة، مثل الآثار المترتبة على تهديدات وجودية ناشئة عن الجائحات أو الذكاء الاصطناعي.

وهذه الأخطار بالأساس تهدد بالانقراض أو بالقضاء الدائم على إمكانات البشرية، لكنها لا تركز بالأخص على احتمالات حدوث قدرٍ هائل من المعاناة.

وتهدف المحاولات للبحث في أخطار المعاناة إلى سد هذه الفجوة.

إن التكنولوجيا الجديدة، التي تشمل على سبيل المثال تطوير تقنيات الذكاء الاصطناعي أو تقنيات المراقبة المحسنة، وتشمل أيضًا تطوير أسلحة نووية أو بيولوجية جديدة، قد تؤدي إلى تركز السلطة في أيدي من يطورون هذه التقنيات ويتحكمون فيها. نتيجةً لذلك، من النتائج المحتملة الأسوأ من الانقراض نشأة دكتاتورية شمولية أبدية، يُعاني الناس فيها إلى أجلٍ غير مسمى. لكن الباحثين في أخطار المعاناة عادةً ما ينشغلون بنتائج أسوأ من ذلك.

على سبيل المثال، ماذا سيحدث إن طورت هذه الدكتاتورية التكنولوجيا اللازمة لاستيطان الفضاء؟ وإذا كنا نكترث لأمر الحيوانات بل والعقول الرقمية، فإن حجم المعاناة المحتملة في المستقبل يبدو فلكيًا. فالبشرية الآن تكاد تفتقر إلى الإحساس في ما يتعلق برفاه الحيوانات، فضلًا عن رفاه أشكال الوعي الرقمي التي يمكن أن تنشأ مستقبلًا.

ونحن لا نعرف احتمالية حدوث أخطار المعاناة.

يتوقف هذا بدرجة كبيرة على تعريفنا للمصطلح (وقد رأينا عدة تعريفات ممكنة). ونرى أنه من المرجح أن يحدث قدر من المعاناة في المستقبل، ومن المحتمل أن تكون هذه المعاناة على نطاقات ضخمة، أكبر بكثير من المعاناة التي شهدتها الأرض حتى الآن، خاصةً إن زاد عدد الأفراد بكثير في المستقبل وتنوعت حيواتهم. لكن حين يتحدث عن الناس عن أخطار المعاناة، فإنهم يقصدون خطر الوصول إلى نتائج سيئة لدرجة تجعلها أسوأ من انقراض البشرية. وتخميننا هو أن احتمال وقوع مثل هذه الأخطار قليل جدًا، أقل بكثير من خطر انقراض البشر - وهذا سبب من بين الأسباب التي تجعلنا نركز أكثر على أخطار الانقراض.

لكن البحث في أخطار المعاناة مجال مهمل لدرجة تصعب التأكد من تخميناتنا بشأنها. ونظن أن أقل من 50 شخصًا في أنحاء العالم يمارسون عملًا صريحًا للحد من أخطار المعاناة.

أنواع أخطار المعاناة

في حين تظل الأبحاث في هذا المجال في مراحلها الأولى، يحدد مركز تقليل المعاناة ثلاثة أنواع محتملة لأخطار المعاناة:

  • أخطار الفاعلين. هذه الأخطار مصدرها فاعلون يتسببون عمدًا في إحداث الضرر، ويمكن أن يحدث هذا لأن فاعلًا ذا نفوذ يرغب بنشاط في إحداث الضرر أو يكن مشاعر كراهية أو عدم اكتراث بجماعات أخرى (سواء كانت جماعات عرقية أم أنواع أخرى أم أشكال الحياة الواعية الأخرى)، أو بسبب التعاملات الاستراتيجية ذات الحصيلة السالبة.
  • الأخطار العرضية. تنشأ هذه الأخطار بصفتها عرضًا جانبيًا لعملية أخرى. على سبيل المثال، قد نرى المعاناة تنشأ بصفتها عرضًا جانبيًا لأشكال معينة من الإنتاج الاقتصادي (مثل المعاناة التي نشهدها حاليًا نتيجة للتربية الصناعية)، أو محاولات جمع المعلومات (مثل إجراء التجارب على الحيوانات، أو محاكاة الكائنات الواعية)، أو العروض الترفيهية العنيفة (مثل مصارعات الحلبة).
  • الأخطار الطبيعية. تشمل الأخطار الطبيعية المعاناة التي تقع دون تدخل أي فاعل. ومن المحتمل أن تحدث معاناة للحيوانات البرية على نطاقٍ ضخم في أنحاء الكون (أو ربما هي تحدث الآن بالفعل).

ما احتمالية تحقق هذه الأخطار؟

يُمكن القول بأن أخطار تحقق مثل هذه المعاناة الهائلة منخفضة جدًا لدرجة لا تستدعي منا التركيز عليها. على سبيل المثال، ربما نتوقع توافر حوافز قوية تمنع تحقق هذا النوع من الأخطار. وبما أن الفاعلين عمومًا يبدو أنهم يسعون إلى السعادة وإلى تجنب المعاناة، قد نظن أن هذا التباين العميق سيحد من أخطار المعاناة - مع أنه لم يتضح إذا ما كانت الحياة تاريخيًا قد تحسنت باستمرار بمرور الوقت⁠⁠1.

ومع ذلك، هناك بعض الأسباب التي قد تدفعنا إلى الشعور بالقلق:

  • إن لم ينقرض البشر، من المعقول أن نفترض أن التقدم التكنولوجي سيستمر⁠⁠2. نتيجةً لذلك، يبدو أننا عند مرحلة ما سنستوطن الفضاء بطريقة أو بأخرى (كما ناقشنا في ملف حوكمة الفضاء)، ما يعني أن مستقبلنا يمكن أن ينطوي على قيمة إيجابية أو سلبية على نطاقات فلكية.
  • في العموم، ستتيح التكنولوجيا المتقدمة القيام بأمور شتى - وكلما تقدمت التكنولوجيا، اتسع مدى الممكن تحقيقه. وإن وُجِد دافعٌ لخلق شكلٍ من أشكال المعاناة، فهذا يعني وجود احتمالية معقولة لأن تُخلق هذه الأشكال من المعاناة بالفعل.
  • هناك سابقات، مثل التربية الصناعية، ومعاناة الحيوانات البرية، والعبودية.

كيف يمكنك المساعدة؟

هناك طريقتان رئيسيتان للحد من أخطار المعاناة:

  • التدخلات ضيقة النطاق تركز على التطوير والنشر الآمن لتكنولوجيات جديدة محددة يمكنها تحقيق أخطار المعاناة، مثل الذكاء الاصطناعي التحويلي.
  • التدخلات واسعة النطاق، ومنها على سبيل المثال تشجيع التعاون الدولي (الذي سيحد من حوافز أفعال مثل الحرب وأخذ الرهائن والتعذيب)

بما أن معلوماتنا عن أخطار المعاناة محدودة جدًا في هذه المرحلة، تميل الأعمال الحالية المتعلقة بأخطار المعاناة إلى التركيز على أمرٍ من اثنين، إما البحث في هذه الأخطار وطرق الحد منها، وإما بناء الحركات التي تشجع الآخرين على قضاء وقتٍ في التركيز على الحد من هذه الأخطار.

نتيجة لمحدودية المعلومات، نرى أنه من المهم بالأخص أن يكتسب العاملون على أخطار المعاناة فهمًا جيدًا للمجال قبل محاولة تحقيق أهداف جوهرية.

وقد يساعد أيضًا في الحد من أخطار المعاناة العمل على القضايا ذات الصلة، ومن بينها:

  • صراع القوى العظمى
  • أخطار الفاعلين الأشرار
  • أخطار الذكاء الاصطناعي

لكن تجدر الإشارة إلى أن أعمال محددة ضمن هذه المجالات تُعتبر من أفضل طرق الحد من أخطار المعاناة بالأخص (بدلًا من تحقيق أهداف أخرى، مثل الحد من الأخطار الوجودية).

على سبيل المثال، من بين الطرق العديدة التي ننصح بها للعمل على الحد من أخطار الكوارث المرتبطة بالذكاء الاصطناعي، لا يرتبط إلا بعضها مباشرةً بالحد من أخطار المعاناة. والعمل المرتبط بأخطار المعاناة في مجال الذكاء الاصطناعي غالبًا ما يركز على تفاعل أنظمة الذكاء الاصطناعي مع بعضها (أو مع البشر)، وكذلك على ضمان ألا تسبب الأخطاء في تصميم أنظمة الذكاء الاصطناعي أو عملها نتائج بالغة السوء. ويشمل هذا العمل على بناء الذكاء الاصطناعي التعاوني (أي إيجاد طرق لضمان أن الأنظمة المنفردة للذكاء الاصطناعي، حتى وإن كانت آمنة في ظاهرها، لا تؤدي إلى نتائج سيئة عبر تعاملها مع الأنظمة البشرية أو أنظمة الذكاء الاصطناعي الأخرى)، وكذلك الأعمال الأخرى المتعلقة بأنظمة الذكاء الاصطناعي متعددة الفاعلين.

اقرأ المزيد عن الطرق الممكنة لتجنب أخطار المعاناة هنا.

المنظمات الرئيسة في هذا المجال

  • مركز تقليل المعاناة يبحث في وجهات النظر الأخلاقية التي قد تُعطي أهمية أكبر لأخطار المعاناة، ويدرس المقاربات العملية للحد من أخطار المعاناة.
  • مركز الأخطار بعيدة المدى يركز بالأخص على الحد من أخطار المعاناة التي قد تنشأ من تطوير الذكاء الاصطناعي، إلى جانب بناء المجتمعات وتقديم المنح الداعمة للعمل على الحد من أخطار المعاناة.

اعرف المزيد عن أخطار المعاناة

  • أخطار المعاناة: لماذا هي أسوأ الأخطار الوجودية؟ وكيف نمنع وقوعها؟ - حديث تقديمي من ماكس دانيال ضمن فعاليات المؤتمر العالمي للإيثار الفعال EA Global ببوسطن في عام 2017
  • أخطار المعاناة: مقدمة لتوبياس باومان
  • تصنيف أخطار المعاناة لتوبياس باومان
  • تجنب الأسوأ: كيف نمنع كارثة أخلاقية لتوبياس باومان
  • أخطار المعاناة المستقبلية الفلكية لبريان توماسيك
  • بودكاست: جيف سيبو عن العقول الرقمية، وكيف نتجنب السير نيامًا إلى كارثة أخلاقية كبرى
  • مقالنا دفاعًا عن الحد من الأخطار الوجودية

المنشور الأصلي: Benjamin Hilton (2022) S-risks, 80,000 Hours, سبتمبر.

ترجمة: عبد الرحمن طه.

1 2