اعتبارات حاسمة وعمل خيري حكيم
سوف يبني هذا الخطاب على بعض الأفكار التي كان يتحدث عنها نيك باكستيد (Nick Beckstead) قبل الغداء. مع هذا، وعلى عكس عرضه، فإن خطابي لن يكون عرضًا مقدّمًا جيّدًا. إنه أشبه بمشروعٍ جاري، ولذا فسيكون ثمة قفزات وانقطاعات، كما ستكون بعض الأجزاء مشوشةً، إلخ. إلا أنني أتطلع إلى مرحلة النقاش.
ما الاعتبار الحاسم؟
أريد الحديث عن هذا المفهوم المسمى الاعتبار الحاسم، والذي يرد كثيرًا في الأعمال التي نقوم بها. افترض أنّك في غابةٍ ولديك خريطةٌ وبوصلة، وأنت تحاول الحصول على بعض الوجهات. أنت تحمل أثقالًا، وقد يكون لديك الكثير من الماء لأنك بحاجة لترطيب نفسك للوصول إلى هدفك ولحمل الأثقال، كما تحاول تدقيق الاتجاه الذي تذهب إليه بالضبط. كما تحاول اكتشاف مقدار الماء الذي يمكنك سكبه، لتخفّف الحمل دون أن تقل الكمية عما تحتاجه للوصول إلى وجهتك.
كل هذه الاعتبارات عادية: أنت تدّقق المسلك الذي تمشي فيه من أجل التقدم سريعًا نحو هدفك. إلا أنّك بعد ذلك تلقي نظرةً متفحّصة على البوصلة التي كنت تستعملها، فتكتشف أن الجزء الممغنط كان مرتخيًا. مما يعني أن المؤشر قد يكون متجهًا الآن إلى اتجاه مختلفٍ تمامًا لا يمتّ بصلةٍ إلى الشمال: قد يكون استدار عددًا مجهولًا من الدورات أو أجزاء الدورات.
في ظلّ هذا الاكتشاف، تفقد الثقة تمامًا في كل التفكير السابق المبني على محاولة الحصول على قراءة أفضلٍ للاتجاه الذي كان يشير إليه المؤشر. وهذا مثال للاعتبار الحاسم في سياق الاتجاهات. الفكرة هنا أنه قد يكون ثمة اعتبارات مماثلة في سياقات أهم من شأنها أن تضيعنا تمامًا.
فالاعتبار الحاسم هو:
- اعتبار إن أخذناه بالحسبان، فيمكن أن يقلب الخلاصات التي قد نصل إليها من دونه حول كيفية توجيهنا لجهودنا، أو هو فكرة أو
- حجة قد تكشف عن حاجتنا إلى أكثر من مجرد القيام بتعديلات بسيطةٍ في مساعينا العملية، حاجتنا إلى تغيير كبير في الاتجاه أو الأولويات.
في سياق النفعية، قد يحاول المرء شرح الأمر كالتالي:
- الاعتبار الحاسم هو اعتبار يغيُّر القيمة المتوقعة من ابتغاء هدف فرعيٍّ عالي المستوى تغييرًا جذريًّا.
الفكرة هنا أن لديك معيارًا تقييميًّا ثابتًا، وتُشكل خطةً عامةً لتحقيق هدفٍ فرعيٍّ عالي المستوى. وهذه فكرتك لتعظيم هذا المعيار التقييمي. الاعتبار الحاسم إذن هو الاعتبار الذي يغيّر جذريًّا القيمة المتوقعة من تحقيق هذا الهدف الفرعي، وسنرى بعض الأمثلة. والآن إذا أزلت القيود النفعية عن منظورك، فقد ترغب في الرجوع إلى الصياغات السابقة غير الرسمية، لأن النفعية في حد ذاتها من ضمن الأمور التي ستشكك فيها . إلا أنّنا سنتحدث في أغلب هذا الخطاب حول ذلك المكوّن.
توجد بعض المفاهيم القريبة التي يفيدنا تصوّرها. فمكوّن الاعتبار الحاسم هو حجةٌ أو فكرة أو معطى لا يرقى على حدة لأن يصير اعتبارًا حاسمًا، إلا أنه يُحتمل لحد كبيرٍ أن يكون قادرًا على أداء دورٍ مركزي ضمن الاعتبار الحاسم. إنه من تلك الأمور التي قد نقول عنها: «يبدو أن هذا يستحق النظر، قد يكون هذا مهمًّا؛ إلا أني لا أدري ما أصنع به اللحظة». فهو في حد ذاته لا يُخبرنا بأي شيءٍ، إلا أنه قد تكون ثمة معلومة أخرى، لو جُمعت معه لأمدّتنا بنتيجةٍ مهمة. ولذا فإن هذا النوع من مكونات الاعتبار الحاسم قد تكون مفيدة.
وثمة مفهوم سلم المداولات، وهو سلسلة من الاعتبارات الحاسمة المتعلقة بنفس الهدف الفرعي عالي المستوى، حيث تتقابل الاعتبارات في اتجاهات متعاكسة. لنطلع على بعض أمثلة هذه الأنواع من سلالم الاعتبارات الحاسمة والتي تساعدنا في تصوّر المأزق الكلي.
هل يجب عليّ التصويت في الانتخابات الوطنية؟
لنأخذ هذا السؤال: «هل يجب عليّ التصويت في الانتخابات الوطنية؟» في صنف «المستوى الأول» من التفكير، وقد ترى أنه: «نعم، عليّ التصويت لأوصل مرشّحا أفضل للمقعد» وهذا يبدو منطقيًّا تمامًا.
وبعد ذلك تعيد التقدير: «لكن، من غير المحتمل إلى حدّ كبيرٍ أن يشكّل صوتي فارقًا. عليّ ألا أصوّت، لكن سأستغل وقتي استغلالًا أحسن». (المقصد من هذه الأسئلة هو تصوّر الفكرة العامة. لا أريد فعلًا مناقشة هذه الأمثلة بعينها؛ فهي معقدة. إلا أني أعتقد أنها تفيد في تصور الظاهرة العامة). وهنا قد انتقلنا من «نعم، علينا أن نصوّت»، وتخطيطنا للوصول إلى حجرة الاقتراع، وما إلى ذلك. ثم بعد ذلك، مع الاعتبار الثاني تحوّلنا إلى «لا، عليّ ألّا أصوت. عليّ القيام بأمرٍ مختلفٍ تمامًا».
وبعد ذلك تفكّر قائلًا: «فعلًا، بالرغم من أنه من غير المحتمل أن يشكل صوتي فارقًا، إلا أن المخاطرة عالية: ملايين الحيوات ستتأثر بالرئيس. فحتى إن كان صوتي غير فاصلٍ إلا بنسبة واحدٍ في المليون، فإن الفائدة المرجوّة لا تزال كبيرةً جدًّا لدرجة أنها تستحق أن أبذل من أجلها رحلةً إلى مركز الاقتراع». كنت لأعود للتلفاز مشغلًا مباراة كرة قدم، إلا أنه اتضح الآن أن عليّ التصويت، فلدينا اتجاه معاكس.
وبعد ذلك تواصل التفكير: «حسنًا، إذا لم تكن الانتخابات متقاربةً، فلن يُحدث صوتي فارقًا. وإذا كانت الانتخابات متقاربة، فإن ما يقارب نصف الأصوات ستكون للمرشّح الخطأ، مما يستلزم إما أن يكون المرشحان متطابقان تمامًا أو يكادان من ناحية الاستحقاقية، أو أن حكم عامة المصوتين على استحقاقية المرشحين غير موثوقٍ لحدٍّ كبير، ولا معنى له، ولذا فعليّ ألا أشغل نفسي بالتصويت».
والآن تلقي بنفسك على الأريكة وتُحضر الفُشار، ثم تفكر: «أوه، حسنًا، بالطبع أنا أفضل من عامة المصوتين في الحكم على استحقاقية المترشحين، ولذا عليّ التصويت».
ثم بعد ذلك تتذكّر: «طيّب، لكنّ الدراسات النفسية تُظهر أن الأشخاص الذين يميلون إلى الثقة المفرطة، يعتقد الجميع تقريبًا أنهم أعلى من المتوسط، إلا أن احتمالية خطئهم مماثلةٌ لاحتمالية صوابهم. إذا كان احتمال تصويتي للمرشّح الخطأ مماثلًا لعامة المصوتين، فإن صوتي لا يعبّر إلا عن معلومةٍ هامشيّةٍ في عملية الاختيار، وعليّ ألا أصوت».
ثم نمضي قدمًا: «حسنًا، بما أني فكّرت في كل هذا فهذا يعني أنني مميّز، ولذا عليّ التصويت».
لكنك تقول بعد ذلك: «طيب، لو كنت مميّزًا فهذا يعني أن الفرصة مكلفة..»
ولذا فعليّ أن أقوم بما هو أهم. إلا أنني إذا لم أصوّت فإن معارفي سيرون أني أخفقت في دعم المرشح الذي نراه الأفضل، وسيعتبرونني غريبًا وعجيبًا وعديم الولاء. ومن ثمّ سيتقلص تأثيري، الذي كنت أستطيع استغلاله في مآرب حسنة، ولذا فعليّ التصويت في نهاية المطاف.
إلّا أنه من المهم أن يُدافع المرء عن قناعاته، ليستثير نقاشاتٍ مثمرة. وإذا شرحت كل هذا التفكير المعقّد من أجل التصويت فقد يعتقدون أني بالغ الرقي، وقد يزيد ذلك من تأثيري، وهو ما أستطيع استثماره في قضية جيدة. وهلمّ جرًّا.
ليس ثمة أي سببٍ يجعلنا نعتقد أن السلّم ينتهي حيث توقفنا؛ فتلك النقطة ليست إلا حيث نفذ حبل أفكارنا. إذا توقّفت في نقطة معينةٍ، فقد تتساءل حينها – قد يكون ثمة درجات أعلى في السلم؟ كم تعتقد مقدار صحة الاستنتاج الذي وصلت إليه مؤقتًا في تلك المرحلة؟
هل علينا تفضيل المزيد من التمويل لأبحاث التكنولوجيات المتعلقة بالخطر الوجودي؟
أودّ إلقاء نظرةٍ على مثالٍ آخر لسلم مداولات في سياق سياسات التكنولوجيا والخطر الوجودي. هذا النوع من الحجج قد يُستدل به بخصوص بعض التكنولوجيات، فيما إن كان علينا محاولة الترويج لها أو جلب المزيد من التمويل لها.
التكنولوجيا المختارة هنا هي تكنولوجيا النانو؛ وهي في الواقع المثال الذي نتج عنه خط التفكير هذا. بعض الأجزاء هنا تعود إلى كتاب إريك دريكسلر (Eric Drexler) محركات الخلق (Engines of Creation)، حيث دافع فعليًّا عن هذا الخط الفكري (الفصل 12).
إذن علينا تمويل تكنولوجيا النانو — هذا هو «المستوى الأول» من الاستدلال — لوجود العديد من التطبيقات المستقبلية المحتملة: الطب، التصنيع، الطاقة النظيفة، إلخ. من الرائع فعلًا تحصيل كل هذه الفوائد.
لكن يبدو أن تكنولوجيا النانو قد يكون لها تطبيقات عسكرية مهمة، ويمكن أن يستعملها الإرهابيون وغيرهم من أجل تصنيع أسلحة دمار شاملٍ جديدة قد تشكّل خطرًا وجوديًّا جديدًا. إذا كانت خطيرةً، فقد يجدر بنا عدم تمويلها.
لكن إذا كان هذا النوع من التكنولوجيا ممكن التحقق، فمن المؤكد تقريبًا أن تُطوَّر عاجلًا أم آجلًا، سواءً أردنا السعي نحوها أم لا. (قد نعني بضمير «نحن» الأشخاص في هذه الغرفة أو الشعب البريطاني أو أيًا من الديمقراطيَّات الغربية). إذا امتنع الأشخاص المسؤولون عن تطويرها، فسيطورها أشخاص غير مسؤولين، مما قد يجعل الأخطار أعظم، ولهذا علينا أن نموّلها. (يمكنك أن ترى أن هذا النموذج مناسبٌ لتقييم تكنولوجيات أخرى ذات مغانم ومغارم، خلاف تكنولوجيا النانو).
لكننا متقدمين فعلًا في تطويرها، وبالتالي فإن المزيد من التمويل لن ينفع إلا في إيصالنا حيث نخشى سريعًا، مما يقلّل من الوقت المتاح لنا للتحضير للمخاطر. وبالتالي علينا ألا نزيد التمويل: سيكون الأشخاص المسؤولون في الطليعة دون زيادة تمويل هذا المسعى.
إلا أنك تنظر حولك حينها ولا ترى فعليًّا أي جهودٍ جادة للتحضير لمخاطر تكنولوجيا النانو — وهذه في الأساس النقطة الأساسية لدريكسلر في كتاب المحركات — لأن التحضير الجاد لن يبدأ إلا حين يكون ثمة مشروع ضخم طور تطوير تكنولوجيا النانو. حينها فقط سيبدأ الناس في التفكير جديًّا. كلما عجَّلنا بإطلاق مشروع شبيه بمشروع مانهاتن لتطوير تكنولوجيا النانو، طالت مدة إتمامه؛ لأنك كلما بدأتَ أبكر كان الأساس الذي تنطلق منه أقل. سيشتغل المشروع الفعلي لوقتٍ أطول، وذلك يعني المزيد من الوقت للتحضير: والتحضير الجاد لا يبدأ إلا حين يبدأ المشروع، وكلما بدأ المشروع أبكر استغرق وقتًا أطول، ولذا سيكون وقت التحضير أطول أيضًا. وهذا يحيلنا إلى أن علينا الدفع قدر المستطاع لإطلاق هذا المنتج حالًا، لنعظّم وقت التحضير.
إلا أنه توجد بعض الاعتبارات التي يجب أخذها بعين الحسبان:
يتأثر مستوى الخطر بعوامل غير مقدار التحضير الجدي المُتخذ، خصوصًا لمواجهة تهديدات تكنولوجيا النانو. فعلى سبيل المثال، قد يطور ذكاء الآلة أو المراقبة الشاملة قبل تطوير تكنولوجيا النانو، ما يُحيّد أو يزيل أخطار الأخيرة. وبالرغم من أن هذه التكنولوجيات الأخرى قد تشكل أخطار أكبر بدورها، إلا أن علينا مواجهة تلك الأخطار في كل الأحوال. وهناك الكثير من الكلام الذي يجب أن يقال. ما كانت تكنولوجيا النانو لتقلّل فعلًا هذه الأخطار الأخرى، مثل أخطار الذكاء الاصطناعي على سبيل المثال. الترتيب المفضّل هو أن نصل إلى الذكاء الخارق أو المراقبة الشاملة قبل تكنولوجيا النانو، ولذا فعلينا معارضة التمويل الإضافي لتكنولوجيا النانو بالرغم من أن الذكاء الخارق والمراقبة الشاملة قد يكونان خطرين بدورهما، إلى درجة تشكيل خطرٍ وجودي، بالنظر إلى بعض الافتراضات الخلفية حول حدس الاكتمال التكنولوجي — أنه بمرور الوقت ستُطوّر جميع التكنولوجيات المفيدة، ما لم تنهر الحضارة — فإنه سيتعين علينا مواجهة هذه الأخطار، واختيارنا لا يتعلق فعليًّا إلا بالتسلسل الزمني لمواجهتها. ومن الأفضل مواجهة الذكاء الخارق قبل تكنولوجيا النانو لأن الذكاء الخارق قد يُجنّبنا خطر تكنولوجيا النانو، والعكس غير صحيح.
مع ذلك، إذا عارض الناس التمويل الإضافي لتكنولوجيا النانو، فإن العاملين في تكنولوجيا النانو سيكرهون المعارضين. (وهذه النقطة من كتاب دريكسلر أيضًا). إلا أن العلماء الآخرين قد يعتبرون معارضي تمويل تكنولوجيا النانو مناهضين للعلم، وهو ما يقلص قدرتنا على العمل مع هؤلاء العلماء، معيقًا جهودنا في قضايا أكثر خصوصيةً – الجهود المحتمل أن تحدث فارقًا فعليًّا لأي محاولة من طرفنا للتأثير في مستوى التمويل الوطني لتكنولوجيا النانو. ولذا فعلينا ألا نعارض تكنولوجيا النانو. ويستحسن بدلًا من معارضة تكنولوجيا النانو أن نحاول إبطاءها قليلًا. لكننا جماعة صغيرة ولا نستطيع إحداث فارق فعلي – علينا أن نعمل مع علماء تكنولوجيا النانو، ونصادقهم، ثم قد نحاول التأثير عليهم على الهامش، كي يطوروا تكنولوجيا النانو بطريقة مختلفة قليلًا أو يضيفوا بعض احتياطات السلامة، وأمور من هذا القبيل.
ومجدّدًا، ليس ثمة أي سبب واضح يجعلنا نعتقد أننا وصلنا إلى حدود مستوى المداولات الذي يدفعنا لتطبيق هذا. الأمر مربك لأنه يبدو أن التطبيق العملي يتغير جيئةً وذهابًا كلما تعمقنا في شجرة البحث، وقد نتعجب من هذا الحال. أعتقد أن سلالم المداولات هذه تصلح حين يحاول المرء أن يكون نفعيًّا شاملًا وأن يأخذ مسألة الصورة الكلية على محمل الجد.
الاعتبارات الحاسمة والنفعية
دعونا نفكر في بعض الأسباب المحتملة لأهمية ذلك. إذا قارنا على — سبيل المثال — مجال تطبيق النفعية مع أي مجال تطبيق آخر، لنأخذ أي دالة تعبر عن تفضيلات بشرية عادية –أن تريد حياة مزدهرة، مثل عائلة صحية، ومسار مهني ناجح وبعض الاسترخاء، مثل أي قيمة بشرية نمطية. إذا كنت تحاول تحقيق تلك القيم، فيبدو أنه من غير المرجح أن تقابل عددًا كبيرًا من تلك الاعتبارات الحاسمة. فلم قد يكون ذلك؟
من الشروحات المحتملة أننا نملك معرفةً وخبرةً أكبر عن الحياة البشرية على المستوى الشخصي. لقد حاول ملايير البشر تعظيم وظيفة المنفعة للإنسان العادي وقد تلقوا الكثير من الاستجابات وجُرّبت الكثير من الأشياء. ولذا فإننا نعرف بالفعل بعض الأساسيات، فمثلًا إذا أردت أن تعيش لعقود، فمن المستحسن أن تأكل، وأمورٌ من هذا القبيل. لا نحتاج لاستكشاف تلك الأمور. وقد تكون تفضيلاتنا نشأت في المقام الأول على نحوٍ يناسب أكثر أو أقل نوع الفرص التي نستطيع استكشافها معرفيًّا في المحيط من خلال التطور. لذلك قد لا يكون لدينا أي تفضيل غريبٍ لا نستطيع إيفاءه حقه نظاميًّا. في حين أنه في النفعية، تمتد التفضيلات النفعية لما يتجاوز بيئتنا المألوفة، لما يشمل المشتركات الكونية وملايير السنين في المستقبل والحضارات فائقة التقدم: وهو ما يهم من منظور النفعي أهميةً شديدةً. فمعظم ما يهتم به التفضيل النفعي هو مما لا ألفة لنا به.
من منابع الاعتبارات الحاسمة فيما يتعلق بالنفعية نجد الصعوبات في فهم الهدف في حدّ ذاته. على سبيل المثال، إذا حاول المرء التفكير في طريقة تطبيق النفعية في عالم له احتمالية محدودة في أن يكون غير محدود، حينها سيواجه صعوبة بخصوص كيفية قياس مختلف المقادير غير المحدودة مع رؤيته لكيف يمكننا أن نحدث أي فارق في العالم. ولدي ورقة كبيرة بخصوص ذلك، ولسنا بحاجة للخوض فيها. توجد بعض المسائل الأخرى التي تشمل محاولة تكييف مبادئ النفعية بحيث تتعامل مع كل هذه الحالات الممكنة.
السبب الثالث المحتمل هنا هو ما يمكن أن يعتقده المرء في أننا قريبون نوعًا ما، لسنا قريبين جدًّا، لكن قريبين إلى نقطة محورية في التاريخ. وهذا يعني أننا قد نملك بين أيدينا فرصًا مميزةً للتأثير في المستقبل البعيد الآن. ولا نزال بعيدين جدًّا عن هذا: ليس واضحًا ما يجب أن نقوم به لتحقيق أقصى تأثير مفيدٍ على المستقبل. لكننا لا نزال قريبين بدرجة كافيةٍ لنبدأ في إدراك ملامح العدّة التي ستشكل المستقبل. على سبيل المثال، قد تعتقد أن الذكاء الخارق قد يكون هو هذه النقطة المحورية، أو إحدى النقاط التي سنواجهها في المستقبل (قد يكون ثمة نقاط خطر وجودي محورية أيضًا). في هذه الحالة قد نكون بالكاد بدأنا في الحصول على قدرة التفكير حول تلك الأمور، مما يقدّم لنا مجموعةً كاملةً من الاعتبارات الجديدة التي قد تكون شديدة الأهمية. قد يؤثر هذا على المجال الشخصي أيضًا. والأمر مماثل لوظيفة المنفعة الاعتيادية لأي شخص عادي: من المحتمل أنه لا يمنح قيمة مضاعفة مليون مرةٍ للعيش مليار سنةٍ مقارنة بالعيش مئة سنة، ولا قيمةً مضاعفةً ألف مرةٍ لتربية ألف طفلٍ مقارنةً بتنشئة طفلٍ واحد. فحتى إذا كان المستقبل موجودًا، فإن قيمته في دالة المنفعة للإنسان العادي ليست مماثلةً لوزنها عند النفعيين.
رابعًا، قد يجادل المرء أننا اكتشفنا حديثًا بعض أدوات الاستكشاف الأساسية التي تمكننا من القيام بكشوفات جد هامة حول كيف يصير المرء نفعيًّا جيّدًا. ولم تنته دورة هذه الأدوات حتى الآن، ولذا لا نزال نعثر على كشوفات جديدة أساسية باستخدام أدوات الاستكشاف هذه. ولهذا يبدو لنا أن ثمة الكثير من الاعتبارات الحاسمة المكتشفة. قد نتحدث قليلًا عن بعضها في جزء لاحقٍ من العرض.
دوال التقييم
دعنا نتناول الموضوع من زاوية مختلفةٍ قليلًا. الطريقة المثالية للعب في الشطرنج تبدأ بالتفكير في الحركات الممكن إجراءها، ثم الردود الممكنة التي قد يقوم بها خصمك، ثم ردودك على تلك الردود. في السيناريو المثالي، ستفكر في ذلك وصولًا إلى وضع النهاية، وبعدها ستحاول فقط اختيار أول حركة والتي تبدو الأفضل من وجهة نظر الفوز حين يكون ممكنا حساب شجرة اللعبة بأكملها. إلا أن ذلك غير ممكن حسابيًّا لأن الشجرة تتفرع كثيرًا: لديك عدد متزايد أسيًّا من الحركات التي يجب أخذها بعين الاعتبار. وما عليك فعله بدلًا من ذلك هو احتساب عددٍ من الحركات بصورة واضحةٍ مقدّمًا. ربما عشرات الحركات المقبلة أو شيء من هذا القبيل. يجب أن يتوقف تحليلك في هذه النقطة، وما عليك فعله هو إجراء دالة تقييم، والتي سيكون حسابها بسيطًا نسبيًّا، حيث تحاول النظر إلى وضع الرقعة الذي قد ينتج من تتابع ست حركات وحركات مضادة، وبطريقة صلبةٍ ومعدة حاول تقدير إلى مدى جودة ذلك الوضع. قد تبدو دالة تقييم الشطرنج النمطية مشابهة لهذه.
تقييمالشطرنج = (ج1 × المواد) + (ج2 × الحركية) + (ج3 × أمان الملك) + (ج4 × التحكم في الوسط) + …
لديك حدٌّ يقيّم عدد القطع التي نملكها، فامتلاكك للوزير والكثير من القطع مثلًا أمرٌ مفيد. وأن يمتلك الخصم القليل منها أمرٌ مفيدٌ أيضًا. ولدينا معيار معين كأن يكون للجندي قيمة تساوي واحدًا، وللوزير قيمة، لا أدري كم تساوي، ربما 11 أو شيءٌ من هذا القبيل. إذن، فستوازن ذلك – وهذا مكوّن واحدٌ في دالة التقييم. وبعدها قد تنظر في مدى حركية قطعك. فإذا كانت كلها محشورةٌ في الزاوية، فهذا وضع لا يبشر بخير، ولذا فلديك حدٌّ لاحتساب الأمر. سلامة الملك والتحكم في وسط الرقعة يضيفان بعض القيمة: إذا تحكمت في وسط الرقعة، فإننا نعرف من خلال التجربة أن ذلك يجعلك في وضع جيد. إذن ما تقوم به هو حساب بعض الخطوات مقدمًا بصورةٍ واضحة ثم لديك هذه الدالة الثابتة نسبيًّا والتي تُستعمل لمعرفة أيٍّ من الحركات الأولية التي قد تلعبها والتي تنتج أفيد وضعٍ لك. تُستمدّ دوال التقييم هذه من بعض أساتذة الشطرنج البشر الذين يملكون خبرةً كبيرةً في اللعب. يمكن أن يتعلم ذكاء الآلة الإعدادات، مثل الوزن الذي يُنسب لهذه المكونات المختلفة.
نستعمل طرقًا مشابهة لذلك في مجالات أخرى. ففي سياسة عامة اعتيادية وتقليدية قد يفكّر اقتصاديو الرفاه الاجتماعي في الحاجة إلى تعظيم دالة تعبر عن الرفاه الاجتماعي، والتي قد تأخذ شكلًا مشابهًا لهذا.
تقييمالسياسة العامة = (ج1 × الناتج القومي المحلي) + (ج2 × التوظيف) + (ج3 × المساواة) + (ج4 × البيئة) + …
الناتج القومي المحلي؟ نعم، نريد المزيد من الناتج القومي المحلي، إلا أننا نأخذ بعين الاعتبار مقدار البطالة، وربما مقدار المساواة والتفاوت، وبعض العوامل المتعلقة بصحة البيئة. قد لا يكون ما نكتبه هناك معادلًا تمامًا للخير الأخلاقي باعتبارات جوهرية. إلا أننا نعرف أن هذه الأمور تميل لأن تكون جيدةً، أو هذا ما نظنه. هذه مقاربة مفيدة لقيمة حقيقية قد تكون أكثر قابليةً للحل في سياق عمليّ لصنع القرار.
تقييمالخير الأخلاقي = ؟
السؤال الذي يمكن طرحه هنا إذن، هل هناك أمرٌ شبيه بهذا للخير الأخلاقي؟ فأنت ترغب في القيام بأحسن شيء أخلاقيٌّ يمكنك القيام به، إلا أن حساب كل هذا انطلاقًا من الصفر يبدو صعبًا أو مستحيلًا في أية حالة. فأنت بحاجة لمبادئ أكثر ثباتًا والتي يمكنك استخدامها لتقييم مختلف الأشياء التي يمكنك القيام بها. وهنا ننظر إلى نسخة أكثر تقييدًا من النفعية. وقد نتساءل حول ما يمكن إضافته هناك.
تقييمالنفع = ؟
نستطيع هنا أن نلمح مجددًا بعض الأمور التي تحدث عنها باكستيد. إذا مثلنا القدرة — والتي يمكن أن تكون مستوى التقدم الاقتصادي والتطور التكنولوجي، وأشياء من هذا القبيل — على محور الفواصل والزمن على المحور الآخر، فإن وجهة نظري أن الحالة الإنسانية تمثل ما يشبه المنطقة شبه المستقرة على محور القدرة هذا.
قد تتذبذب في الداخل لفترة ما، إلا أنه كلما كبر المقياس الزمني الذي تأخذه بعين الحسبان، زاد احتمال خروجك من تلك المنطقة إما نحو الاتجاه السفلي والتعرض للانقراض — إذا كانت الموارد لديك شحيحةً وأقل من حجم السكان الأدنى القابل للنمو، فإنك ستنقرض (وهذه حالة جاذبة: بمجرد أن تنقرض، فالأرجح أنك ستظل منقرضًا) — أو نحو الاتجاه العلوي: أن نصل إلى النضج التكنولوجي، وقد يكون انطلاق عملية الاستعمار ومستقبل الحياة الذكية الناشئة من الأرض مثل فقاعةٍ آخذة في الاتساع بسرعة عالية تصل إلى أجزاء من سرعة الضوء وينتهي بها المطاف بالوصول إلى جميع الموارد الكونية التي يمكن الوصول إليها من حيث المبدأ من نقطة البداية. وهي كمية محدودة بسبب الثابت الكوني الموجب: يبدو أننا لا نستطيع الوصول إلا إلى قدرٍ منتهٍ من الأشياء. لكن بمجرد أن تبدأ في ذلك، وتبني إمبراطورية عابرةً للمجرات، فيبدو أن ذلك سيظل مستمرًا باحتمالية كبيرةٍ للوصول إلى هذه الرؤية الطبيعية.
يمكننا تعريف مفهوم الخطر الوجودي بكونه الفشل في تحقيق القيمة المحتمل تحصيلها من الوصول إلى المشتركات الكونية، إما بالانقراض أو بالوصول إلى كل المشتركات الكونية مع الفشل في استعمالها لأغراض مفيدة أو شيء من هذا القبيل.
وهذا يشير إلى مبدأ ماكسيبوك (Maxipok) الذي ذكره باكستيد أيضًا: تعظيم احتمال مخرجٍ مقبول.
القيمة العظمى [- احتمال(كارثة وجودية | فعل)]
وهو قاعدة إرشادية بكل وضوح: فليس المقصود منه أن يكون مبدأً أخلاقيًّا صحيحًا في كل الحالات المحتملة. ليست كذلك. وفي الواقع، إذا أردت أن تذهب من المبدأ الأصلي الذي بدأت به إلى أمر قابل للتطبيق عمليًّا، فعليك أن تجعله مشروطًا بعدة افتراضات تجريبية. وهنا تجري المفاضلة: فأنت تريد أقل قدرٍ ممكنٍ من الافتراضات ومع ذلك تمدّدها إلى أبعد حدٍّ ممكن حتى تصبح عمليةً قدر المستطاع. أعتقد أن هذا يقودنا إلى تسويةٍ معقولة. بعبارة أخرى، تصرف حسب السلوك الذي يقلّل إلى أدنى حد مجموع الأخطار الوجودية التي ستواجه البشرية. لن يعطيك الإجابة الصحيحة دومًا، إلا أنه نقطة انطلاق. هناك عدة أمور بالإضافة إلى ما ذكره باكستيد، قد يكون ثمة سيناريوهات أخرى حيث يعطيك هذا إجابةً خاطئةً: إذا كنت تعتقد بوجود خطر وجودي فائق مثل بعض السيناريوهات الصحية، فقد ترغب في زيادة مستوى الأخطار الوجودية قليلًا لتقليل ذلك الخطر الذي لن يكون مجرد خطر وجودي بل خطر وجودي فائق. من الأمور الأخرى التي قد تدرج فيه هي تغيّرات المسار غير المتطرفة والتي تتحول بشكلٍ طفيف.
وفي الوقت الحالي، يمكننا اعتبار مقترح استعمال قاعدة ماكسيبوك كمحاولتنا لتحديد وظيفة القيمة للفاعلين النفعيين ولذا يصيح السؤال المطروح:
تقييمالنفعية ≈ ماكسيبوك
إذا أردت تقليل الخطر الوجودي إلى أقل حد فما الذي يتوجب عليك فعله؟
تقييمماكسيبوك = ؟
ولا يزال ذلك هدفًا عالي المستوى. لا نزال بحاجةٍ لعمل أكبر لتقسيمه إلى مكونات أكثر عملية.
لست متأكدًا من مدى تناسب هذا مع بقية العرض. لدي هذه الشريحة الجميلة من عرض آخر. وهي طريقة مختلفة لقول بعض ما كنت أقوله للتو: فبدلًا من التفكير في الاستدامة كما هو شائع — على أنها ذلك المفهوم الثابت والذي له وضع مستقر علينا محاولة مقاربته، حيث لا نستعمل أي موارد إضافية خلاف ما يتمّ تجديده من خلال البيئة الطبيعة — أظنّ أن علينا التفكير في الاستدامة بطريقة ديناميكية، فبدلًا من الوصول إلى حالة، نحاول الدخول والبقاء في مسار يكون متناهي الاستدامة بمعنى أنه يمكننا احتواءه للسير في هذا المسار إلى أجل غير مسمى فيؤدي بنا إلى اتجاه جيد.
يمكننا تمثيل الأمر بالصاروخ. من الحالات المستقرة للصاروخ حالة وجوده على منصة الإطلاق: يمكنه البقاء هناك لوقتٍ طويل. من الحالات المستقرة الأخرى وجوده في الفضاء، يمكنه الاستمرار في السفر لمدة أطول، ربما، ما لم يصدأ أو يحدث له شيء ما. إلا أنه تجد في الهواء هذا النظام غير المستقر. وأعتقد أنه المكان الذي توجد البشرية فيه الآن: نحن في الهواء. مفهوم الاستدامة الثابت يشير علينا بتخفيض استهلاكنا للوقود إلى أدنى حد لكي نتمكن من البقاء محلقين. وهكذا قد نطيل المدة التي نستطيع البقاء فيها في الوضع الحالي، إلا أنه قد يكون علينا بدلًا من ذلك تعظيم استهلاكنا للوقود لكي نحصل على اندفاعٍ كافٍ لنصل إلى سرعة الإفلات. (وهذا ليس حجةً حرفيةً لحرق الوقود بأقصى ما نستطيع. بل هو مجرد مثال).
ما أريد توضيحه هنا هو أنه للوصول إلى أحسن الظروف نحتاج إلى تكنولوجيا جدّ متقدمة: كي نتمكن من الوصول إلى المشتركات الكونية، ولنصير قادرين على علاج كل الأمراض التي تصيبنا، إلخ. وأعتقد أنه لتحقيق أفضل عالم ممكن، فستحتاج أيضًا إلى قدرٍ كبيرٍ من البصيرة والحكمة، وقدرٍ كبيرٍ من التنسيق كي نتفادى استعمال التكنولوجيا الفائقة لإشعال حربٍ بين بعضنا البعض، وهلمّ جرًّا.
تقييمماكسيبوك = ق (الحكمة، التنسيق، التطور التكنولوجي التفاضلي، …)
وفي النهاية، نحن بحاجةٍ إلى وضعٍ نملك فيه كمياتٍ كبيرةٍ من كلّ متغير من المتغيرات الثلاثة، إلا أن هذا لا يجيب عن سؤال ما الذي نريده أكثر في نظرنا. وقد يكون أننا مثلًا، نريد المزيد من التنسيق والبصيرة قبل الحصول على المزيد من التكنولوجيا من أي نوع. فقبل امتلاكنا لأي تكنولوجيات قوية، نودّ أن نتأكد أولًا من امتلاكنا لقدرٍ كافٍ من السلام والفهم كي لا نستعملها في الحروب، وأن لدينا قدرًا كافيًا من الحكمة والبصيرة بحيث لا نفجر أنفسنا باستعمالها. يبدو بوضوح أن الذكاء الخارق هو مما نريد أن يكون في أي يوتوبيا — فهو يمflثل مستوى عاليًا من التكنولوجيا — إلا أننا قد نرغب في قدرٍ من البصيرة قبل تطويرنا للذكاء الخارق، كي نتمكن من تطويره بالطريقة الصحيحة. قد يفكر أحدهم، كما هو الحال في مثالٍ اختبار الحاسوب، في وجود ميزاتٍ مختلفة يمكن للمرء التفكير فيها بعدِّها مكونات لدالة التقييم هذه للنفعية، أي مبدأ ماكسيبوك. يشير مبدأ التطور التكنولوجي التفاضلي إلى أنه علينا تأخير تطور التكنولوجيات الخطيرة والمضرة — تلك التي تشكل خطرًا وجوديًّا — وتسريع التكنولوجيات التي تقلل الأخطار الوجودية. وهذه محاولتنا الأولى، وهي ليست إجابة نهائية، وقد يفكر شخصٌ ما في أننا نريد الكثير من الحكمة، والكثير من السلام والتنسيق العالميين، أما بخصوص التكنولوجيا فالأمر معقدٌ قليلًا: فقد نرغب في تقدم أسرع في بعض مجالات التكنولوجيا، وتقدّم أبطأ في مجالاتٍ أخرى. أرى أن هذه ثلاثة أنواع واسعةٍ من الأمور التي قد يرغب المرء في إضافتها لدالة التقييم.
اختيار القضية مقابل تحديد العلامة الإرشادية
يدلنا هذا على أن من الأشياء التي يجب أن نفكر فيها بالإضافة إلى التدخلات والقضايا هو أثر مختلف أنواع الأمور. يجب أن يكون التدخل ذا مردودٍ عالٍ، ومجال القضية يجب أن يكون واعدًا بمردودٍ عالٍ. فليس كافيًا أن يكون أحد الأشياء التي تقوم بها خيرًا، عليك التفكير أيضًا في مقدار الخير الذي يمكن أن يُنجز بالمقارنة مع الأمور الأخرى التي يمكنك إنجازها. لا فائدة تذكر من التفكير في القضايا دون التفكير في كل الثمار الدنية التي يمكنك جنيها. ولذا فالكثير من التفكير يكون حول ذلك. إلا أنه حين نتحرك في هذا المستوى العالي، في هذا الارتفاع العالي حيث توجد تلك الاعتبارات الحاسمة، يبدو أنه من الجدير التفكير في إشارة مختلف الإعدادات الأساسية، ربما حينما لا نكون متأكدين من كيفية التأثير فيها. (الإشارة تعني بالأساس إن كنا نريد مزيدًا من الأمر أو قدرًا أقل منه). قد نرغب في وضع الأسئلة التي تتعلق بالاستفادة بين قوسين، لأننا إذا أردنا في البداية توجيه أنفسنا في المشهد فقد نرغب في تأجيل هذا السؤال قليلًا في هذا السياق. إلا أن العلامة الإرشادية الجيدة — وهي إعداد جيد نريد تحديد الأثر من خلاله — ستظهر من بعيد. أي أننا إذا قمنا بتحديد كميةٍ ما بطريقةٍ تبقي الأمر صعبًا علينا في تحديد إن كان أي تدخلٌ سيساهم إيجابًا أو سلبًا على هذه الكمية التي حددناها، فهي — في هذه الحالة — غير مفيدةٍ لنا كعلامة إرشادية. ولذا فإن «تعظيم القيمة المتوقعة» ولتكن مثلًا الكمية التي يستطيعون تحديدها، لهو أمر غير مفيدٍ فعلًا، لأنك كلما أردت فعل أمرٍ محددٍ وجدت نفسك بعيدًا مثل ذي قبل. في المقابل إذا حدّدت بعض الأهداف الملموسة، مثل تعظيم عدد الأشخاص في هذه الغرفة، أو أمورًا من هذا القبيل، فإنه بإمكاننا الآن بكل سهولةٍ معرفة عدد الأشخاص الموجودين، ولدينا بعض المقترحات حول كيفية تعظيمه. ولذا فإن أي إجراء معيّن نفكر فيه قد نرى بسهولةٍ كيف ينعكس على هدف تعظيم عدد الأشخاص في هذه الغرفة. ومع ذلك فقد نشعر بصعوبة في إيجاد حجج قويةٍ لمعرفة إن كان وجود أشخاص أكثر في الغرفة أمرٌ أفضل، أو أن ثمة علاقةً عكسية بين الأمرين. من شأن العلامة الإرشادية الجيدة أن تحقق توازنًا معقولًا بين كونها مرئيةً من بعيد وكونها [أمرًا ملموسًا] بحيث يكون لدينا سبب معقول للتأكد من كونها إشارةً.
بعض العلامات الإرشادية الأولية
توجد هنا بعض العلامات الإرشادية الأولية جدًا: وهي غير نهائية في نظري، وأعتقد أنه قد يكون ثمة خلاف عليها بين مختلف الناس. ولذا فهي مجالات للبحث، أكثر شيء. إلا أنها قد تكون مفيدةً ليعرف المرء كيف يفكر في هذا الأمر.
هل نريد تقدمًا سريعًا في معدّات الحواسيب أو تقدُّمًا أبطأ؟ تخميني الأفضل يقول أننا نريد تقدّمًا أبطأ. وهذا متعلق بالأخطار الناتجة عن تحول الآلات الذكية. الحواسيب الأسرع ستسهل صناعة الذكاء الاصطناعي، مما (أ) سيجعلها تتحقق بوقتٍ أقل على الأرجح، وهو ما يبدو [سيئًا] في حدّ ذاته لأنه يترك لنا وقتًا أقل للتحضير المناسب، الذي نحتاج إليه حاجةً ماسّةً؛ كما أنه (ب) قد يقلّل مستوى المهارة المطلوبة من أجل صناعة الذكاء الاصطناعي: فبامتلاك طاقة حاسوبيةٍ كبيرةٍ قد تكون قادرًا على تصنيع الذكاء الاصطناعي دون أن تعرف فعلًا ما أنت بصدد القيام به؛ في حين لو كنت محدودًا بالمعدّات فإنك ستحتاج إلى المزيد من التبصّر والفهم، ومن الأفضل أن يكون تصنيع الذكاء الاصطناعي ممكنًا من طرف أولئك الذين يملكون قدرًا أكبر من البصيرة والفهم.
وهذه ليست حجةً دامغةً على أية حال لوجود أخطار وجوديةٍ أخرى. إذا كنت تعتقد أننا على وشك الانقراض في أي وقتٍ قريب، لأن ثمة شخصٌ ما قد طور تكنولوجيا النانو، فقد ترغب في محاولة لعب بطاقة الذكاء الاصطناعي في أقرب وقتٍ ممكن. إلا أنه باعتبار كل الأمور فهذا أفضل تخمين لدي. وهذا هو أسلوب التفكير الذي قد يستعمله المرء.
محاكاة كلية للدماغ؟ قمنا بتحليل طويل وكبير لذلك. وعلى وجه الدقة، فلم نحلل إن كنا بحاجة إلى امتلاك محاكاة كلية للدماغ، بل تحدثنا عما إذا كنا نريد المزيد من التمويل للمحاكاة الكلية للدماغ أو أقل، وإن كنا نريد موارد أكثر أو أقل. فهذا أحد المسارات الممكنة للذكاء الآلي الخارق، ولأسباب معقدة فأنا أظن أن الجواب هو «لا»، إلا أنني أكثر ترددًا حول هذا، وقد كان لدينا الكثير من الرؤى المختلفة في فريق البحث فيما يخص الأمر. (وفي فترة المناقشة إذا كان أحدكم مهتمًّا بأحد العناصر، فسنتعمق فيه).
التعزيز البيولوجي المعرفي للبشر؟ أفضل تخميناتي ينص على أننا نريد تقدمًا أسرع في هذا المجال.
أتحدث بتفصيل أكبر عن هذه المواضيع الثلاثة في الكتابa، وعن الذكاء الاصطناعي أيضًا. بالنسبة للذكاء الاصطناعي، أعتقد أننا نريده أن يحدث بسرعة أقل مما كان ليحدث تلقائيًّا.
وهناك سؤال آخر: إذا تمكنت شركة أو مشروع أو فريق من تطوير أول ذكاء اصطناعي ناجح، فما هي المدة التي نريد من ذلك الفريق أن يسبق الفريق الثاني الذي يحاول نفس الأمر؟ في أفضل تخميناتي أعتقد أننا نريد أن يكون متقدمًا بصورةٍ كبيرة، لسنوات عديدة في الحالة المثالية، ليتمكنوا من التمهل وتنفيذ المزيد من تدابير السلامة، بدلًا من أن يتورطوا في سباق تكنولوجيٍّ محتدم.
حلول لمشكلة التحكم في الذكاء الاصطناعي؟ أعتقد أننا نريد تقدمًا أسرع هنا، وهي إحدى مجالات تركيزنا، وبعض أصدقائنا في معهد بحوث ذكاء الآلة متواجدون معنا، ويعملون بجد في الموضوع.
حركة الإيثار الفعال؟ أعتقد أنها تبدو جيدةً من عدة نواحي، جيدةٌ إلى حد كبير، ونرجو نموًّا أسرع وأفضل لها.
السلام والتنسيق العالميين؟ يبدو جيّدًا.
علم الأحياء الاصطناعي؟ أرى أنه يبدو سيئًا، لم نفكر مليًّا في الأمر، ولذا فقد يتغير الحكم، إلا أنه يحتمل أن ينتج خطرٌ وجودي عن ذلك، بالرغم من أنه قد يكون مفيدًا. وبقدر ما قد يمكن ذلك تحسينات في التعزيز المعرفي، بقدر ما قد ينتج عنه مقايضات صعبة.
تكنولوجيا النانو؟ أعتقد أنها تبدو سيئةً: نريد تقدّمًا أبطأ تجاهها.
النمو الاقتصادي؟ يصعب تحديد إشارته، حسب رأيي. وضمن مجتمع من الأشخاص الذين فكروا مليًّا في ذلك، فلا تزال ثمة العديد من التخمينات حول إشارة ذلك.
الوقاية من الكوارث البسيطة والمتوسطة؟ ونقصد هنا الكوارث العالمية التي لا ترقى لاعتبارها مخاطر وجودية. ومجدّدًا، يصعب معرفة إشارة ذلك. ونحن هنا نضع التأثير كله بين قوسين، فلا نعرف حتى إن كنا نريد المزيد من الأمر أو أقل، إن أمكنا الحصول عليه مجانًا، فالأمر غير واضح. وفي الناحية الأخرى فإن الكوارث العالمية ضيقة النطاق قد تنشئ استجابةً مناعية تجعلنا أحسن، بوضع إجراءات سلامة أفضل، وأمور من هذا القبيل، وهو ما قد يحمينا من مخاطر أكبر. وإذا تحدثنا عن الكوارث متوسطة النطاق التي يمكن أن تتسبب في انهيار الحضارة، وهي تلك الكبيرة وفقًا للمعيار الاعتيادية والمتوسطة النطاق بالمقارنة مع الكوارث الوجودية، وهي واسعةٌ في هذا السياق، ومجدّدًا، فالإشارة التي يجدر بنا إرفاقها لها غير واضحة تمامًا: هناك الكثير من العمل الذي يجب إنجازه لاكتشاف ذلك. إذا كان التعافي واردًا جدًّا، فقد يكون لديك تخمينات حول إن كانت الحضارة المتعافية أقدر على تجنب الكوارث الوجودية إن مرت بهذه التجربة أم لا.
ولذا فهذه بعض الإعدادات التي على المرء البدء في التفكير حولها. وقد لا يدرك المرء صعوبة الموضوع، فحتى بعض الإعدادات التي تبدو من وجهة نظر البداهة العادية واضحًا نوعًا ما، إلا أنه يتضح فيما بعد أنها ليست كذلك خصوصًا حين تبدأ بالتفكير حول كيفية ضبط كل الإعدادات معًا. لنفترض أنك إداريّ هنا بأكسفورد، وأنت تعمل في قسم علوم الحاسوب، وأنت ذلك السكرتير. لنفترض أنك وجدت طريقة ليشتغل القسم بكفاءة أعلى قليلًا: أنشأتَ قائمةً بريديةً يمكن للجميع، حين يريدون إشعار الآخرين بإعلان، أن يرسلوه إلى القائمة البريدية بدلًا من كتابة البريد الإلكتروني لكل شخص في الخانة المخصصة لذلك. وهذا أمر مفيدٌ، بل أمر عظيم: لم يكلّفك أي شيءٍ عدا تكلفة الإعداد الأول، وبإمكان الجميع الآن أن ينجزوا أعمالهم بسهولة أكبر. ومن هذا المنظور فليس واضحًا تمامًا إن كان ما فعلته أمر جيّد في الواقع. قد يكون الأمر تغذيةً للذكاء الاصطناعي – وهو الأثر الأبرز من هذا، خلاف بعض الآثار الجانبية البسيطة على النمو الاقتصادي. ومن المحتمل أن تكون جعلت العالم أسوأ متوقعًا أنك أنجزت تحسينًا في الفعالية. ولذا فإن مشروع التفكير في الموضوع يشبه بشكلٍ ما المشروع النيتشوي لإعادة تقييم القيم (Umwertung aller Werte) وهو المشروع الذي لم يحظَ بفرصة إكماله، لأنه جُنّ قبل ذلك.
مجالات محتملة ذات اعتبارات حاسمة إضافية
- تفاوض مغاير للواقع
- المحاكاة
- الإعاقة الدائمة
- سرقة باسكال
- مختلف أنواع الأخلاق التجميعية (الكلية، المتوسطة، السلبية)
- المخاطر المعلوماتية
- الفضائيين
- الأكوان الوليدة
- الأنواع الأخرى من الارتيابات الأخلاقية
- ما يتعلق بنظرية الألعاب
- التحوُّل المتشائم؛ التواضع المعرفي: الأنثروبولوجيا
- الحشرات. الروتينات الفرعية
إذن، هذه بعض أنواع المجالات – لن أعرج على كل واحدة منها، أنا أعطي بعض الأمثلة لأنواع المجالات التي يبدو أنها لا تزال تنطوي اليوم على اعتبارات حاسمة. وليست هذه القائمة شاملةً بأي اعتبار، ويمكننا التفصيل في الحديث عن بعضها. وهي مرتبة بشكلٍ ما من الأكثر عموميةً وتجريدًا وقوةً، إلى الأكثر تحديدًا وفهمًا بالمنطق العادي.
لنختر أي مثال: الحشرات. إذا كنت نفعيًّا كلاسيكيًّا فإن هذا الاعتبار يرد مع الأكثر عاديةً – نحن نتغاضى عن المشتركات الكونية ونفكر حول ما يقع هنا في الأرض فقط. إذا كانت الحشرات واعيةً فقد يكون مقدار الوعي في الحشرات كبيرًا جدًّا لأن عددهم هائل جدًّا. ولذا فقد يكون تأثير سياستنا لرفاه الحشرات أكثر تأثيرًا من سياستنا لرفاه الإنسان أو حيوانات المزارع الصناعية وما ماثلهما. وأنا لا أقول أنها كذلك فعلًا، إلا أنه سؤال غير بديهي وقد يكون له تأثير كبير. أو لنأخذ مثالًا آخر:
الروتينات الفرعية. في بعض أنواع ذكاء الآلات نجد عمليات مثل خوارزميات التعلم المعزز وغيرها من الروتينات الفرعية في مجال الذكاء الاصطناعي، والتي قد يصير لها وضع أخلاقيٌّ بطريقةٍ ما. فقد يكون ثمة عدد كبير جدًّا من مشغلات هذه الروتينات الفرعية، وإذا اتضح أن بعض هذه الأشياء مهمةٌ لأمر ما، فإن الأرقام ستهيمن مجدّدًا.
بعض العلاجات الجزئية
كل واحدة من هذه العلاجات تحتاج إلى ورشة عمل كاملة، ولذا فإننا لا نستطيع تناولها. لكن ما الذي قد يفعله المرء إذا شكّ في وجود هذه الاعتبارات الحاسمة، وبعضها لم يكتشف بعد؟ لا أملك إجابةً واضحة لهذا. إليك بعض الأمور المعقولة التي ترد للذهن والتي قد يرغب المرء في إنجازها قليلًا:
- لا تتهور، خاصةً فيما لا رجعة فيه.
- استثمر من أجل المزيد من التحليل لتجد وتُجمّع الاعتبارات الحاسمة المفقودة. ولهذا فأنا أقوم بهذا النوع من الأعمال، كما أن بقيتنا منخرط في هذا المشروع.
- ضع في الحسبان أن تغيّرات القيمة المتوقعة أصغر مما تبدو عادةً. إذا كنت نفعيًّا، ولنقل أنك تفكر في حجة جديدة لها استلزام جذريٌّ لما يجدر القيام به، وقد يكون الانطباع الأول تغيير توقعاتك لجدوى مختلف السياسات العملية على ضوء هذه الرؤية الجديدة. إلا أنك حين تفكر في حقيقة بروز اعتبارات حاسمةٍ كل فترة، فقد تصل إلى أنه لا يزال يتعين عليك تغيير توقعاتك للجدوى، لكن ليس بنفس القدر الذي بدا لك أول مرة. عليك التفكير في هذا على المستوى النقدي.
- ضع في حسبانك الارتياب الأخلاقي الجوهري. إذا وسعنا نظرنا كي لا يقصر على النفعية، بل يمتد إلى أمور من منظور معياري أشمل وغير مقيد، فإننا نجد أن النموذج البرلماني لاحتساب الارتياب الأخلاقي يبدو فعّالًا لحدٍّ معقول. وتنص الفكرة على أنك إذا لم تكن متيقنا من أي النظريات الأخلاقية هي الصحيحة فعليك أن ترفق احتمالاتٍ لكل نظرية وتخيّل برلمانًا حيث ترسل كل نظرية مندوبين عنها بعدد يناسب احتماليتها. ومن ثم يتناقش مختلف مندوبي النظريات الأخلاقية في هذا البرلمان الخيالي ويتفاوضون ويعملون على معرفة ما يجب فعله. ومن ثم ينبغي عليك أن تنفذ ما يقرّره برلمانك الأخلاقي، كنوعٍ من التمثيل. الفكرة هنا أنه عند تساوي الأمور، فإنه كلما كان للنظرية الأخلاقية احتمالية أكبر كان قولها فاصلًا في تحديد أفعالك، إلا أنه قد يكون ثمة تداولات بين مختلف النظريات الأخلاقية، وأعتقد أن توبي أورد تحدث عن هذا في عرضه. هذا مثال لكيفية إدراك هذه الميزات. وقد لا تكون هذه الطريقة صحيحةً ومضبوطةً للتفكير في الارتياب الأخلاقي الجوهري، إلا أنها تبدو قريبةً من الصحة في العديد من الحالات، وتبدو فعالةً بمعنى أنها لا تؤدي إلى مخرجات مجنونةٍ تمامًا.
- ركّز أكثر على المدى القريب والأهداف الملائمة. وبقدر ما يشعر المرء باليأس من الوصول لأي نظرة متناسقة حول تعظيم الرفاه الإجمالي في السياق الكوني، بقدر ما ظهرت أصوات فعالةٌ للأمور الأخرى التي قد يولي لها وزنًا. إذا كنت أنويًّا وإيثاريًّا في نفس الوقت، ثم امتطى المكون الإيثاري فيك سلم المداولات، فقد يتوجب عليك أن تنقل أكثر إلى الجزء الأنوي، حتى وما لم تصل إلى نوع من الاستقرار في مداولاتك الإيثارية.
- ركّز على تطوير قدرتنا كحضارة على التداول الحكيم لهذا النوع من الأمور. أي أن نبني قدرتنا بدلًا من السعي وراء أهداف محددة، ونعني بالقدرة في هذا السياق أنه قد يكون علينا أن نقلل من تركيزنا على السلطة ونركّز أكثر على الميل لاستخدام السلطات أيضًا. لا يزال الأمر غامضًا وفضفاضًا، إلا أنه يبدو أن في هذا الاتجاه أمرًا وجيهًا ومرغوبًا. إلا أنه قد يظهر لك اعتبار حاسم يبين لنا خطأنا في فعل هذا، إلا أنه لا يزال يبدو تخمينًا معقولًا.
هذا كل ما في الأمر، وشكرًا.
هذا العمل مرخص بموجب رخصة المشاع الإبداعي 4.0 الدولية.