لماذا تُعدّ مخاطر المعاناة الأسوء على الإطلاق، وكيف نتجنبها؟
المنضمون لحركة الإحسان الفعال الذين يركزون على تشكيل المستقبل البعيد يواجهون خيارًا بين عدة أنواع مختلفة من التدخلات. ومن بين هذه التدخلات نجد أن اهتمامهم تركز على الجهود الساعية لتقليل خطر انقراض البشر. يوضّح ماكس دانيال (Max Daniel) في هذا الخطاب أننا قد نرغب في استكمال تلك الجهود بتدخلات تهدف إلى منع سيناريوهات مستقبلية ممقوتة (مخاطر المعاناة)، وهذا سبب آخر -يضاف لمصادر الأخطار الوجودية السابق ذكرها- للتركيز على أخطار الذكاء الاصطناعي.
سأتحدث عن المخاطر ذات نطاق كبيرٍ من المعاناة في المستقبل البعيد (أو ما يسمّى بمخاطر المعاناة S-Risks)، ولأوضح ماهية مخاطر المعاناة، أودّ أن أبدأ بقصة خيالية من المسلسل البريطاني المرآة السوداء (Black Mirror)، وقد يكون بعضكم شاهده.
إذن، في هذا السيناريو المتخيل، يمكن تحميل العقول البشرية إلى بيئات افتراضية. وبهذه الطريقة يمكن تخزين الكائنات الواعية بنجاح في أجهزة حاسوبية صغيرة، مثل الأداة البيضاوية الصغيرة الظاهرة على الشاشة.
وخلف الجهاز الحاسوبي نرى مات. تتلخص مهمة مات في أولئك البشر الافتراضيين على أنهم مساعدون افتراضيون. إلا أن متطلبات هذه الوظيفة ليست مما قد يرغب به الجميع، فمن بين مهامه الوظيفية إقناع هذه الحزم البشرية على الامتثال لملاكها البشر. ونجد في هذه اللحظة، أن الحزمة البشرية جريتا، الظاهرة أمامكم، لا ترغب في فعل ذلك. لم تكن متحمسةً لفكرة العمل كمساعدةٍ افتراضيَّة لبقية حياتها.
ومن أجل كسر إرادتها وحملها على الامتثال، زاد مات من وتيرة مرور الوقت على جريتا. ولذا حين ينتظر مات بضع دقائق، ستضطر جريتا في ذلك الوقت تحمّل عدة أشهرٍ من الحبس الانفرادي.
إذن، أرجو أن توافقوني على أن هذا السيناريو ممقوتٌ بشدة. ولحسن الحظ طبعًا، من غير المرجح إلى حدٍّ بعيد تحقّق هذا السيناريو بالتحديد. وبشكل عام، من غير المحتمل حدوث أي سيناريو نتخيله بالشكل الدقيق الذي نتصوره. وليس هذا الغرض من كلامي. ومع ذلك، فإني أحاجج أن ثمة مجموعةً واسعةً من السيناريوهات التي قد نواجه فيها سيناريوهات أخطارٍ مشابهة لهذه أو أخطر منه حتى.
1.
وسأسميها مخاطر معاناة. وسأبدأ بشرح ماهية مخاطر المعاناة، ومقارنتها مع الأخطار الوجودية الأشهر أو ما يطلق عليه X-risks. وفي الجزء الثاني من المحاضرة، سأتحدث قليلًا عن سبب رغبتنا كأعضاء في حركة الإحسان الفعال في منع مخاطر المعاناة تلك وكيفية القيام بذلك. ولذا، فإني أريد تقديم مخاطر المعاناة بكونها مجموعةً متفرّعةً عن المخاطر الوجودية المعروفة.
ولعلكم تذكرون، أن نيك بوستروم (Nick Bostrom) قد قام بتعريف الأخطار الوجودية على أنها تلك الأخطار التي لها مخرجات سلبيةٍ قد تدمّر الحياة الأرضية الذكية أو تحدّ من إمكاناتها على الأقل حدًّا جذريًّا وأبديًّا. كما قد اقترح بوستروم طريقةً لفهم اختلاف هذه الأخطار عن غيرها من أنواع المخاطر، وذلك من خلال النظر إلى سوء عواقبها عبر بُعدين هما نطاق العواقب وشدَّتها. وقد أعدت رسم إحدى الأشكال البيانية الأساسية لبوستروم هنا.
على المحور الأفقي، يمكنكم رؤية نطاق الخطر. وهذا يعني عدد الأفراد المتأثرين سلبًا حين تحقّق الخطر؟ هل هو عدد صغير من الأفراد؟ هل هم سكَّان منطقة معينةً أو كل فردٍ حيٍّ على وجه الأرض؟ أو في أسوء سيناريو، كلَّ شخصٍ حيٍّ على وجه الأرض بالإضافة لبعض أو جميع الأجيال المستقبلية؟ والبعد الآخر المتعلق بالخطر هو الشِدَّة. وهنا نطرح سؤالًا يتعلق بكل فردٍ متأثر: ما مدى سوء العواقب عليه؟ خذ مثال حادثِ سيارةٍ مميت. إذا حدث ذلك فإنه أمرٌ شديد السوء. قد يؤدي إلى الوفاة، وبالتالي فإن شدَّته عالية ، إلا أن نطاقه يبقى شخصيًّا، لأنه لا يتأثر في أي حادث سيارةٍ منفردٍ إلا عددٌ قليل من الأفراد. ومع ذلك فثمة أخطارًا قد تكون أكثر شدةً. فكّر مثلًا في الإنتاج الحيواني الصناعي. نعتقد غالبًا، أن حياة الدجاجة في أقفاص البطاريات سيئة للغاية إلى درجة أنه من الأفضل ألا توجد هذه الدجاجات أساسًا. ولهذا نعتقد أنه من الجيد أن معظم الطعام في هذه المحاضرة نباتي. كما يمكننا النظر إلى الأمر بطريقةٍ أخرى، أعتقد أن العديد منكم يتفق معي في أن فكرة العيش معذّبًا لبقية حياتك أسوأ من حادث سيارة مميت. ولهذا فقد توجد ثمة أخطارٌ أكثر شدَّة من المخاطر المميتة كحادث السيارة مثلًا. ونجد الآن بعض الأخطار بنفس سوء الإنتاج الحيواني الصناعي من ناحية الشدة وتتعلَّق بعواقب أسوء من العدم حتى، إلا أنها قد تكون أعظم نطاقًا من حادث سيارة مميت أو حتى من الإنتاج الحيواني الصناعي. والتي يحتمل أن تؤثر في عددٍ كبير من الكائنات على مدى المستقبل البعيد وعلى مدار الكون كله.
هذا يفسر سبب ادعائي في عنوان المحاضرة أن مخاطر المعاناة هي أسوأ المخاطر الوجودية. لقد قلت هذا لأنني عرََّّفتها للتو على أنها أخطار بعواقب ذات أسوء شدّة ممكنة وأسوء نطاقٍ ممكن. يمكننا فهم الموضوع واختلافه عن بقية أنواع الأخطار الوجودية من خلال التقريب إلى الزاوية العلوية اليمنى من الشكل البياني الذي عرضته سابقًا.
قد تؤثِّر هذه المخاطر في أقل تقدير على كل فردٍ حي على الأرض بالإضافة إلى جميع الأجيال القادمة. ولهذا سماها بوستروم مخاطر ذات نطاق جيليٍّ عام، أو مخاطر ساحقةٍ أيضًا والتي يمكننا فهمها تقريبَا على أنها أنه إزالة كل شيءٍ ذي قيمة لدى أولئك الأفراد. ومن بين الأمثلة المركزية لهذه المخاطر الوجودية نجد مخاطر الانقراض. وقد تلقت هذه المخاطر اهتمامًا كافيًا في مجتمع الإحسان الفعال. فلديها نطاقٌ جيليّ عام لأنها ستؤثر على كل الأحياء وستمحي بقية المستقبل، وهي ساحقة لأنها تزيل كل شيء ذي قيمة. إلا أن مخاطر المعاناة تمثل نوعًا آخر من المخاطر الوجودية، كما أنها مضمنةٌ مفاهيميًّا ضمن المخاطر الوجودية. وهي مخاطر أسوأ من الانقراض لأنها تحوي الكثير مما نرفضه من قبيل المعاناة القسرية، وقد تصل إلى نطاق أوسع لأنها قد تؤثر على أجزاء هامة من الكون.
قد تتذكر الآن قصة جريتا التي أوردتها في البداية، وتتخيل أنها تعاني من الحبس الانفرادي طوال حياتها، والأمر لا يتعلق بحزمةٍ واحدةٍ فقط بل تعدادًا واسعًا من الحزم على مدار الكون. أو يمكنك تخيل شيءٍ مشابهٍ للإنتاج الحيواني الصناعي بنطاق أوسع بكثير، والذي يُجسّد لسببٍ ما على مدار المجرة بأكملها. وبهذا أكون شرحت المعنى المفاهيمي لمخاطر المعاناة. فهي مخاطر لمعاناة قسرية شديدة على المستوى الكوني ولذا فهي تتجاوز القدر الإجمالي للمعاناة الذي رأيناه في الأرض حتى وقتنا الحالي. وهذا يجعلها فئة فرعيّةً من المخاطر الوجودية إلا أنها مستقلة عن المخاطر الوجودية المعروفة. لم أقم حتى الآن بشيءٍ، سوى التعريف بمصطلحٍ مفاهيمي. ولفت الانتباه إلى احتمالٍ من نوعٍ ما.
2.
إلا أن ما قد يهمنا أكثر كأفراد في حركة الإحسان الفعال هو إن كان بإمكاننا التقليل من مخاطر المعاناة، وإذا كان ذلك ممكنًا فهل يتوجّب علينا فعله. وعلينا التأكد من فهمنا للسؤال أيضًا. لأن كل الرؤى الأخلاقية المعقولة تتفق على كون المعاناة القسرية الشديدة أمرٌ سيّء. ولذا آمل أن تتفقوا معي جميعًا على أن تقليل المخاطر الوجودية أمرٌ خيّر. وبالطبع، سبب وجودكم هنا هو اهتمامكم بالإحسان الفعال. وهذا يعني أنكم لا تكتفون بمجرد معرفة إمكانية وجود خيرٍ لفعله أو مجرد تحديد أقصى قدرٍ ممكن من الخير. ندرك أنَّ لفعل الخير تكلفة بديلةً ونريد فعلًا تركيز أوقاتنا وأموالنا على أكبر أثرٍ يمكننا إحداثه. ولذا فإن السؤال الفعلي هنا، والسؤال الذي أود منكم مناقشته، هو هل يمكن للتقليل من مخاطر المعاناة أن يستوفي هذه المعايير العليا؟ هل يمكن اعتبار العمل على تقليل مخاطر المعاناة استغلالًا جيّدًا للوقت والمال على الأقل بالنسبة لبعضنا مقارنةً بالأمور الأخرى التي قد تكون خيّرةً على نحوٍ ما؟ وهذا السؤال –بطبيعة الحال- صعبٌ للغاية، ولن أتمكن من الإجابة عليه اليوم إجابةَ كافيةً وافية. ولأبين مقدار صعوبة هذا السؤال ولأزيل عن الأذهان اللبس عن الحجج التي لا أدعيها هنا، سأبدأ بعرض حجةٍ معيبة، حجةٍ لا تجدي نفعًا عند الحديث عن تقليل مخاطر المعاناة. ولذا فإن هذه الحجة ستكون على النحو الآتي تقريبًا.
المقدمة الأولى: أفضل شيءٍ يمكن فعله هو منع أسوأ المخاطر.
المقدمة الثانية: مخاطر المعاناة هي –بالتعريف- أسوأ المخاطر
تيجة: أفضل شيءٍ يمكن فعله هو منع مخاطر المعاناة.
والآن دعونا نتخلَّص من أحد مكامن اللبس المتعلقة بالمقدمة الأولى. يمكن فهم المقدمة الأولى بطريقة تجعلها أساسًا من أساسات نظرتك الأخلاقية للعالم.
قد تعتقد أنه مهما كان ما تتوقع حدوثه في المستقبل، فإن لك بعض الأسباب الأخلاقية الإضافية للتركيز على منع أسوأ الاحتمالات. شكلٌ من أشكال مبدأ الحد الأقصى أو ربما تطبيق الأولويات على المستقبل البعيد. إلا أنني لن أتحدث عن هذا المعنى اليوم. ولذا فإذا كانت نظرتك الأخلاقية تتضمن أحد هذه العناصر، فأعتقد أنها تُمدك بأسباب إضافية للتركيز على مخاطر المعاناة، إلا أنني لن أتحدث عن هذا. وإنَّما سأتحدث عن وجود المزيد من المعايير حين يتعلق الموضوع بتحديد أحسن فعل أخلاقي، أكثر من مجرد بُعدين من أبعاد المخاطر التي رأيناها حتى الآن.
طيب، فلم ننظر حتى الآن إلا إلى حالة تحقّق الخطر، إلى أيِّ مدى قد يكون المخرج سيئًا من ناحية الشدة والنطاق. وبهذا المعنى تكون المخاطر الوجودية هي الأسوء، إلا أنني أعتقد أن المقدمة الأولى ليست صحيحةً تمامًا بهذا المعنى. لأننا حين نقرر تحديد أفضل شيءٍ لفعله، فثمة المزيد من المعايير المناسبة والعديد منكم على درايةٍ جيدة بتلك المعايير لأنها تتلقى الكثير من الاهتمام في مجتمع الإحسان الفعال. إذن، ومن أجل رؤية ما إن كان تقليل مخاطر المعاناة هو أفضل ما يمكننا فعله، فعلينا أن ننظر إلى مدى أرجحية وقوع مخاطر المعاناة هذه، ومدى سهولة تقليلها، وبعبارة أخرى، مدى تأثير وتجاهل هذا المسعى. هل ثمة الكثير من الأفراد والمنظمات الذين يعملون عليها؟ ما مقدار الاهتمام التي تحظى به بالفعل؟ ومن الواضح أنَّ هذه المعايير ذات صلةٍ ببعضها. حتى وإن كنت من أنصار الأولويَّات ، وكنت تعتقد بوجود الكثير من الأسباب للتركيز على أسوء الاحتمالات، فإن كان احتمالية وقوعها صفرًا أو لم يكن بالإمكان فعل أي شيءٍ لتخفيفها، فلا معنى لمحاولة حلها. ولذا فعلينا توضيح بعض الأمور بخصوص احتمالية، ومدى تأثير وتجاهل هذه المخاطر، حيث سأعرض بعض الأفكار الأولية حول هذه المخاطر في بقية المحاضرة. فمثلًا ماذا عن احتمالية مخاطر المعاناة هذه؟ ما سأحاجج حوله هنا هو أن مخاطر المعاناة ليست أقل احتماليَّةً من مخاطر الانقراض بسبب ذكاء اصطناعي خارق، وهو صنف من المخاطر يتناوله قسمٌ من المجتمع –على الأقل- بجدية ويعتقدون بوجوب التصرّف حياله.
سأشرح هنا سبب اعتقادي بصواب هذا الرأي، وسأعالج نوعين من الاعتراضات التي قد تتشكل لديكم. أي الأسباب التي تجعلنا نعتقد أنه من غير المرجح التركيز على هذه المخاطر. حيث يتمحور الاعتراض الأول حول كون مخاطر المعاناة هذه سخيفة جدًا. فقد يخطر في ذهنك أننا لا نستطيع إرسال الناس إلى المريخ حتى، فلم قد نقلق من احتمالية المعاناة على نطاق كوني.
وفي الحقيقة فقد واجهتني هذه الأفكار عندما كانت استجابتي حدسيةً ومباشرةً، حيث كنت متشكّكًا بعض الشيء،لكونه أمرًا لا يتوجّب علي التركيز فيه. إلا أنني أعتقد بوجوب الحذر عند فحص مثل هذه التخمينات البديهية، وأعتقد أن العديد منكم يدرك وجود مجال بحثيٍّ كبير في علم النفس حول نهج الاستدلال والتحيز، والذي يشير إلى أن التقييمات الحدسية للبشر لاحتمالية وقوع الأشياء غالبًا ما تكون مدفوعةً بسهولة استذكارنا لمثال نموذجيّ مشابهٍ للسيناريو الذي ننظر فيه. أما فيما يتعلق بما لم يحدث أو ما لا نملك له أي سوابق تاريخية، فهذا يقودنا بديهيًّا ونظاميًّا للتقليل من شأن احتمالية وقوعه وهو ما يعرف بدليل السخافة. ولذا فأعتقد أن علينا عدم الانجرار وراء هذه الاستجابة الحدسية بل علينا فحصها فعليًّا. والآن ما الذي يمكننا قوله بخصوص احتمالية مخاطر المعاناة هذه.
إذا تأملنا في أفضل نظرياتنا العلمية وما يقوله الخبراء حول ما سيكشفه المستقبل لنا فأعتقد أن بإمكاننا تحديد اثنتين من التطورات التكنولوجية المستساغة لحد ما والتي قد تؤدي بصفةٍ معقولةٍ إلى تحقيق مخاطر المعاناة. ولا أحاول القول أنهما الاحتمالين الوحيدين، فقد يكون ثمة عوامل مجهولة لا يمكننا التنبؤ بها والتي قد تؤدي إلى مثل مخاطر المعاناة هذه، إلا أن ثمة بعض المسالك المعلومة التي قد تؤدي بنا إلى منقطة مخاطر المعاناة. وهما الوعي الاصطناعي والذكاء الاصطناعي الخارق. فالوعي الاصطناعي يشير ببساطة إلى القدرة على امتلاك الخبرة الذاتية -وبالأخص القدرة على المعاناة- ليست مقتصرةً على الحيوانات البيولوجية فقط من ناحية المبدأ. فقد يكون ثمة أنواعٌ جديدة من الكائنات، قد تكون برامج حاسوبيةً مخزنة على أجهزة السيليكون متعلقة بالأفراد الذين نهتم لمعاناتهم أيضًا. والأمر في الواقع غير محسوم تمامًا، قد تقول بعض وجهات النظر المعاصرة وفلسفة العقل أن الوعي الاصطناعي مستحيل من ناحية المبدأ. وبالرغم من ذلك فإنه يبدو احتمالًا مفاهيميًّا علينا الاهتمام به. أما مدى احتمالية وقوعه، فإن هذا أقل وضوحًا، إلا أنه بإمكاننا هنا أيضًا أن نحدد مسارًا تكنولوجيًّا قد يؤدي إلى الوعي الاصطناعي وهذه بالضبط الفكرة الكامنة وراء محاكاة الدماغ. فالأساس هنا هو فهم الدماغ البشري بتفاصيل كافية كي نكون قادرين على صناعة محاكاة حاسوبية مماثلة له وظيفيًّا. لا يزال من غير المؤكد إن كنا قادرين على فعل ذلك، إلا أن بعض الباحثين نظروا في الأمر ورسموا الخطوط العريضة لخارطة طريق مفصلة لهذه التكنولوجيا. ولذا، فقد حددوا بعض المعالم الملموسة في الطريق وبعض جوانب الغموض، وخلصوا إلى أهمية أخذه بعين الاعتبار حين التفكير في المستقبل، ولذا فأنا أزعم أن ثمة احتمالًا تكنولوجيًّا غير مستبعدٍ تمامًا بأن نصل إلى الوعي الاصطناعي.
لن أتحدث كثيرًا عن التطور الثاني، وهو الذكاء الاصطناعي الخارق، وذلك لأنه يتلقى بالفعل الكثير من الاهتمام في مجتمع الإحسان الفعال. وإن لم تكن مطّلعًا على المخاوف المتعلقة بالذكاء الاصطناعي الخارق فأرشح لك كتاب نيك بوستروم الرائع «الذكاء الخارق» (Superintelligence) وسأضيف فقط أن من المفترض أن يتيح الذكاء الاصطناعي الخارق العديد من القدرات التكنولوجية التي قد نحتاجها للوصول إلى منطقة مخاطر المعاناة. وعلى سبيل المثال فيمكن تصوّر الذكاء الاصطناعي الخارق قادرًا على استعمار الفضاء ونشر الكائنات الواعية إلى أجزاء أكبر من الكون. كما أريد إضافة بعض السيناريوهات التي يمكن أن تسبِّب مخاطر معاناة عند دمج الذكاء الاصطناعي الخارق والواعي معًا، وقد ناقشها بوستروم في كتابه الذكاء الاصطناعي الخارق وفي أماكن أخرى باصطلاح «الجريمة العقلية». ولذا فيمكنك الاطلاع على الموضوع إن كنت مهتمًّا بالأفكار المماثلة.
إذن، عند النظر إلى ما يمكننا قوله عن المستقبل، فسيكون من الخطأ القول أن مخاطر المعاناة غير محتملة لدرجة أن علينا عدم الاهتمام بها. إلا أنك قد تعترض باعتراض جديد. فقد تقتنع من ناحية القدرات التكنولوجية بأنَّه لا يمكننا الجزم بعدم أرجحية مخاطر المعاناة هذه إلا أنك قد ترى بأن قدرًا كبيرًا من المعاناة يبدو ناتجًا عن مخرج محدد فحتى لو كانت لدينا إمكانياتٍ تكنولوجية أكبر فيبدو أنه من غير المحتمل أن يقع ذلك المخرج السيء على وجه التحديد. فقد تعتقد بعد كل هذا أن هذا المخرج يتطلب عامل الشر أو نوعا من النية الشريرة التي تحاول جاهدةً التأكد من حصولنا على هذا القدر الهائل من المعاناة. وأتفق معكم في أن الأمر يبدو غير مرجّح إلا أنه بعد التفكير في الأمر مليًّا صرت أعتقد أن هذا السبيل ليس إلا سبيلًا واحدًا وهو السبيل الأقل معقوليةً للوصول إلى منطقة مخاطر المعاناة. إلا أن ثمة سبيلين آخرين أود الحديث عنهما.
أول مخاطر المعاناة هذه قد يتحقق عرضًا. ولذا فمن أصناف سيناريوهات ما قد يحدث هو التالي. تخيّل أن أول كائن واعٍ اصطناعيًّا نتمكن من صناعته لا يكون متطورًا مثل الأدمغة البشرية الكاملة بل قد يكون أشبه بالحيوانات غير البشرية، وفي هذه الحالة قد ننشئ كائناتٍ واعية اصطناعيا مع قدرة على المعاناة إلا أن لها قدرةً محدودة على التواصل معنا وتبليغنا بمعاناتها. وفي الحالة القصوى قد ننشئ كائنات واعية وقادرةً على المعاناة إلا أننا نتغاضى عن معاناتها لاستحالة التواصل معها بسهولة.
السيناريو الثاني الذي يمكن أن تتحقق فيه مخاطر المعاناة دون وجود نية شريرة هو أحجية تعظيم مشابك الورق، والذي يصوّر لنا ما سيحدث لو تمكنا من إنشاء ذكاء اصطناعي خارق وقويٍّ للغاية والذي يسعى لهدف غير مهم. أي هدف غير متوافق مع قيمنا، كما أنه ليس هدفًا شريرًا. حيث يزعم نيك بوستروم والعديد غيره أن مُعظِّم مشابك الورق قد يؤدي إلى انقراض البشرية، فعلى سبيل المثال قد يحوّل الكرة الأرضية بأكملها وكل المادة حولها إلى مشابك ورق لأنه لا يريد فعل شيءٍ سوى زيادة عدد مشابك الورق دون أن يأخذ بالحسبان نجاة البشر. إلا أنها مجرد خطوة صغيرة مقلقة، لكن ماذا لو قرر معظّم مشابك الورق هذا تشغيل أجهزة محاكاة واعيةٍ مثلًا لأغراض علمية، من أجل فهم طريقة تعظيم إنتاج مشابك الورق، أو ربما على غرار الطريقة التي تخدم بها معاناتنا إحدى أنواع الوظائف التطورية، قد ينشئ معظم مشابك الورق نوعًا من البرامج الفرعية الواعية أو العمال مصطنعي الوعي لينظر أي معاناةٍ ستكون أفيد وأكثر فعاليةً في تعظيم إنتاج مشابك الورق. إذن، نحتاج الآن إلى بضع أمثلة وافتراضات أخرى فقط لنرى أن السيناريوهات التي تتلقى بالفعل الكثير من الاهتمام قد لا تؤدي إلى انقراض البشرية فقط بل قد تؤدي إلى مخرجات أسوء. وأخيرًا لنفهم السبيل الثالث، فمخاطر المعاناة قد تتحقق نتيجةً لصراعٍ ما. ولاحظوا أن الأمر عادةً ما يكون هكذا حين يكون ثمة العديد من العناصر المتنافسة على نصيبٍ مشترك من الموارد فهذا يحفّز بعض الحركيات الكامنة السلبية التي قد تؤدي إلى مخرجات سيئة حتى إن لم يكن أيًّا من العناصر المتورطة راغبًا في تلك المخرجات السيئة، فهم لا يلجؤون إليها إلا للتفوق على بقية العناصر. انظر على سبيل المثال إلى معظم الحروب، فنادرًا ما ترغب الدول التي تخوضها في رؤية المعاناة وسفك الدماء المترتب عنها، ومع ذلك فإن الحروب تحدث لتعزيز المصالح الاستراتيجية للدول المتورطة.
ولذا أعتقد أننا إذا فحصنا الوضعية التي نحن فيها فحصًا جوهريًّا، فسنصل إلى استنتاج أننا إذا راعينا بجديةٍ الكثير من الاعتبارات الموجهة –والتي يناقشها المجتمع على نطاقٍ واسع بالفعل من قبيل مخاطر الذكاء الاصطناعي الخارق- فلن نحتاج إلا لبضعة افتراضات إضافية لنبرر المخاوف المتعلقة بمخاطر المعاناة، ولا يبدو أننا نحتاج لاختراع تكنولوجيا جديدة كليةً أو افتراض بعض النوايا غير المعقولة أو النادرة من قبيل السادية أو الكره لإثبات المخاوف المتعلقة بمخاطر المعاناة. ولهذا قلت أن مخاطر المعاناة ليست أقل احتمالًا من المخاطر الوجودية من قبيل مخاطر الذكاء الاصطناعي الخارق. والآن كما قلت سابقًا فإن احتمالية وجود مخاطر المعاناة ليست العنصر الوحيد الذي علينا معالجته، فعلينا أن نتساءل أيضًا عن مدى سهولة خفض مخاطر المعاناة تلك. وفي الواقع فأنا أعتقد أن هذه المهمة صعبةٌ نوعًا ما. فلم نتمكن حتى الآن من إيجاد حلٍّ سحريٍّ، إلا أنني أدّعي أن خفض مخاطر المعاناة أمرٌ قابلٌ للتأثير على الأقل في وقتنا الحالي، وما يدعم ذلك هو كوننا نقوم بخفض تلك المخاطر بالفعل، إلى حدٍّ ما. ومثلما كنت أقول، فمن سيناريوهات تحقق مخاطر المعاناة هو أن يخرج الذكاء الاصطناعي الخارق عن نطاق السيطرة.
لهذا السبب تكون بعض الأعمال التقنية حول حماية الذكاء الاصطناعي وكذا سياسيات الذكاء الاصطناعي قد نجحت في تخفيض مخاطر المعاناة تخفيضًا فعالًا. ولأعطيكم مثالًا على هذا فقد قلت أننا متخوفون من نشأة مخاطر المعاناة بسبب سلوكات إستراتيجية لبعض عناصر الذكاء الاصطناعي كجزءِ من الصراع. حيث تقلّل بعض أعمال سياسات الذكاء الاصطناعي من احتمالية سيناريوهات الذكاء الاصطناعي متعدد الأقطاب وترجّح سيناريوهات الذكاء الاصطناعي أحادي القطب مع منافسة أقل، وهذا قد يساهم في تقليل آثار مخاطر المعاناة بفعالية. والأمر مشابه في بعض أعمال حماية الذكاء الاصطناعي التقنية. ومع ذلك، يبدو لي أن الكثير من التدخلات الحالية تقلل من مخاطر المعاناة عرضيًّا، بمعنى أنها ليست مصممة للتقليل من مخاطر المعاناة، وقد تكون ثمة مشكلات فرعية ضمن الحماية التقنية للذكاء الاصطناعي والتي قد تكون فعالةً في تقليل مخاطر المعاناة على وجه التحديد، وهي لا تحظى بالاهتمام الكافي الآن. وعلى سبيل المثال سأعطيكم أحجيةً قد يصعب إدراكها بهذا الشكل تحديدًا إلا أنها تصوّر ما قد يحدث. تخيل فكرة تحقيق هدف الذكاء الاصطناعي غير المتحكم فيه، بشرط فشل جهودنا في حل مشكلة التحكم مع التأكد أن الذكاء الاصطناعي في تلك الحالة لا يُصنّع في ذلك السيناريو أي محاكاة واعيةٍ أخرى أو أية برامج فرعية واعية. إذا تمكنا من حل هذا المشكل من خلال العمل على حماية الذكاء الاصطناعي التقنية فيمكننا القول أننا قلّلنا من مخاطر المعاناة على وجه التحديد.
وثمة بالطبع العديد من التدخلات الأخرى الأكثر اتساعًا والتي لا تهدف إلى التأثير مباشرةً على بعض أنواع الأدوات المؤثرة مباشرةً على المستقبل البعيد، إلا أنها ستكون مؤثرة في تقليل مخاطر المعاناة تأثيرًا غير مباشر. وعلى سبيل المثال قد نفكّر في أن تقوية التنسيق العالمي سيمكِّننا في نقطةٍ ما من منع السباق نحو أسلحة الذكاء الاصطناعي الذي قد يؤدي إلى بعض الحركيات الضمنية التي قد توصلنا إلى منطقة مخاطر المعاناة. وعلى نفس المنوال، ولأن الوعي الاصطناعي مصدر قلق كبيرٍ عند التفكير في مخاطر المعاناة فقد نعتقد أن لتوسيع الدائرة الأخلاقية ولترجيح اعتبار صناع القرار المستقبليين لمسألة الكائنات الواعية اصطناعيا؛ أثرًا إيجابيًّا في تقليل مخاطر المعاناة. ومع ذلك، أعتقد أنه من المنصف القول أننا لا نعرف الآن الطرق المثلى لتقليل مخاطر المعاناة. من الطرق الممكنة لفعل ذلك أننا إذا شككنا في وجود بعض المغانم القريبة فحينها سنقرر الانتقال لما هو أبعد بإجراء بحوث حول أفضل الطرق لتقليل مخاطر المعاناة تلك، وفي الواقع فهذا هو الجزء الأكبر مما نفعله في معهد البحوث التأسيسية (Foundation Research Institute). والآن، أريد الحديث عن جانب آخر من قابلة التأثير. ولا يتعلق الأمر بسؤال مدى سهولة التقليل الجذري من مخاطر المعاناة، بل نتساءل إن كان بإمكاننا إيجاد الدعم المطلوب. فهل يمكننا مثلًا إيجاد التمويل الكافي للانطلاق في الأعمال المتعلقة بتقليل مخاطر المعاناة. ومن مخاوفنا أن يبدو كل هذا الحديث حول المعاناة كونية النطاق -وما إلى ذلك- أمرًا غير محتمل لدى العديد من الناس، وبعبارة أخرى أن تبدو مخاطر المعاناة غريبةً جدًّا إلى درجة قد لا نتمكن من جمع الدعم والتمويل الكافيين للتقليل منها.
وأعتقد أن هذا مصدر قلق مشروع، إلا أني أعتقد أنه علينا ألا نكثر التشاؤم، فتاريخ مجال حماية الذكاء الاصطناعي يؤكد هذا التقييم. فإذا عدت 10 سنين نحو الماضي، فستجد أن مخاوف الانقراض بسبب الذكاء الاصطناعي الخارق كانت محلّ سخرية ورفض أو تشويه وإساءة فهم، فقد كانوا يعتقدون أنها تتعلق بفيلم المدمر (Terminator) أو شيءٍ من هذا القبيل.
واليوم نجد بيل جيتس (Bill Gates) ينشر كتابًا يتحدث بصراحةٍ عن مخاطر الذكاء الاصطناعي الخارق والمفاهيم المتعلقة به من قبيل الجريمة العقلية. ولذا أدعي أن التاريخ القريب لمجال حماية الذكاء الاصطناعي يمدّنا ببعض الأسباب لنأمل في قدرتنا على نقل ميدان قضايا غريبةٍ بنفس القدر إلى الرأي العام، إلى خانة النقاشات المقبولة والتي يمكن أن نحشد لها دعمًا مهمًّا.
وأخيرًا وليس آخرًا، ماذا عن مدى إهمال مخاطر المعاناة؟ إذن وكما قلت سابقًا، يمكننا أن نقول عن بعض الأعمال الجارية بالفعل في مجال المخاطر الوجودية أنها تقلل من مخاطر المعاناة، ولذا فإن الحدّ من مخاطر المعاناة ليس مهملًا تمامًا، ولكن أعتقد أنه من الإنصاف القول أن هذه المخاطر تحظى بقدر من الاهتمام أقلّ بكثير من الاهتمام الذي تحظى به مخاطر الانقراض مثلًا. وفي الواقع، صادفت بعض الأشخاص الذين يساوون صراحةً أو ضمنيًّا بين المخاطر الوجودية ومخاطر الانقراض، وهذا غير صحيح مفاهيميًّا. وفي الواقع، في حين أن بعض التدخلات الحالية قد تكون فعالةً في تقليل مخاطر المعاناة فثمة بعض الناس الذين يعملون خصيصًا من أجل تحديد التدخلات الأكثر فعاليةً في تقليل مخاطر المعاناة. وأعتقد أن معهد البحوث التأسيسية هو المنظمة الوحيدة ضمن حركة الإحسان الفعال التي تعمل مؤسساتيًّا على مهمة التركيز على تقليل مخاطر المعاناة. ولنلخص الموضوع، فإني لم أجب نهائيًّا على سؤال من يجدر به العمل على التقليل من مخاطر المعاناة. أعتقد أن هذا يعتمد على كلّ من نظرتك الأخلاقية وبعض الأسئلة التجريبية مثل احتمالية وقابلية التأثير ومدى إهمال مخاطر المعاناة. إلا أني قلت أن مخاطر المعاناة ليست بأقل احتمالًا من خطر الانقراض الناجم عن الذكاء الاصطناعي الخارق، وبالتالي فهي تستدعي بعض الاهتمام على الأقل. وقد حاججت بأن السبيل المعروف والأكثر معقوليةً والذي يمكن أن يقودنا إلى منطقة مخاطر المعاناة –بغض النظر عن المجاهيل المجهولة- هو سبيل سيناريوهات الذكاء الاصطناعي التي تتضمن إنشاء عددٍ كبير من الكائنات مصطنعة الوعي. ولهذا السبب أعتقد أن من ضمن المصادر المعروفة للمخاطر الوجودية فإن ميدان قضايا الذكاء الاصطناعي ميدانٌ فريد من حيث كونه ذا أهميةٍ في التقليل من مخاطر المعاناة. لأننا إذا لم نفلح في الذكاء الاصطناعي فثمة احتمالية معتبرة للوقوع في منطقة مخاطر المعاناة، في حين أنه في المجالات الأخرى مثل اصطدام مذنب بالأرض أو حدوث وباءٍ مميت أو عند محق الحياة البشرية فلا يبدو أنها قد تؤدي إلى سيناريوهات أشد سوءًا من الانقراض لأنها لا تتضمن قدرًا أكبر من المعاناة. وإذا لم تكن قد فكرت مسبقًا في مخاطر المعاناة بهذا المعنى، فأعتقد أن هذه فرصة سانحة لتحديث اهتمامك بميدان قضايا الذكاء الاصطناعي خلافًا لميادين قضايا مخاطر المعاناة الأخرى. وبهذا المعنى فإن بعض الأعمال الحالية المتعلقة بالمخاطر الوجودية –وليس كلها- لها فعالية في تقليل المخاطر الوجودية، ويبدو أن ثمة فجوةً بين الأشخاص والأبحاث المخصصة لتحسين سبل التقليل من مخاطر المعاناة وبين محاولة إيجاد التدخلات الأكثر فعالية في تحقيق هذا الهدف على وجه التحديد. وأنا أزعم أن معهد البحوث التأسيسية له تركيز فريدٌ يتعلق بمجال خاص ومهمٍّ جدًّا، وأتمنى أن ينضم إلينا المزيد من الأشخاص للعمل في هذا المجال. أي أشخاص من منظمات أخرى يقومون ببعض الأبحاث التي نرجو أن تكون فعالةً في تقليل مخاطر المعاناة. ولذا فإني آمل أن أكون ساهمت في رفع الوعي بشأن الاحتمالات المقلقة لمخاطر المعاناة، ولا أعتقد أني تمكنت من إقناعكم جميعًا بأن تقليل مخاطر المعاناة هو أفضل استعمال لمواردكم.
ولا أعتقد أن ذلك بمقدوري، لسببين؛ لأن قواعد رؤانا الأخلاقية مختلفة إلى درجة ما، ولأن الأسئلة التجريبية الـمُضمّنة شديدة التعقيد، ويبدو أنه من الصعب الوصول إلى اتفاق بخصوصها. وأعتقد واقعيًّا بأن المهتمين منّا بتشكيل المستقبل والمقتنعين بالأهمية القصوى للأمر، سنواجه وضعًا يتعيّن علينا فيه مواجهة أشخاص في نفس المجتمع بأولوياتٍ مختلفة وعلينا أن نرتّب طريقة إدارتنا لهذا الوضع. ولهذا السبب أنوي إنهاء هذه المحاضرة برؤية للمجتمع الذي سيشكل المستقبل.
ولذلك فإن علينا النظر مجازيًّا إلى تشكيل المستقبل على أننا منضمين لرحلةٍ طويلة. وأود التوضيح أنه من التحريف النظر إلى استعارتي المجازية على أنها خيار ثنائيّ بين الانقراض أو اليوتوبيا.
وإلا فإذا فهمت هذه الاستعارة المجازية بمعنى آخر فأنا أزعم أنها في محلّها. نحن في خضمّ رحلةٍ طويلة المدى، وعلينا عبور منطقة وعرة، وفي الأفق نجد طيفًا من المناخات المتراوحة عاصفة رعدية شديدة السوء إلى يوم ربيعي جميل. والاهتمام بتشكيل المستقبل يحدّد من معنا في المركبة، إلا أنه لا يجيب بالضرورة عما يجدر بنا فعله بعجلة القيادة على وجه الدقة.
البعض منا يفكر في عدم التعرض للعاصفة الرعدية، فيما يتعلق آخرون بالأمل الوجودي في الوصول إلى أشعة الشمس الجميلة. ويبدو أن الوصول لاتفاق بشأن ما يجب القيام به على وجه الدقة أمر صعب، ومن أسباب ذلك الصعوبة البالغة في تتبع شبكات الطرق المعقدة أمامنا وصعوبة معرفة أي اتجاه سيؤدي لأي مخرج. وهذا أمرٌ صعب، وعلى النقيض من ذلك، يمكننا بسهولة أن نرى من معنا في المركبة. ولذا فإن الفكرة الختامية التي أود عرضها، أن من أهم الأشياء التي يمكننا القيام بها أن نحرص على مقارنة خرائطنا بخرائط مرافقينا في المركبة وأن نجد طريقةً للتعامل مع الاختلافات الباقية دون إخراج المركبة عن مسارها خطأً وأن نصل إلى مخرج معتبرٍ عند الجميع. وشكرًا.
3.
س: سأبدأ بسؤال طرحه عدد من الأشخاص وهو متعلق بأمر قد قلته، غير متعلق بالضرورة بمخاطر المعاناة، إلا أنه قد يساعد في توضيح بعض الأمور، فخلاف الذكاء الاصطناعي والمحاكاة الكلية للدماغ، وحزم العقول المشغلة، هل هناك أي شكل من مخاطر المعاناة التي يمكنك تصورها؟ كان هؤلاء الأشخاص مهتمين على وجه التحديد باكتشاف الطرق التي يمكن من خلالها العمل على حلّ المشكلة إذا لم يكن لديك إحساس ملموس بالطريقة التي قد تظهر بها.
ج: أعتقد أن السيناريوهات الأكثر منطقية التي يمكن توقعها اليوم تتضمن على الوعي الاصطناعي جزئيًا، لأن الكثير من الناس تحدثوا عن أن الوعي الاصطناعي سيحمل معه تحديات جديدة. حيث سيكون من السهل مثلًا إنتاج عدد كبير من الكائنات مصطنعة الوعي. حيث يوجد للبُنى القائمة على السيليكون الكثير من مزايا الكفاءة مقارنةً بالبنى البيولوجية، كما يمكننا أن نلاحظ في العديد من المجالات الأخرى أن النتائج الأسوأ تحتوي على معظم القيمة المتوقعة، مثل هيمنة التوزيعات ذات الذيل السمين بالنسبة لعدد ضحايا الحروب والأمراض وغيرها. لذلك، يبدو من المعقول إلى حد ما بالنسبة لي أننا إذا كنا مهتمين بتقليل أكبر قدر ممكن من المعاناة المتوقعة، فيجب أن نركز على هذه النتائج شديدة السوء، ومعظمها ينطوي على الوعي الاصطناعي، لعدة أسباب. ومع ذلك، أعتقد أن هناك بعض السيناريوهات :خاصة في السيناريوهات المستقبلية التي لا تشهد سيناريو انفجار الذكاء النمطي وبدء التفرد الفائق، بل قد نواجه مستقبلًا أكثر فوضوية وتعقيدًا حيث قد تكون ثمة الكثير من الفصائل المتحكمة في الذكاء الاصطناعي والتي تستخدمه لأغراض مختلفة، وقد نواجه مخاطر قد لا تكون أعلى نطاقًا من أسوأ السيناريوهات المتضمنة للوعي الاصطناعي إلا أنها قد تكون أقرب إلى الإنتاج الحيواني الزراعي. نوع من التكنولوجيا الجديدة التي يمكن إساءة استخدامها بطريقة ما، ربما لمجرد أن الناس لا يهتمون بالعواقب كفايةً ويسعون إلى تحقيق نوع من الأهداف الاقتصادية فيخلفون عن غير قصد قدرًا كبيرًا من المعاناة الشبيهة بما يحدث اليوم على سبيل المثال في الإنتاج الصناعي للحيوانات.
س: لقد قلتَ أن النقاش لا يزال يدور حول ما إذا كان بإمكان المرء توسيع نطاق اهتمامه الأخلاقي فعلًا إلى ما هو كائن في بنيةٍ من السيليكون وليس مثلنا من لحمٍ وعظم. هل يمكنك توضيح لم قد نهتم بشيءٍ يمثّل حزمة دماغيةً وليس دماغًا فعليًّا كما نفكٍّر فيه عادةً؟
ج: إحدى التجارب الفكرية المهلمة والتي نوقشت في فلسفة العقل هي تخيل أنك تستبدل دماغك لكن ليس مرةً واحدةً، بل خطوة بخطوة بأجهزة مصنوعةٍ من السيليكون. ولذلك، عليك أن تبدأ باستبدال خلية عصبية واحدة فقط بنوع من الرقائق التي تؤدي نفس الوظيفة. من الواضح بديهيًّا أن هذا لا يجعلك أقل وعيًا أو أن علينا الاهتمام بقدرٍ أقل في هذا الحال. والآن يمكنك أن تتخيل استبدال دماغك شيئًا فشيئًا، باستبدال خليةٍ عصبية كل مرة حتى يحل محله جهاز حاسوبي. يبدو أنه من الصعب تحديد أي نقطة بالضبط يمكنك القول فيها أن الوضع قد تغير وأن علينا ألا نهتم بنفس القدر بالرغم أن معالجة المعلومات لا تزال مستمرة في ذلك الدماغ. إلا أن هناك مجموعةً كبيرة من الأدبيات في فلسفة العقل التي تناقش هذا السؤال بالتحديد.
س: وبافتراض أن هذه الأدمغة لديها بالفعل القدرة على المعاناة، فما الذي يجعلنا نعتقد أنه سيكون من المفيد للذكاء الاصطناعي الخارق محاكاة الكثير من الأدمغة بطريقة تجعلها تعاني بدلا من إيجادها دون أي نوعٍ من الشعور، سواءً كان سلبيًّا أو إيجابيًّا.
ج: من الأسباب الداعية للقلق هو أننا إذا نظرنا إلى النجاحات الحالية في مجال الذكاء الاصطناعي، فهي تُعزى إلى تقنيات التعلم الآلي غالبًا. وهي تقنيات لا تبرمج فيها المعارف والقدرات. نعتقد أن نظام الذكاء الاصطناعي يجب أن يدخل مباشرة في النظام، بل يجب أن يقوم بإعداد خوارزمية قابلة للتدريب والتي يمكن أن تتعلم من خلال التجربة والخطأ ومن خلال تلقي بعض المعلومات حول مدى جودة أو سوء أدائها وبالتالي زيادة قدراتها. من المستبعد أن تكون تقنيات التعلم الآلي الحالية التي تتضمن إعطاء نوع من إشارات المكافأة للخوارزميات مقلقةً لنا إلى حد كبير. لا أريد ادعاء أن خوارزميات التعلم المعزز الحالية تعاني إلى حد ما إلا أننا قد نشعر بالقلق من أن البنى المماثلة التي قد تنشأ فيها قدرات كائنات مصطنعة الوعي من خلال تدريبها على بعض الأشياء وتتلقى حينها نوعًا من إشارات المكافأة التي تخبرها أن هذه السمة من سمات أنظمة الذكاء الاصطناعي التي ستستمر حتى عند تجسيد وعي هذه الخوارزميات إلى حد أكبر. ولذا فإن الأمر مشابه نوعًا ما لما ذكرته من أن معاناتنا تعمل كنوعٍ من الوظيفة التطورية التي تساعدنا على التجول في العالم، وفي الواقع فإن الأشخاص الذين لا يشعرون بالألم يواجهون قدرًا كبيرًا من الصعوبات، لأنهم لا يتجنبون المخرجات الخطيرة حدسيًّا. وصحيح أن الأمر يتطلب مناقشةً أطول، إلا أني آمل أني تمكنت من تقديم إجابة مختصرة لهذه المسألة.
س: يرى بعض الأشخاص أنك تركّز كثيرًا على المعاناة عند الحديث عن مخاطر المعاناة، إلا أنه يتساءلون ويقولون أن العميل قد يفضل ذلك بالفعل، إلا أنه من غير الواضح إن كان سيفضّل المعاناة أو الموت، وقد يفضل البعض أن يكون موجودًا حتى إن كانت تجربتهم سلبيةً جدًّا. هل ستتخذ هذا الخيار بالنيابة عن العملاء الذين تفكر فيهم في عالمك الأخلاقي حين تحاول تقليل مخاطر المعاناة؟ هل هذا شرط مسبق للاهتمام بمخاطر المعاناة؟
ج: أعتقد أنه مهما كانت أسس وجهة نظرك الأخلاقية، فهناك دومًا أسباب حصيفة للنظر في تفضيلات العملاء الآخرين. لذا إذا واجهت موقفًا حيث يكون ثمة نوعًا من الكائنات التي تواجه تجارب سلبيةً إلى درجة أنني أفكر بطريقة عواقبية أنه من الأفضل ألا تكون موجودةً، إلا أن هذا الكائن صار موجودًا لسبب أو لآخر ولديه تفضيل قوي ليكون موجودًا فيجادلني، فهل عليّ المواصلة أو لا، وهكذا دواليك. أعتقد أنه سيكون ثمة نوعٌ من التقارب بين وجهات النظر الأخلاقية في النظر إلى مسألة كيفية معالجة هذه التفضيلات الافتراضية. ومع ذلك فأنا أعتقد أنه من غير المعقول إلى حد ما الادعاء بعدم وجود قدرٍ من المعاناة أسوأ في جوهره من عدم الوجود. يبدو هذا معقولًا لحد كبير بالنسبة لي، من بين المثيرات الحدسية للموضوع هي لو أنك وقعت في اختيار بين النوم لساعة أو التعرض للتعذيب لساعة، فأيهما تفضل؟ يبدو الأمر واضحًا لدرجةٍ ما أن معظمنا سيجد ساعةً من النوم دون الظفر بأية خبرةٍ على الإطلاق هي الخيار الأفضل.