كيف تستغل القرن الأكثر أهمية على أفضل وجه؟
سابقًا في سلسلة “القرن الأكثر أهمية”، أردت أن أعرض أن هناك احتمالية عالية بأن العقود القادمة ستشهد:
- تطوير تكنولوجيا مثل باستا (PASTA) (عملية أتمتة التقدم العلمي والتكنولوجي).
- ما ينتج عنه انفجار في الإنتاجية يؤدي إلى تطوير تكنولوجيا محولة أخرى.
- بذرة لتكوين حضارة مستقرة على مستوى المجرة، ربما تتميز بوجود أشخاص رقميين، أو ربما يديرها ذكاء اصطناعي منحرف.
هل هذه رؤية متفائلة للعالم أم سلبية؟ بالنسبة لي، إنها واحدة ولا تنتمي لأي منهما، لأن سلسلة الأحداث هذه يمكن أن تكون جيدة جدًا أو سيئة جدًا للعالم، اعتمادًا على تفاصيل سيرها.
عندما أتحدث عن “القرن الأكثر أهمية”، فإنني لا أعني وقوع أحداث مهمة فحسب. أعني أننا، الأشخاص الذين يعيشون في هذا القرن، لدينا فرصة لأن يكون لنا تأثير كبير على أعداد ضخمة من الأشخاص الذين سيأتون بعدنا - إذا استطعنا أن نفهم الوضع بما يكفي للعثور على إجراءات مفيدة.
ولكن من المهم أيضًا أن نفهم لماذا هذه “إذًا” كبيرة - لماذا يقدم القرن الأكثر أهمية صورة استراتيجية صعبة، بحيث قد تجعل العديد من الأشياء التي يمكننا القيام بها الأمور أفضل أو أسوأ (ومن الصعب أن نقول أيهما).
في هذه المقالة، سأقدم اثنين من الإطارات المتناقضة لكيفية استغلال القرن الأكثر أهمية بأفضل طريقة:
- إطار “الحذر”. في هذا الإطار، ينبعث العديد من أسوأ النتائج من تطوير شيء مثل PASTA بطريقة سريعة أو غير مدروسة. قد نحتاج إلى تحقيق تنسيق (عالمي ربما) للتخفيف من الضغوط المتعلقة بالسباق واتخاذ الحيطة المناسبة. (الحذر).
- إطار “المنافسة”. يركز هذا الإطار ليس على كيفية ومتى يتم تطوير باستا (PASTA)، ولكن مَن (الحكومات، والشركات، وما إلى ذلك) هو أول مَن يستفيد من انفجار الإنتاجية الناتج. (مسابقة)
- الأشخاص الذين يتبنون إطار “الحذر” والأشخاص الذين يتبنون إطار “المنافسة” غالبًا ما يفضلون إجراءات مختلفة جدًا، بل ومتناقضة. الإجراءات التي تبدو مهمة للأشخاص في إطار واحد قد تبدو مضرة بنشاط للأشخاص في الإطار الآخر.
- أشعر بالقلق من أن إطار “المنافسة” سيتم تقديره بشكل زائد بشكل افتراضي، وسأناقش الأسباب لذلك أدناه. (المزيد)
- لكي نحصل على وضوح أكثر حول كيفية تقدير هذه الإطارات وما هي الإجراءات الأكثر احتمالًا لأن تكون مفيدة، نحتاج إلى المزيد من التقدم في معالجة الأسئلة المفتوحة حول حجم مختلف أنواع المخاطر المرتبطة بالذكاء الاصطناعي التحويلي. (الأسئلة المفتوحة)
- في الوقت الحالي، هناك بعض إجراءات مفيدة بقوة والتي يبدو من المرجح أن تحسن آفاق البشرية بغض النظر. (إجراءات مفيدة بقوة)
إطار “الحذر”
لقد قمت بتبني فكرة أن هناك فرصة جيدة لأن يشهد هذا القرن انتقالًا إلى عالم يكون فيه الأشخاص الرقميون أو الذكاء الاصطناعي المنحرف (أو شيء مختلف جدًا عن البشر الحاليين) هو القوة الرئيسية في أحداث العالم.
إطار “الحذر” يؤكد أن بعض أنواع الانتقال تبدو أفضل من غيرها. مرتبة من الأسوأ إلى الأفضل:
الأسوأ: الذكاء الاصطناعي المنحرف
لقد ناقشت هذا الاحتمال سابقًا، مستندًا إلى عدد من المناقشات الأخرى والأكثر تفصيلاً. الفكرة الأساسية هي أن أنظمة الذكاء الاصطناعي يمكن أن تصل إلى أهداف خاصة بها، ويمكنها أن تسعى للتوسع في الفضاء لتحقيق هذه الأهداف. يمكن تجاهل البشر و/أو قيمة جميع البشر (أو ينقرضوا، إذا اعترضنا الطريق بخلاف ذلك).
ثاني أسوأ نوع: نضج التكنولوجيا العدائية
إذا وصلنا إلى نقطة يوجد فيها أشخاص رقميون و/أو ذكاء اصطناعي (منحرف) يمكنهم نسخ أنفسهم بلا حدود والتوسع في الفضاء، فقد يكون هناك ضغط شديد للتحرك والتكاثر (عن طريق النسخ) بأسرع ما يمكن لكسب مزيد من التأثير على العالم. قد يؤدي هذا إلى دول/تحالفات مختلفة تحاول بشكل متواصل تجاوز بعضها البعض، و/أو إلى صراع عسكري مباشر، على علم أن الكثير يمكن أن يكون مرهونًا في وقت قصير.
أتوقع أن هذا النوع من الديناميكية يمكن أن يعرض الكثير من المجرة لحالة سيئة.
إحدى هذه الحالات السيئة ستكون “تحت سيطرة شخص واحد (رقمي) (و/أو نسخه) بشكل دائم”. نظرًا لإمكانات الأشخاص الرقميين في إنشاء حضارات مستقرة، يبدو أن نظامًا استبداديًا معينًا يمكن أن يتمركز بشكل دائم عبر أجزاء كبيرة من المجرة.
الأشخاص/الدول/التحالفات التي تشتبه في أن بعضها يشكل هذا النوع من الخطر - الذي يمكن أن ينشئ حضارات مستقرة تحت سيطرتهم بشكل محتمل - قد تتنافس و/أو تهاجم بعضها البعض في وقت مبكر لمنع ذلك. قد يؤدي هذا إلى حرب بنتائج صعبة التنبؤ بها (بسبب التقدم التكنولوجي الصعب التنبؤ به الذي يمكن أن تجلبه باستا).
ثاني أفضل نوع: التفاوض والحوكمة
قد تمنع الدول هذا النوع من تفاعل النضج التكنولوجي العدائي من خلال التخطيط المسبق والتفاوض مع بعضها البعض. على سبيل المثال، ربما يُسمح لكل دولة - أو لكل شخص - بإنشاء عدد معين من الأشخاص الرقميين (مشروطة بحماية حقوق الإنسان وتنظيمات أخرى)، محدودة في منطقة معينة من الفضاء.
يبدو أن هناك مجموعة ضخمة من التفاصيل المحتملة المختلفة هنا، بعضها أكثر خيرًا وعدلًا من البعض الآخر.
أفضل نوع: التأمل
يمكن للعالم أن يتحقق مستوى عالٍ من التنسيق لتأجيل أي خطوات لا رجعة فيها (بما في ذلك بدء تفاعل النضج التكنولوجي العدائي).
ثم يمكن أن يكون هناك شيء ما يشبه ما يسميه توبي أورد Toby Ord (في كتاب The Precipice) “التأمل الطويل”: فترة مستدامة يمكن فيها للناس أن يتفقوا جماعيًا على الأهداف والآمال المستقبلية، ممثلين بشكل مثالي التوازن الأكثر عدلاً المتاح بين وجهات النظر المختلفة. يمكن أن تساعد التكنولوجيا المتقدمة في تحقيق ذلك بشكل أفضل بكثير مما يمكن أن تفعله اليوم.
هناك أسئلة لا حصر لها حول كيفية عمل مثل هذا “التأمل”، وما إذا كان هناك حقًا أي أمل في أن يتم التوصل إلى نتيجة جيدة وعادلة بشكل معقول. قد تكون التفاصيل مثل “أي نوع من الأشخاص الرقميين يتم إنشاؤهم أولاً” مهمة للغاية. حاليًا، هناك قليل من النقاش حول هذا النوع من المواضيع.
أخرى
ربما هناك العديد من أنواع التحولات الممكنة التي لم أذكرها هنا.
دور الحذر
إذا كان الترتيب المذكور أعلاه صحيحًا، فإن مستقبل المجرة يبدو أفضل بقدر:
- تجنب الذكاء الاصطناعي المنحرف: يعمل النظام القوي للذكاء الاصطناعي على مساعدة البشر، بدلاً من تحقيق أهدافه الخاصة.
- تجنب النضج التكنولوجي العدائي. هذا يعني على الأرجح أن الناس لا ينتشرون أنظمة الذكاء الاصطناعي المتقدمة، أو التقنيات التي يمكن أن تجلبها، بطرق عدائية (ما لم يكن ضروريًا لمنع شيء أسوأ).
- يتحقق مستوى كافٍ من التنسيق حتى يتمكن اللاعبون الرئيسيون من “أخذ وقتهم”، ويصبح التأمل احتمالًا.
في الواقع، من الأفضل أن يكون بإمكان كل شخص لديه القدرة على بناء شيء مشابه لباستا أن يقدر على وضع طاقته في بناء شيء آمن (غير متعارض)، والتخطيط بعناية (والتفاوض مع الآخرين) حول كيفية تنفيذه، دون عجلة أو سباق. وبهذا الصدد، ربما يجب علينا أن نقوم بأمور مثل:
- العمل على تعزيز الثقة والتعاون بين القوى العالمية الكبرى، ربما من خلال إصدارات تركز على الذكاء الاصطناعي من بوغواش Pugwash (مؤتمر دولي يهدف إلى تقليل مخاطر الصراع العسكري)، ربما عن طريق مقاومة التحركات العدوانية في العلاقات الخارجية.
- تشجيع الحكومات والمستثمرين على عدم إنفاق الكثير من الأموال في بحوث الذكاء الاصطناعي، وتشجيع مختبرات الذكاء الاصطناعي على النظر بعناية في تداعيات بحوثها قبل نشرها أو توسيع نطاقها وما إلى ذلك. يمكن أن يؤدي إبطاء الأمور بهذه الطريقة إلى توفير المزيد من الوقت للقيام بأبحاث حول تجنب الذكاء الاصطناعي المنحرف، والمزيد من الوقت لبناء آليات الثقة والتعاون، والمزيد من الوقت للحصول على وضوح استراتيجي عام، واحتمالية أقل لتفاعل النضج التكنولوجي العدائي.
إطار “المنافسة”
(لاحظ: هناك بعض الاحتمالات للارتباك بين فكرة “المنافسة” وفكرة النضج التكنولوجي العدائي، لذلك حاولت استخدام مصطلحات مختلفة جداً. أوضح التباين في حاشية الصفحة).
إطار “المنافسة” يركز أقل على كيفية حدوث الانتقال إلى مستقبل مختلف بشكل جذري، وأكثر على من يتخذ القرارات الرئيسية أثناء حدوث ذلك.
ترجمة هذه المقالة قيد الإنجاز. يمكنك قراءة بقية المقالة في النص الأصلي باللغة الإنجليزية.