سلسلة مقالات “القرن الأكثر أهمية”

سلسلة مقالات “القرن الأكثر أهمية” تجادل بأن القرن الحادي والعشرين قد يكون الأكثر أهمية على الإطلاق بالنسبة للإنسانية، من خلال تطوير أنظمة الذكاء الاصطناعي المتقدمة التي يمكن أن تعزز بشكل كبير التقدم العلمي والتكنولوجي، وتوصلنا بسرعة أكبر مما يتصور معظم الناس إلى مستقبل غريب تمامًا.

يمكنك الاطلاع على أبرز ما جاء في السلسلة من خلال:

• ملخص مكون من عدة صفحات (أدناه).
• مناقشة السلسلة في برنامج إزرا كلاين شو (نيويورك تايمز، 90 دقيقة) أو بودكاست 80,000 ساعة (ساعتان).

يمكنك قراءة السلسلة بأكملها على النحو التالي:

• سلسلة من المقالات: أقترح أن تبدأ بخارطة الطريق. (يتضمن كل قطعة رابطًا للقطعة التالية في النهاية.) هذا هو التنسيق الأصلي، حيث سيكون من السهل النقر على العناصر ورؤية الرسوم البيانية بحجمها الكامل، وغير ذلك.
• سلسلة صوتية متاحة على معظم منصات البودكاست (سبوتيفاي، ستيتشر، آبل بودكاست، وغيرها).
• ملف PDF واحد قابل للطباعة.
• بالنسبة لجهاز Kindle، يمكنك شراء نسخة بتنسيق مناسب لجهاز Kindle بسعر 0.99 دولار (الحد الأدنى للسعر الذي يسمحون لي بتعيينه) أو تحميل ملف AZW3 مجاني (انظر التعليمات لوضعه على جهاز Kindle الخاص بك). هناك أيضًا ملف ePub مجاني لأجهزة القراءة الأخرى.

السلسلة باختصار

قضيت معظم حياتي أبحث عن طرق للقيام بأكبر قدر ممكن من الخير، بناءً على مقياس مالي أو زمني. عملت على إيجاد جمعيات خيرية في مجالي الصحة العالمية والتنمية وعملها مدعوم بالأدلة (حيث شاركت في تأسيس GiveWell)، وانتقلت في وقت لاحق إلى الأعمال الخيرية التي تميل بدرجة أكبر إلى المخاطرة (حيث شاركت في تأسيس Open Philanthropy).

على مدى السنوات القليلة الماضية - بفضل الحوار العام مع مجتمع الإيثار الفعال والبحوث المكثفة التي قام بها فريق تحقيقات المنظور العالمي في Open Philanthropy - أصبحت مقتنعًا بأن البشرية ككل تواجه مخاطرًا وفرصًا هائلة في هذا القرن. وما أركز عليه الآن هو تحقيق فهم أفضل والاستعداد لهذه المخاطر والفرص.

سيلخص هذا المقال سلسلة من المقالات حول سبب اعتقادي بأننا نشهد القرن الأكثر أهمية على الإطلاق في تاريخ البشرية. وهو يقدم ملخصًا قصيرًا ومقالات جوهرية، وأحيانًا رسومات جوهرية حول 5 نقاط أساسية:

• المستقبل البعيد مختلف بشكل جذري. يمكن أن تؤدي التطورات الكافية في التكنولوجيا إلى ظهور حضارة تدوم طويلاً على مستوى المجرة والتي يمكن أن تكون يوتوبيا جذرية أو ديستوبيا، أو أي شيء بينهما.
• يمكن للمستقبل على المدى البعيد أن يأتي بسرعة أكبر مما نعتقد، بسبب إمكانية حدوث تفجر في الإنتاجية مدفوعة بالذكاء الاصطناعي.
• يبدو أن هذا النوع من الذكاء الاصطناعي المستقبلي سيُطوَّر في هذا القرن - مما يجعل هذا القرن هو القرن الذي سيبدأ ويحظى بفرصة تشكيل حضارة مستقبلية تمتد على مستوى المجرة.
• هذه المزاعم تبدو “مجنونة” جدًّا لدرجة ألا نأخذها على محمل الجد. ولكن هناك العديد من الأسباب للاعتقاد بأننا نعيش في وقت مجنون، ويجب أن نكون مستعدين لأي شيء.
• نحن، الأشخاص الذين يعيشون في هذا القرن، لدينا فرصة للتأثير بشكل كبير على أعداد ضخمة من الأشخاص المستقبليين - إذا استطعنا فهم الوضع بما يكفي لإيجاد إجراءات مفيدة. لكن في الوقت الحالي، لسنا مستعدين لذلك.

تحمل هذه الأطروحة طابع خيال علمي وسخيف بعض الشيء. إنها بعيدة جدًّا عما توقعت أن أنتهي إليه عندما بدأت سعيي لإحداث أكبر قدر ممكن من الخير.

ولكن جزءًا من العقلية التي طورتها من خلال GiveWell وOpen Philanthropy هو أن نكون مفتوحين لاحتمالات غريبة، مع فحصها بحرص قدر الإمكان. وبعد الكثير من الاستثمار في دراسة الأطروحة المذكورة أعلاه، أعتقد أنه من المرجح بما فيه الكفاية أن العالم يحتاج بشكل عاجل إلى مزيد من الاهتمام بها.

من خلال الكتابة عن هذه الأطروحة، أود إما أن أحصل على اهتمام أكبر بها، أو أن أحصل على فرص أكثر لتلقي الانتقادات وتغيير رأيي.

نحن نعيش في زمن مجنون، ويجب أن نكون مستعدين لأي شيء

يجد الكثيرون أن ادعاء “القرن الأكثر أهمية” “مجنون” جدًّا: فربما نصل في نهاية المطاف إلى مستقبل جذري فيه ذكاء اصطناعي متقدم وحضارة منتشرة في جميع أنحاء المجرة، لكنه أمر قد يستغرق حوالي 500 سنة من الآن، أو 1,000 سنة أو 10,000 سنة. (وليس في هذا القرن).

هذه الأطر الزمنية الأطول ستضعنا في موقف أقل جنونًا مما لو كنا في “القرن الأكثر أهمية”. ولكن في الحقيقة، حتى إذا بدأ التوسع على مستوى المجرة بعد 100,000 سنة من الآن، فإن ذلك لا يزال يعني أننا نعيش في حقبة استثنائية – الوهلة القصيرة من الزمن التي تنتقل فيها المجرة من كونها شبه خالية من الحياة إلى أن تكون مأهولة بشكل كبير. فمن بين عدد هائل من الأشخاص الذين سيعيشون على الإطلاق، يعني هذا أننا نحن من بين الأوائل. وأن من بين مئات المليارات من النجوم في مجرتنا، ستنتج نجومنا الكائنات التي تملأها.

إذا نظرنا عن كثب، سنرى أننا نعيش في قرنٍ خاص، وليس مجرد عصرٍ خاص. يمكننا رؤية ذلك من خلال النظر إلى مدى سرعة نمو الاقتصاد. لا يبدو أن هناك أي شيء استثنائي يحدث، لأنه طالما ظل أي منا على قيد الحياة، ينمو الاقتصاد العالمي بنسبة بضعة بالمئة في السنة:

ومع ذلك، عندما نلقي نظرة أشمل على التاريخ في سياق أوسع، نرى صورة لماضٍ غير مستقر ومستقبل غامض:

نعيش حاليًا في أسرع فترة نمو في التاريخ. لم تستمر معدلات النمو هذه طويلاً ولا يمكن أن تستمر إلى الأبد (لا يوجد ما يكفي من الذرات في المجرة لدعم معدلات النمو هذه حتى لمدة 10,000 سنة أخرى). وإذا حدث تسارعٌ آخر في معدل النمو هذا – متماشيًا مع التسارع التاريخي - فإننا يمكن أن نصل إلى حدود ما هو ممكن بشكل أسرع: خلال هذا القرن.

باختصار:

• كانت الملايين الأخيرة من السنين - مع بداية ظهور جنسنا – حافلة بالأحداث أكثر من المليارات العديدة السابقة.
• كانت المئات الأخيرة من السنين حافلة بالأحداث أكثر من الملايين العديدة السابقة.
• إذا رأينا تسارعًا آخر (حسبما أعتقد قد يكون الذكاء الاصطناعي كذلك)، فإن العقود القليلة القادمة يمكن أن تكون أكثر العقود الحافلة بالأحداث على الإطلاق.

المزيد على: كل الرؤى الممكنة حول مستقبل البشرية جامحة ولا يمكن لهذا الوضع أن يستمر والتنبؤ بالذكاء الاصطناعي التحويلي: طريقة «الدعائم البيولوجية» بشكل موجز، على الترتيب

نظرًا للزمن الذي نعيش فيه، يجب أن نكون منفتحين على السبل الممكنة التي قد يتغير بها العالم بسرعة وبشكل جذري. بل على نحو مثالي، يفضل أن نكون منتبهين قليلًا لمثل هذه الأمور، مثل مراعاة السلامة في المقام الأول أثناء القيادة. ولكن اليوم، لا تحظى هذه الاحتمالات باهتمام كبير.

مقالات رئيسية:

• كل الرؤى الممكنة حول مستقبل البشرية جامحة
• لا يمكن لهذا الوضع أن يستمر

المستقبل البعيد مختلف بشكل جذري

تميل التكنولوجيا إلى زيادة سيطرة الناس على البيئة. لإعطاء مثال ملموس وسهل التصور عن مدى تطور الأمور إذا ذهبت التكنولوجيا بعيدًا في مدى تطورها، لنتصور تكنولوجيا مثل “الأشخاص الرقميين”: إنهم أشخاص ذوو وعي كامل “مصنوعون من البرمجيات” يعيشون في بيئات افتراضية بحيث يمكنهم تجربة أي شيء ويمكن نسخهم وتشغيلهم بسرعات مختلفة وحتى “إعادة تعيينهم”.

يمكن أن يكون عالم الأشخاص الرقميين ديستوبيًا بشكل جذري (تُستخدم البيئات الافتراضية لتعزيز سلطة بعض الأشخاص الكاملة على الآخرين) أو يكون مثاليًا (لا يوجد مرض أو فقر مادي أو عنف غير رضائي، وحكمة وفهم للذات أكبر بكثير مما هو ممكن اليوم). على أي حال، يمكن للأشخاص الرقميين أن يمكّنوا الحضارة من الانتشار في جميع أنحاء المجرة وأن تستمر لفترة طويلة.

يعتقد الكثيرون أن هذا النوع من الحضارة المستقبلية الكبيرة والمستقرة هو ما يمكن أن نتجه إليه في نهاية المطاف (سواء من خلال الأشخاص الرقميين أو تكنولوجيات أخرى تزيد من السيطرة على البيئة)، ولكنهم لا يهتمون بمناقشته لأنه يبدو بعيدًا جدًا.

مقالة رئيسية: الأشخاص الرقميون سيكونون أمرًا جللًا

قد يصل المستقبل البعيد المدى أسرع مما نتوقع

تشير نماذج النمو الاقتصادي القياسية إلى أن أي تكنولوجيا يمكنها أتمتة الابتكار بشكل كامل ستؤدي إلى “تفرد اقتصادي”: حيث يصل معدل الإنتاجية إلى اللانهاية في هذا القرن. يحدث ذلك بسبب خلقها حلقة ردود فعل قوية: مزيد من الموارد -> مزيد من الأفكار والابتكار -> مزيد من الموارد -> مزيد من الأفكار والابتكار…

لن تكون هذه الحلقة غير مسبوقة. أعتقد أنها بمعنى ما الطريقة “الافتراضية” التي يعمل بها الاقتصاد - لمعظم التاريخ الاقتصادي حتى قبل بضع مئات من السنين.

ولكن في «الانتقال الديمغرافي» قبل بضع مئات من السنين، توقفت خطوة «مزيد من الموارد -> مزيد من الناس» في تلك الحلقة. استقر نمو السكان، وأدت زيادة الموارد إلى زيادة ثروة بعض الأشخاص بدلاً من زيادة الناس:

يمكن أن تعود حلقة ردود الفعل إذا أعادت تكنولوجيا أخرى تفاعل “مزيد من الموارد -> مزيد من الأفكار”. إحدى هذه التكنولوجيات يمكن أن تكون الذكاء الاصطناعي المناسب: ما أسميه PASTA، أو عملية أتمتة التقدم العلمي والتكنولوجي.

وهذا يعني أن مستقبلنا البعيد الجذري قد يكون حان بسرعة كبيرة بعد تطوير عملية أتمتة التقدم العلمي والتكنولوجي PASTA (إذا تم تطويرها على الإطلاق).

كما يعني أنه إذا كانت أنظمة PASTA غير متوافقة - تسعى لتحقيق أهدافها الخاصة غير المتوافقة مع البشر - فإن الأمور يمكن أن تنحرف بسرعة كبيرة.

مقالات رئيسية:

• جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي
• التنبؤ بالذكاء الاصطناعي التحويلي، الجزء الأول: أي نوع من الذكاء الاصطناعي؟
• لماذا يصعب توافق الذكاء الاصطناعي مع التعلم العميق الحديث

يبدو أن PASTA ستُطوَّر في هذا القرن

ليس مثيرًا للجدل القول أن نظام ذكاء اصطناعي عام جدًا، مثل PASTA، سيكون بالغ الأهمية. السؤال هو متى يوجد مثل هذا الشيء (إن حدث)؟

على مدى السنوات القليلة الماضية، قام فريق في مؤسسة Open Philanthropy بالتحقيق في هذا السؤال من زوايا عديدة.

تلاحظ إحدى طرق التنبؤ ما يلي:

• لم يتم بناء أي نموذج ذكاء اصطناعي حتى الآن يكون حجمه حتى 1% من حجم الدماغ البشري (من حيث العمليات المنفذة)، وحتى وقت قريب لم يكن في المتناول تحقيق ذلك بسبب التكلفة - ولكن هذا سيتغير قريبًا نسبيًّا.
• وبحلول نهاية هذا القرن، سيكون ممكنًا بتكلفة معقولة تدريب نماذج ذكاء اصطناعي ضخمة عدة مرات، لتدرب نماذج بحجم الدماغ البشري على المهام الصعبة والمكلفة بشكل هائل، وربما حتى تنفيذ عدد من العمليات الحسابية التي تمت «بواسطة التطور» (من خلال جميع الأدمغة الحيوانية في التاريخ حتى اليوم).

تتوافق توقعات هذه الطريقة مع أحدث استطلاع لباحثي الذكاء الاصطناعي: شيء مثل PASTA من المرجح إنشاؤه خلال هذا القرن.

كما دُرِسَت عدد من الزوايا الأخرى أيضًا.

يوجد تحدٍّ واحد لهذه التوقعات: لا يوجد «مجال للتنبؤ بالذكاء الاصطناعي» كما لا يوجد توافق بين الخبراء، مماثل لذلك الموجود حول التغير المناخي مثلًا.

من الصعب أن تكون واثقًا عندما يكون النقاش حول هذه المواضيع ضئيلًا ومحدودًا. ولكن أعتقد أنه يجب أن نأخذ فرضية “القرن الأكثر أهمية” على محمل الجد بناءً على ما نعرفه الآن، حتى وما لم يُطوَّر «مجال للتنبؤ بالذكاء الاصطناعي».

مقالات أساسية:

• الجداول الزمنية للذكاء الاصطناعي: عن الحُجج ومواقف «الخبراء» (يلخص الآخرين، ويناقش كيف يجب أن نفكر في مثل هذه المواضيع حيث ليس واضحًا من هم «الخبراء»)
• التنبؤ بالذكاء الاصطناعي التحويلي: ما هو عبء الإثبات؟
• هل نتجه نحو ذكاء اصطناعي تحويلي؟ (كيف يمكننا معرفة ذلك؟)
• التنبؤ بالذكاء الاصطناعي التحويلي: طريقة «الدعائم البيولوجية» بشكل موجز

لسنا مستعدين لهذا

عندما أتحدث عن أننا في «القرن الأكثر أهمية»، لا أعني فقط حدوث أحداث مهمة. أعني أننا، الناس الذين يعيشون في هذا القرن، لدينا فرصة للتأثير الكبير على أعداد ضخمة من الناس القادمين مستقبلًا - إذا استطعنا فهم الوضع بما يكفي لإيجاد إجراءات مفيدة.

ولكن هذا وضع مشروط بشكل كبير. فالكثير من الأشياء التي يمكننا القيام بها قد تجعل الأمور أفضل أو أسوأ (ومن الصعب تحديد أيهما).

عندما أواجه فرضية «القرن الأكثر أهمية»، فإن موقفي لا يتناسب مع المواقف المألوفة المتعلقة «بالإثارة والحركة» أو «الخوف والتجنب». بدلاً من ذلك، أشعر بمزيج غريب من الضغط والعجلة والارتباك والتردد. أنظر إلى شيء أكبر مما كنت أتوقع أن أواجهه، وأشعر بعدم الكفاءة والجهل بما يجب فعله بعد ذلك.

الموقف	رد الفعل المناسب
«هذه يمكن أن تكون شركة بقيمة مليار دولار!»	«مدهش، هيا بنا، لنفعلها!»
«هذا يمكن أن يكون القرن الأكثر أهمية!»	«… أوه… عجيب… لا أعرف ماذا أقول وأشعر إلى حد ما بالغثيان… يجب أن أجلس وأفكر في هذا الأمر.»

بوضع ذلك في الاعتبار، بدلاً من إطلاق «نداء للعمل»، أطلق نداءً لليقظة:

• إذا كنت مقتنعًا بالحجج المقدمة في هذه السلسلة، فلا تستعجل «فعل شيء» ثم تمضي قدمًا.
• بدلاً من ذلك، اتخذ أي إجراءات جيدة وفعالة يمكنك القيام بها اليوم، وهيئ نفسك لاتخاذ إجراءات مهمة عندما يحين الوقت.
• بالنسبة لأولئك الذين يبحثون عن إجراء سريع يجعل الإجراء المستقبلي أكثر احتمالًا، انظر إلى هذا القسم من «نداء لليقظة».

مقالات أساسية:

• كيف تستغل القرن الأكثر أهمية على أفضل وجه؟
• نداءٌ لليقظة

تدور في ذهني هذه الاستعارة، يبدو الأمر وكأن العالم عبارة عن مجموعة من الأشخاص على متن طائرة مسرعة على المدرج:

وفي كل مرة أقرأ فيها تعليقًا عما يحدث في العالم، يتناقش الناس حول كيفية ترتيب حزام الأمان بأكبر قدر من الراحة باعتبار أن ارتداءه جزء من الحياة، أو يقولون كيف أن أفضل لحظات الحياة هي الجلوس مع عائلتك ومشاهدة الخطوط البيضاء تمر بسرعة، أو يتجادلون حول مَن يتحمل خطأ أن هناك هديرًا في الخلفية يجعل من الصعب سماع بعضنا البعض.

لا أعرف حقًّا إلى أين نتجه، أو ما يمكننا فعله بشأن ذلك. ولكنني أشعر بثقة عالية في قول أننا كحضارة غير مستعدين لما هو قادم، ونحتاج إلى أن نبدأ بالتعامل مع الأمر بجدية أكبر.

شكر وتقدير

لدي ادعاءات قليلة أو معدومة بالأصالة. فقد جاء الجزء الأكبر من الادعاءات والملاحظات والتحليلات في هذه السلسلة من مزيج مما يلي:

• سنوات من المناقشات مع الآخرين، بشكل خاص في مجتمعات الإيثار الفعال والعقلانية. من الصعب تتبع أفكار محددة ونسبتها إلى أشخاص محددين ضمن هذا السياق، ولكنني أعلم أن جزءًا كبيرًا من تفكيري يأتي على الأقل قريبًا من كارل شولمان وداريو أمودي وبول كريستيانو، وأن أعمال نيك بوستروم وإيلييزر يودكوفسكي كانت ذات تأثير كبير بشكل عام. (أفهم أيضًا أن علماء المستقبليات وما بعد الإنسانية السابقين قد أثروا على هؤلاء الأشخاص والمجتمعات، على الرغم من أنني لم أتعامل مباشرة كثيرًا مع أعمالهم).
• تحليلات شاملة من قِبَل فريق تحقيقات الرؤية العالمية طويلة المدى بمؤسسة Open Philanthropy: أجيا كوترا وتوم ديفيدسون (بشكل خاص)، بالإضافة إلى نيك بيكستيد وجو كارلسميث وديفيد رودمان. كما استفدت كثيرًا من التقارير التي أعدتها كاتيا جريس ولوك ميوهاوزر.

بالإضافة إلى ذلك، أنا مدين بالشكر لكل من:

• أجيا كوترا وماريا غوتييريز روخاس ولودفيغ شوبرت على مساعدتي في عرض البيانات بصريًّا.
• عدد من الأشخاص الذين قدموا ملاحظات حول المسودات السابقة:
  • شقيقتي داليا كارنوفسكي وزوجتي دانييلا أمودي، وإيلي هسنفيلد: شكر خاص لقراءة المسودات الأولى (ذات الجودة الأقل) وتقديم ملاحظات مفصلة مرارًا وتكرارًا.
  • الأشخاص الذين لعبوا دور “القراء التجريبيين” وقدموا قدرًا كبيرًا من الملاحظات، بشكل خاص حول ما كان منطقيًّا وما لم يكن كذلك بالنسبة لهم: ألكسندر بيرجر وديمون بيندر ولوكاس جلور وديريك هوبف ومايك ليفين وإيلي ناثان وسيلا نيفو وجوليان سانكتون وسايمون شيفرين وتريسي ويليامز. (بالإضافة إلى عدد من الأشخاص ذُكروا بالفعل أعلاه.)

مقالات السلسلة

• سلسلة “القرن الأكثر أهمية”: خارطة الطريق
• كل الرؤى الممكنة حول مستقبل البشرية جامحة
• جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي
• الأشخاص الرقميون سيكونون أمرًا جللًا
• الأشخاص الرقميون: الأسئلة الشائعة
• لا يمكن لهذا الوضع أن يستمر
• التنبؤ بالذكاء الاصطناعي التحويلي، الجزء الأول: أي نوع من الذكاء الاصطناعي؟
• لماذا يصعب توافق الذكاء الاصطناعي مع التعلم العميق الحديث
• التنبؤ بالذكاء الاصطناعي التحويلي: ما هو عبء الإثبات؟
• هل نتجه نحو ذكاء اصطناعي تحويلي؟ (كيف يمكننا معرفة ذلك؟)
• التنبؤ بالذكاء الاصطناعي التحويلي: طريقة «الدعائم البيولوجية» بشكل موجز
• الجداول الزمنية للذكاء الاصطناعي: عن الحُجج ومواقف «الخبراء»
• كيف تستغل القرن الأكثر أهمية على أفضل وجه؟
• نداءٌ لليقظة