سلسلة “القرن الأكثر أهمية”: خارطة الطريق
فيما يلي مخطط لكيفية ارتباط كل قسم من سلسلة “القرن الأكثر أهمية” بالحُجّة العامة. أعتقد أنه من المفيد قراءتها بعناية قبل قراءة السلسلة بأكملها، للتعرف على موقع كل قسم منها.
أعتقد أن لدينا سببًا جيدًا للاعتقاد بأن القرن الحادي والعشرين قد يكون الأهم على الإطلاق بالنسبة للبشرية. أعتقد أن أقرب سبيل لحدوث ذلك سيكون من خلال تطوير أنظمة ذكاء اصطناعي متقدمة تؤدي إلى نمو وتطور علمي هائل، مما يوصلنا بشكل أسرع مما يتصوّره معظم الناس إلى مستقبل غير مألوف تمامًا.
بشكل أكثر تحديدًا1، أعتقد أن هناك فرصة جيدة أن:
- خلال القرن الذي نعيشه الآن، سوف نطور التكنولوجيا التي تؤدي إلى انتقالنا إلى حالة لن يكون فيها البشر كما نعرفهم القوة الرئيسية في أحداث العالم. هذه هي فرصتنا الأخيرة لتشكيل كيفية حدوث هذا الانتقال.
- أيًا كانت القوة الرئيسية في أحداث العالم (ربما الأشخاص الرقميين، أو الذكاء الاصطناعي المنحرف ، أو شيء آخر)، فسوف تخلق حضارات مستقرة للغاية تعمّر مجرتنا بالكامل لملايين السنين المقبلة. يمكن أن يؤثر الانتقال الذي يحدث في هذا القرن على كل ذلك.
أعتقد أنه ليس واضحًا جدًا ما إذا كانت هذه الأمور ستكون جيدة أم سيئة. لكن ما يهم هو أن الأمر يمكن أن يأخذ أشكالًا مختلفة، ولدينا فرصة للتأثير على ذلك.
أعتقد أن الاحتمال أعلاه لا يحظى بما يكفي من الاهتمام أو النقاش أو الاستثمار، وخاصة من الأشخاص الذين يهدفون إلى جعل العالم أفضل. من خلال الكتابة عنه، أود أن أساهم في تغيير ذلك، أو أن أحصل على المزيد من الفرص لتلقي النقد وتغيير رأيي.
تعتبر هذه المقالة ملخصًا/ خارطة طريق لسلسلة مشاركات تتكون من 11 مقالة تدافع عن هذه النقاط (والمقالات نفسها غالبًا ما تكون ملخصات فعالة لتحليلات أطول قدمها آخرون). سأضيف الروابط عند نشر المقالات في السلسلة.
عصرنا المهم للغاية
يؤكد مقال "كل الرؤى الممكنة حول مستقبل البشرية جامحة" أن هناك ملاحظتان بسيطتان كافيتان لإثبات أننا نعيش في وقت مهم للغاية، وهما (أ) يبدو من المحتمل أننا سنتمكن في نهاية المطاف من الانتشار في المجرة، و (ب) لا يبدو أن أي نمط حياة آخر قد فعل ذلك حتى الآن. سوف أوضح ذلك من خلال جدول زمني للمجرة.
أما مقال "جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي" فيشرح الآلية الأساسية التي يمكن أن تتحول فيها “في نهاية المطاف” الواردة أعلاه إلى “قريبًا”: قد تؤدي القدرة على “نسخ عقول البشر” إلى انفجار في الإنتاجية. وهو يرسم السياق لما يلي من مقالات.
ويناقش مقال "الأشخاص الرقميون سيكونون أمرًا جللًا" كيف يمكن أن تؤدي التكنولوجيا التي تبدو قابلة للتحقيق – وعلى وجه الخصوص محاكاة العقل البشري – إلى إنتاجية غير مسبوقة، وسيطرة على البيئة، والمزيد. يمكن أن تكون النتيجة حضارة مستقرة على مستوى المجرة والتي تختلف كثيرًا عن وجهة النظر الحالية.
قدرة قرننا على التسارع
يناقش مقال "لا يمكن لهذا الوضع أن يستمر" النمو الاقتصادي والتقدم العلمي عبر تاريخ البشرية. خلال الأجيال القليلة الماضية، كان النمو مستقرًا إلى حد كبير. ولكن عند التكبير والنظر إلى إطار زمني أطول، يبدو أن النمو تسارع بشكل كبير في الآونة الأخيرة؛ وهو قريب من ذروته التاريخية؛ وأسرع مما يمكن أن يستمر لفترة طويلة (لا يوجد ما يكفي من الذرات في المجرة للحفاظ على معدل النمو هذا حتى 10,000 عامًا أخرى).
إن الأوقات التي نعيشها غير عادية وغير مستقرة. بدلًا من التخطيط للمزيد من الأمور نفسها، يجب أن نتوقع الركود (تباطؤ النمو والتقدم العلمي)، أو الانفجار (تسارع إضافي)، أو الانهيار.
يستعرض مقال "التنبؤ بالذكاء الاصطناعي التحويلي، الجزء الأول: أي نوع من الذكاء الاصطناعي؟" إمكانية وجود نظم ذكاء اصطناعي تقوم بأتمتة التقدم العلمي والتكنولوجي، والتي يمكن أن تسبب إنتاجية هائلة. أنا أجادل بأن مثل هذه الأنظمة ستكون “تحويلية”، بمعنى أنها ستقودنا إلى مستقبل جديد وغير مألوف نوعيًا.
يغوص مقال "لماذا يصعب توافق الذكاء الاصطناعي مع التعلم العميق الحديث" (مشاركة من ضيف) عميقًا في لماذا قد تكون أنظمة الذكاء الاصطناعي المتقدمة “منحرفة”، ولها عواقب كارثية محتملة.
التنبؤ بالذكاء الاصطناعي التحويلي في هذا القرن
يجادل مقال "التنبؤ بالذكاء الاصطناعي التحويلي: ما هو عبء الإثبات؟" بأننا لا يجب أن يكون لدينا “عبء إثبات” كبير جدًا للاعتقاد بأن الذكاء الاصطناعي التحويلي يمكن تطويره في هذا القرن، وذلك جزئيًا لأن قرننا بالفعل خاص من عدة أوجه يمكنك أن تراها دون تحليل مفصل للذكاء الاصطناعي.
أما مقال "هل نتجه نحو ذكاء اصطناعي تحويلي؟ (كيف يمكننا معرفة ذلك؟)" فيناقش الهيكل الأساسي للتنبؤ بالذكاء الاصطناعي التحويلي، والمشاكل المتعلقة بمحاولة التنبؤ به استنادًا إلى اتجاهات “الإعجاب بالذكاء الاصطناعي”، وحالة رأي الباحثين في مجال الذكاء الاصطناعي بشأن الجداول الزمنية للذكاء الاصطناعي التحويلي.
بينما يعمل مقال "التنبؤ بالذكاء الاصطناعي التحويلي: طريقة «الدعائم البيولوجية» بشكل موجز" على تلخيص إطار المرجعيات البيولوجية للتنبؤ بالذكاء الاصطناعي. هذا الإطار هو العامل الرئيسي في توقعاتي المحددة.
أنا أتوقع باحتمالية أكبر من 10% أن يُطوَّر الذكاء الاصطناعي التحويلي في غضون 15 عامًا (بحلول عام 2036)؛ وباحتمالية تصل إلى 50% أن يُطوَّر في غضون 40 عامًا (بحلول عام 2060)؛ وباحتمالة تصل إلى الثلثين أن يُطوَّر في هذا القرن (بحلول عام 2100).
يلخص مقال الجداول الزمنية للذكاء الاصطناعي: عن الحُجج ومواقف «الخبراء» بإيجاز حالة الحجج ويتناول سؤال “ما هو موقف الخبراء بشأن كل ذلك؟”
- لا تتعارض الادعاءات التي أقدمها مع توافق خاص بخبراء محددين، كما أنها غير مدعومة بأي توافق آخر (على الرغم من أن معظم التقارير الرئيسية التي أشير إليها خضعت لاستعراض خبراء خارجي). إنها، بدلًا من ذلك، ادعاءات حول مواضيع ليس لها ببساطة “مجال” من الخبراء مكرس لدراستها.
- قد يختار بعض الناس تجاهل أي ادعاءات لا يدعمها توافق خبراء قوي، لكنني لا أعتقد أن هذا هو ما يجب علينا فعله هنا.
التداعيات
يناقش مقال "كيف تستغل القرن الأكثر أهمية على أفضل وجه؟" وجهات نظر مختلفة ومتضادة حول كيفية مساعدة القرن الأكثر أهمية ليمر على أفضل وجه ممكن للبشرية – ويسرد “إجراءات مفيدة للغاية” تستحق أخذها في الاعتبار على أي حال.
ويأتي أخيرًا في هذه السلسلة "نداءٌ لليقظة" بديلًا عن “نداء للعمل”. نظرًا إلى حالة عدم اليقين التي نواجهها، لا أعتقد أن الناس عليها الاستعجال “لفعل شيء ما” ثم المُضي قدمًا. بدلًا من ذلك، ينبغي عليهم اتخاذ أي إجراءات جيدة يمكنهم اتخاذها اليوم، ووضع أنفسهم في وضع أفضل لاتخاذ إجراءات هامة عندما يحين الوقت.
بعض المقالات الإضافية التي توضح النقاط التي نوقشَت في هذه السلسلة:
- Some additional detail on what I mean by “most important century”
- A note on historical economic growth: كيف تتأثر حُجة “القرن الأكثر أهمية” إذا تغيرت صورتنا عن التاريخ الاقتصادي على المدى الطويل.
- More on “multiple world-size economies per atom”: استكمال لمقال “لا يمكن أن يستمر هذا الأمر” للمتشككين.
- Weak point in “most important century”: full automation (يُقر هذا المقال بأنه كان بإمكاني القيام بالمزيد لمعالجة مسألة ما مستوى أتمتة الذكاء الاصطناعي المطلوب لإحداث العواقب التي أتناقش فيها، ويضيف قليلًا في هذه النقطة).
- Weak point in “most important century”: lock-in (يُقر هذا المقال بأنه كان بإمكاني القيام بالمزيد لمعالجة مسألة كيف يمكن للذكاء الاصطناعي أن يؤدي إلى “غلق” المستقبل على المدى الطويل، ويضيف قليلًا في هذه النقطة).
- “Biological anchors” is about bounding, not pinpointing, AI timelines: المزيد حول كيف استخدمت إطار “المرجعيات البيولوجية”، موجه للقراء المتشككين.
لقد أدرجت بعض المصادر الرئيسية لهذه السلسلة في مكان واحد هنا، لأولئك المهتمين بالمزيد من التفاصيل.
المقال الأول في سلسلة: كل الرؤى الممكنة حول مستقبل البشرية جامحة