التنبؤ بالذكاء الاصطناعي التحويلي: ما هو عبء الإثبات؟

هذه مقالة من أصل 4 مقالات تلخص مئات الصفحات من التقارير التقنية التي تركز بالكامل تقريبًا على توقع عدد واحد: العام الذي سيتم فيه تطوير الذكاء الاصطناعي التحويلي⁠⁠1.

وأعني بمصطلح “الذكاء الاصطناعي التحويلي”: “الذكاء الاصطناعي القادر على جلبنا إلى مستقبل جديد ومختلف نوعيًا”. وأنا أركز بالأخص على ما أسميه “باستا” (PASTA): أنظمة الذكاء الاصطناعي التي يمكنها بالأساس أتمتة جميع الأنشطة البشرية اللازمة لتسريع التقدم العلمي والتكنولوجي.

وكلما تم تطوير “باستا” في وقتٍ أقرب، كلما تغير العالم جذريًا في وقتٍ أقرب، وزادت أهمية التفكير اليوم في كيفية جعل تلك التغييرات إيجابية لا سلبية.

في الأجزاء المقبلة، سأعرض طريقتين للقيام بـ “أفضل تخمين” حول متى يمكننا توقع تطوير الذكاء الاصطناعي التحويلي. ولكن أولاً، في هذا الجزء، سأتناول السؤال: ما مدى جودة أساليب التنبؤ هذه بحيث نأخذها على محمل الجدية؟ بعبارة أخرى، ما هو “عبء الإثبات” لتوقع جداول زمنية للذكاء الاصطناعي التحويلي؟

عندما يتوقع شخصٌ ما ظهور الذكاء الاصطناعي التحويلي في القرن الحادي والعشرين - خاصةً عندما يكون واضحًا بشأن التبعات الكاملة التي سيجلبها الذكاء الاصطناعي التحويلي - فإن الرد البديهي الشائع الذي سيواجهه هو شيء مثل: “إنها فكرةٌ مستبعدة وجنونية أن يأتي الذكاء الاصطناعي التحويلي في هذا القرن. لذا يجب أن تكون حججك جيدة حقًا.”.

أعتقد أن هذا رد فعل أولي معقول جدًا تجاه التوقعات حول الذكاء الاصطناعي التحويلي (ويتطابق مع ردة فعلي الأولية). ولكنني حاولت فحص ما الذي يسوق هذا الرد وكيف يمكن تبريره، وبعد أن قمت بذلك، وجدت أنا في النهاية أنني لا أتفق مع هذا الرد.

• أعتقد أن هناك عدة أسباب تجعلنا نعتقد أن الذكاء الاصطناعي التحويلي - أو شيء مماثل بنفس الأهمية - مرجح بعض الشيء في هذا القرن، حتى قبل أن نفحص تفاصيل البحث في مجال الذكاء الاصطناعي وتقدمه وما إلى ذلك.
• أعتقد أيضًا أنه في أنواع الجداول الزمنية متعددة العقود التي أتحدث عنها، يجب أن نكون عامةً منفتحين جدًا على تغييرات غريبة ومزعجة وحتى ثورية. ومع هذه الخلفية، أعتقد أن التقديرات المحددة والمبحوثة جيدًا بشأن موعد ظهور الذكاء الاصطناعي التحويلي يمكن أن تكون موثوقة، حتى إذا كانت تنطوي على الكثير من التخمين وليست يقينية.

وفي هذا المقال سأحاول أن أشرح وجهة نظري.

أدناه، سأكون (أ) أكثر تحديدًا بشأن تنبؤات الذكاء الاصطناعي التحويلي التي أدافع عنها. ثم (ب) أناقش صياغة رد الفعل على هذه التطورات بأنها “جامحة جدًا” لهذه التنبؤات. ثم (ج) سأستعرض كل صف من الصفوف أدناه، وكل صف هو طريقة مختلفة لصياغتها.

زاوية “عبء الإثبات”	مقالات رئيسية متعمقة (عناوين مختصرة)	وجهة نظري
من غير المحتمل أن يكون أي قرن معين هو “الأهم”. (المزيد)	اللحظة المفصلية؛ الرد على اللحظة المفصلية	لدينا العديد من الأسباب للتفكير في أن هذا القرن يُعد قرنًا “مميزًا” قبل النظر في تفاصيل الذكاء الاصطناعي. والكثير منها تناولناه في المقالات السابقة ؛ ونتناول نقطة أخرى في الصف التالي.
ما الذي تتوقعه بشأن الجداول الزمنية للذكاء الاصطناعي التحويلي، بناءً فقط على المعلومات الأساسية بخصوص (أ) عدد السنوات التي حاول فيها الناس بناء ذكاء اصطناعي تحويلي ؛ (ب) مقدار ما “استثمروا” فيه (من حيث عدد الباحثين في مجال الذكاء الاصطناعي وكمية الحوسبة المستخدمة) ؛ (ج) ما إذا كانوا قد طوروا هذه التقنية بعد (حتى الآن، لم يفعلوا)؟ (المزيد)	السوابق شبه الدالة	التقديرات المركزية: 8٪ بحلول عام 2036 ؛ 13٪ بحلول عام 2060 ؛ 20٪ بحلول 2100⁠⁠2. من وجهة نظري، يسلط هذا التقرير الضوء على أن تاريخ الذكاء الاصطناعي قصير، والاستثمار في الذكاء الاصطناعي يتزايد بسرعة، ولذا لا ينبغي أن نتفاجأ كثيرًا إذا تم تطوير الذكاء الاصطناعي التحويلي قريبًا.
بناءً على تحليل النماذج الاقتصادية والتاريخ الاقتصادي، ما مدى احتمالية “النمو المتفجر” - الذي يُعرف بأنه نمو سنوي للاقتصاد العالمي بنسبة> 30٪ - بحلول عام 2100 ؟ هل هذا بعيد بما فيه الكفاية عن ما هو «طبيعي» لدرجة أننا يجب أن نشك في الاستنتاج؟ (المزيد)	النمو المتفجر، المسار البشري	يتوقع مقال المسار البشري الماضي إلى الأمام، مما يعني نموًا متفجرًا بحلول 2043-2065. يَخلُص مقال النمو المتفجر إلى الآتي: “أجد أن الاعتبارات الاقتصادية لا تقدم سببًا وجيهًا لرفض إمكانية تطوير الذكاء الاصطناعي التحويلي في هذا القرن. في الواقع، هناك منظور اقتصادي عقلاني من المتوقع أن تسبب أنظمة الذكاء الاصطناعي المتقدمة بما فيه الكفاية نموًا متفجرًا.”
“كيف توقع الناس الذكاء الاصطناعي… في الماضي، وهل يجب علينا تعديل وجهات نظرنا اليوم لتصحيح الأنماط التي يمكننا ملاحظتها في التنبؤات السابقة ؟… لقد واجهنا وجهة نظر مفادها أن الذكاء الاصطناعي كان في الماضي عرضة للإفراط المتكرر في التهويل، وبالتالي يجب أن نتوقع أن توقعات اليوم من المرجح أن تكون مفرطة في التفاؤل ”. (المزيد)	توقعات الذكاء الاصطناعي السابقة	“يبدو أن ذروة الضجة المحيطة بالذكاء الاصطناعي كانت من 1956-1973. ومع ذلك، فإن الضجة التي تنطوي عليها بعض أشهر تنبؤات الذكاء الاصطناعي من هذه الفترة مبالغ فيها بشكل عام. ”.

من أجل الشفافية، لاحظ أن التقارير الخاصة بالصفوف الثلاثة الأخيرة هي جميعها تحليلات من موقع Open Philanthropy، وأنا الرئيس التنفيذي المشارك لموقع Open Philanthropy.

بعض الاحتمالات التقريبية

إليك بعض الأمور التي أعتقد بها حول الذكاء الاصطناعي التحويلي، والتي سأحاول الدفاع عنها:

• أعتقد أن هناك احتمالًا يمثل أكثر من 10٪ أن نشهد شيئًا يشبه “باستا” بما يكفي لتصنيفه كـ “ذكاء اصطناعي تحويلي” خلال 15 عامًا (بحلول عام 2036)، واحتمالًا يمثل حوالي 50٪ من أننا سنشهده خلال 40 عامًا (بحلول عام 2060)، وحوالي 2/3 من الاحتمالات أننا سنشهده في هذا القرن (بحلول عام 2100).
• بالاستناد إلى ما سبق، أعتقد أن هناك على الأقل 50٪ من الاحتمالات أن نرى بعد ذلك بوقت قريب عالمًا يديره أشخاص رقميون أو ذكاء اصطناعي غير متوافق أو شيء ما آخر يجعل من الإنصاف القول بأننا “انتقلنا إلى حالة لم يعد البشر فيها كما نعرفهم القوة الرئيسية في أحداث العالم.” (يتوافق هذا مع النقطة رقم 1 في تعريفي لـ “القرن الأهم” في خارطة الطريق.).
• وبالاستناد إلى ما سبق، أعتقد أن هناك احتمال بنسبة 50% على الأقل أن القوة العظمى الرئيسية في تشكيل أحداث العالم، أيًا كانت، ستتمكن من إنشاء حضارة مستقرة في المجرة لملايين السنين القادمة. (يتوافق هذا مع النقطة رقم 2 في تعريفي لـ “القرن الأهم” في خارطة الطريق.).

لقد وضعت أيضًا تفصيلًا أكثر حول ما أعنيه “بالقرن الأهم” هنا.

صياغة رد الفعل على التطورات بأنها “جامحة جدًا”

كثيرًا ما يعبر شخص ما عن وجهة نظر لا يمكنني أن أجد عيبًا ملموسًا فيها على الفور، ولكن أشعر بأنها “جامحة للغاية” لدرجة تجعلها غير محتملة. على سبيل المثال، “شركتي الناشئة ستكون جوجل القادمة” أو “ستصبح الكلية أمرًا قديمًا وعفا عليه الزمن خلال 10 سنوات” أو “كرئيس، سأجمع الجانبين معًا بدلاً من التحيز لجانب واحد فقط.”

أفترض أنه يمكن تصور ردة الفعل القائلة بأن أمرًا ما هو “هذا جامح جدًا”، ردًا على تصريحات مثل هذه يمكن صياغتها على النحو التالي : “مهما كانت حججك لاحتمالية حدوث X، هناك طريقة ملموسة للنظر إلى الأمور (غالبًا ما تكون مبسطة لدرجة مخلة، ولكنها تظل ذات صلة) تجعل حدوث X احتمالًا بعيدًا جدًا”.

بالنسبة للأمثلة التي ذكرتها للتو:

• “شركتي الناشئة ستكون جوجل القادمة ”. هناك أعداد كبيرة من الشركات الناشئة (ملايين؟)، وغالبية كبيرة منها لا تصبح شيئًا شبيهًا بجوجل (حتى عندما يعتقد مؤسسوها ذلك!)
• “ستصبح الكلية أمرًا قديمًا وعفا عليه الزمن خلال 10 سنوات*.”* الكلية لم يعف عليها الزمن قط على مدى مئات السنين.
• “بصفتي رئيسًا، سأجمع الجانبين معًا بدلاً من التحيز لجانب واحد فقط.” هذا أمر شائع يقوله المرشحون لرئاسة الولايات المتحدة، ولكن التحزبية يبدو أنها تزداد سوءًا على الأقل منذ عقدين.

كل حالة من هذه الحالات تؤسس نوعًا من نقطة بداية (أو “احتمال أولي”) “وعبء الإثبات”، ويمكننا بعد ذلك أن ننظر في مزيد من الأدلة التي قد تتغلب على هذا العبء. يعني ذلك أنه يمكننا أن نسأل مثلًا: ما الذي يجعل هذه الشركة الناشئة مختلفة عن العديد من الشركات الناشئة الأخرى التي تعتقد أنها يمكن أن تصبح جوجل القادمة ؟ ما الذي يجعل العقد القادم مختلفًا عن جميع العقود السابقة التي بقيت فيها الكليات مهمة؟ ما الذي يختلف في هذا المرشح الرئاسي عن المرشحين القليلين السابقين؟

هناك عدد من الطرق المختلفة للتفكير في عبء الإثبات لادعاءاتي أعلاه: عدد من الطرق للحصول على احتمالية أولية (“نقطة بداية”)، التي يمكن تحديثها بواسطة أدلة إضافية.

تعكس العديد من هذه الطرق جوانب مختلفة من الحدس القائل بأن أمرًا ما هو “هذا جامح جدًا”، من خلال توليد احتمالات أولية (في البداية على الأقل) تجعل الاحتمالات التي ذكرتها تبدو عالية جدًا.

في ما يلي، سأستعرض عددًا من هذه “الاحتمالات الأولية”، وسأفحص ما يعنونه بالنسبة «لعبء الإثبات» على طرق التنبؤ التي سأناقشها في مقالات لاحقة.

زوايا مختلفة لعبء الإثبات

التشكيك في “القرن الأهم”

إحدى زوايا عبء الإثبات تكون على هذا النحو:

• يدعي هولدن أن هناك فرصة تتراوح بين 15 إلى 30٪ لأن يكون هذا هو “القرن الأهم” بمعنى أو بآخر⁠⁠3.
• ولكن هناك الكثير من القرون، وبحسب التعريف فإن معظمها لا يمكن أن يكون الأهم. بشكل محدد:
  • كان البشر موجودين لمدة تتراوح بين 50,000 إلى نحو 5 ملايين سنة، اعتمادًا على كيفية تعريفك “للبشر”⁠⁠4. وهذا يعني وجود 500 إلى 50,000 قرن.
  • إذا افترضنا أن مستقبلنا سيستمر لمدة مساوية لماضينا، فما زال أمامنا من 1,000 إلى 100,000 قرن في المجمل.
  • لذا فإن الاحتمالية الأولية (نقطة البداية) لأن يكون قرن ما هو “القرن الأهم” هي 1/100,000 إلى 1/1,000.
• في الواقع، الأمر أسوأ من ذلك: تحدث هولدن عن استمرارية الحضارة لملايين السنين. وهذا يعني عشرات الملايين من القرون، لذا فإن الاحتمالية الأولية لأن يكون قرن ما هو “القرن الأهم” تكون أقل من 1/10,000,000 .

(كتاب «Are we living at the hinge of history? test» يطرح حججًا على هذا النحو العام، على الرغم من وجود بعض الاختلافات⁠⁠5).

تبدو هذه الحجة وكأنها قريبة جدًا من التقاط المصدر الأكبر لترددي السابق حول فرضية “القرن الأهم”. ومع ذلك، أعتقد أن هناك العديد من العلامات التي تشير إلى أن هذا ليس قرنًا عاديًا، حتى قبل أن ننظر في حجج محددة حول الذكاء الاصطناعي.

توجد نقطة رئيسية مؤكدة في مقالتي السابقة وهي أن «كل الرؤى الممكنة حول مستقبل البشرية جامحة». إذا كنت تعتقد أن البشر (أو أحفادنا) أمامنا مليارات السنين، فيجب أن تعتقد أننا من بين أقدم البشر، مما يجعل من المعقول أن يكون وقتنا من بين الأكثر أهمية. (هذه النقطة تم التأكيد عليها أيضًا في مقال "Thoughts on whether we’re living at the most influential time in history"، بالإضافة إلى التعليقات على النسخة السابقة من "Are we living at the most influential time in history?".)

بالإضافة إلى ذلك، فرغم وجود البشرية منذ بضعة ملايين من السنين ، إلا أن طوال تلك الفترة كانت لدينا تعداد سكاني منخفض جدًا وتقدم تكنولوجي محدود جدًا. حضارة البشرية بدأت قبل حوالي 10,000 سنة، ومنذ ذلك الحين وصلنا بالفعل إلى مرحلة بناء الحواسيب الرقمية القابلة للبرمجة واستكشاف نظامنا الشمسي.

مع أخذ هذه النقاط في الاعتبار، يبدو منطقيًا أن نفترض أننا في نهاية المطاف سنطلق حضارة مستقرة تمتد عبر المجرة في وقت ما خلال الـ 100,000 سنة المقبلة (1000 قرن). أو أن نعتقد أن هناك احتمالية 10٪ بأننا سنفعل ذلك في سنة من العشر آلاف سنة المقبلة (100 قرن). وفي كلا الحالتين، يشير ذلك إلى أن أي قرن محدد لديه فرصة تبلغ حوالي 1/1,000 أن يكون القرن الأكثر أهمية لإطلاق تلك الحضارة - وهذا أعلى بكثير من الأرقام المذكورة في الجزء السابق من هذا القسم. لا يزال هناك فارق بمقدار 100 مرة عن الأرقام التي ذكرتها أعلاه، لذا لا يزال هناك عبء إثبات.

هناك أسباب إضافية تجعلنا نعتقد أن هذا القرن غيرعادي. على سبيل المثال، طالع مقالة "لا يمكن لهذا الوضع أن يستمر":

• حجم الاقتصاد العالمي الإجمالي نما في القرنين الماضيين أكثر مما نما في بقية التاريخ مجتمعًا.
• لا يمكن الحفاظ على معدل النمو الاقتصادي الحالي لأكثر من 80 قرنًا آخرًا أو نحو ذلك. (وطبقًا لما سيتم مناقشته أدناه، إذا استؤنفت الاتجاهات التسارعية السابقة، فإن ذلك يعني نموًا متفجرًا والوصول إلى حدود ما يمكن تحقيقه في هذا القرن.).
• من المعقول أن العلم تقدم في القرون الخمسة الماضية أكثر مما تقدم في بقية التاريخ مجتمعًا.

نقطة أخيرة تجعل عصرنا مميزًا: نحن نتحدث عن موعد توقع الذكاء الاصطناعي التحويلي، ونعيش في وقت قريبٍ جدًا من بدايات الجهود في مجال الذكاء الاصطناعي. في أقل من قرن واحد من الزمان، انتقلنا من أول كمبيوتر إلكتروني متعدد الأغراض قابل للبرمجة إلى نماذج الذكاء الاصطناعي التي يمكنها التنافس مع البشر في التعرف على الكلام⁠⁠6، وتصنيف الصور وغير ذلك الكثير.

المزيد عن الآثار المترتبة على ذلك في القسم التالي.

السوابق شبه الدالة

Report on semi-informative priors (المختصرة في هذا المقال تحت اسم “السوابق شبه الدالة”) هي محاولة شاملة للتنبؤ بجداول زمنية للذكاء الاصطناعي التحويلي باستخدام أقل قدر ممكن من المعلومات حول تفاصيل الذكاء الاصطناعي. لذلك، فهو أحد الطرق لتوفير زاوية نظر حول “عبء الإثبات” - وهو إنشاء مجموعة مسبقة (نقطة بداية) من الاحتمالات لموعد تطوير الذكاء الاصطناعي التحويلي، قبل أن ننظر إلى الأدلة المفصلة.

المعلومات المركزية التي يستخدمها هي حول مقدار الجهد الذي تم بذله في تطوير الذكاء الاصطناعي حتى الآن. وفكرته الأساسية:

• إذا كنا نحاول وفشلنا في تطوير الذكاء الاصطناعي التحويلي لآلاف السنين، فإن فرص النجاح في العقود القادمة ستكون منخفضة.
• ولكن إذا كنا فقط نحاول تطوير أنظمة الذكاء الاصطناعي لبضعة عقود حتى الآن، فهذا يعني أن العقود القادمة يمكن أن تحتوي على جزء كبير من كل الجهد الذي تم بذله على الإطلاق. فرص تطويره في تلك الفترة ليست منخفضة جدا.
• أحد الطرق للتفكير في هذا هو أنه قبل أن ننظر في تفاصيل تقدم الذكاء الاصطناعي، يجب أن نكون إيجابيين إلى حد ما بشأن ما إذا كان تطوير الذكاء الاصطناعي التحويلي نسبيًا “سهلًا” (يمكن القيام به في بضعة عقود) أو “صعبًا” (يستغرق آلاف السنين). نظرًا لأن الأمور لا تزال في مراحلها الأولى، فإن احتمالية أنها “سهلة” لا تزال مفتوحة.

مزيد من التفاصيل حول نهج واستنتاجات التقرير:

زاوية التحليل. يطرح التقرير السؤال التالي (مع صياغة مختصرة): “لنفترض أنك دخلت عزلاً في اليوم الذي بدأ الناس يستثمرون في بناء أنظمة الذكاء الاصطناعي. والآن لنفترض أنك تتلقي تحديثات سنوية حول (أ) عدد السنين التي حاول الناس فيها بناء الذكاء الاصطناعي التحويلي. (ب) مقدار ما استثمروه فيه (من حيث الوقت والمال) ؛ (ج) ما إذا كانوا قد نجحوا بعد (حتى الآن، لم ينجحوا). ما الذي يمكنك توقعه بشأن الجداول الزمنية للذكاء الاصطناعي التحويلي، مع توافر هذه المعلومات فقط، اعتبارًا من عام 2021؟”

تستلهم طرقه من مشكلة الشروق: ” لنفترض أنك لا تعرف شيئًا عن الكون سوى ما إذا كانت الشمس قد أشرقت في كل يوم. لنفترض أنه لدينا “ن” تمثل عدد الأيام حتى الآن، وأن الشمس كانت تشرق في كل يوم منها. ما هي احتمالية أن تشرق الشمس غدًا؟” لا تحتاج إلى معرفة أي شيء عن علم الفلك للحصول على إجابة مقبولة لهذا السؤال - هناك طرق رياضية بسيطة لتقدير احتمالية حدوث حدث X غدًا، استنادًا إلى حقيقة حدوث X في كل يوم في الماضي. “التقديرات الأولية شبه المَعلُومة” تقوم بتوسيع هذه الطرق الرياضية لتكييفها لجداول زمنية للذكاء الاصطناعي التحويلي. (في هذه الحالة، “X” هو “فشل تطوير الذكاء الاصطناعي التحويلي، كما حدث في الماضي)”.

الاستنتاجات. لن أدخل في تفاصيل عمل التحليل (يرجى الاطلاع على المقالة المدونة لملخص التقرير لمزيد من التفاصيل)، ولكن تتضمن استنتاجات التقرير ما يلي:

• يضع احتمالية وجود الذكاء العام الاصطناعي (الذكاء العام الاصطناعي والذي سيشمل باستا) بحلول عام 2036 بين 1-18%، مع أفضل احتمالية متوقعة هي نسبة 8%.
• يضع احتمالية وجود الذكاء العام الاصطناعي بحلول عام 2060 بحوالي 3-25% (أفضل احتمالية متوقعة هي حوالي 13%)، واحتمالية وجود الذكاء العام الاصطناعي بحلول عام 2100 بحوالي 5-35%، وأفضل احتمالية متوقعة هي 20%.

هذه الاحتمالات أقل من الاحتمالات التي ذكرتها في الأعلى، ولكنها ليست قليلة جدًا. وهذا يعني أنه ليس هناك عبء إثبات هائل عند إدخال أدلة إضافية حول تفاصيل استثمارات الذكاء الاصطناعي وتقدمه.

ملاحظات عن تاريخ بدء النظام. يوجد شيء مثير للاهتمام هنا وهو أن التقرير أقل حساسية مما قد تعتقد بشأن كيفية تحديد “تاريخ البدء” لمحاولة تطوير الذكاء العام الاصطناعي. (انظر هذا القسم في التقرير الكامل.) وهذا يعني ما يلي:

• بشكل افتراضي، يقوم نموذج “السوابق شبه الدالة” بتصور الوضع كما لو أن البشرية بدأت في “المحاولة” لبناء الذكاء العام الاصطناعي في عام 1956⁠⁠7. وهذا يعني أن الجهود لم تتجاوز الـ 65 عامًا، وبالتالي فإن العقود القادمة ستمثل حصة كبيرة من الجهود.
• لكن التقرير يبحث أيضًا في مقاييس أخرى لـ “جهود بناء الذكاء العام الاصطناعي”، وأبرزها وقت الباحثين و”الحوسبة” (قوة المعالجة). حتى إذا أردت أن تقول أننا كنا نحاول ضمنيًا بناء الذكاء العام الاصطناعي منذ بداية الحضارة البشرية قبل حوالي 10,000 عام، فإن العقود القادمة ستحتوي على حصة كبيرة من الجهود البحثية والحوسبة المستثمرة في محاولة القيام بذلك.

خلاصة القول في هذا القسم.

• في بعض الأحيان أسمع شخصًا يقول شيئًا في هذا السياق “لقد حاولنا بناء الذكاء الاصطناعي التحويلي لعقود، ولم نحقق ذلك بعد - لماذا تعتقد أن المستقبل سيكون مختلفًا؟” على الأقل، يعزز هذا التقرير ما أراه موقفًا طبيعيًا، ألا وهو أن عدة عقود من “عدم وجود ذكاء اصطناعي تحويلي حتى الآن، على الرغم من الجهود المبذولة لبنائه” لا تعتبر حجة قوية ضد احتمالية تحقق الذكاء الاصطناعي التحويلي في العقد القادم أو في العقود القليلة المقبلة.
• في الواقع، في إطار الأمور العامة، نعيش في فترة زمنية قريبة جدًا من بدايات محاولات تطوير الذكاء الاصطناعي – وهي طريقة أخرى يكون فيها قرننا “مميزًا، ”، لذا لا ينبغي أن نكون متفاجئين جدًا إذا تبين أن هذا القرن هو القرن المحوري لتطوير الذكاء الاصطناعي.

النمو الاقتصادي

زاوية أخرى في ما يتعلق بعبء الإثبات تتمثل فيما يلي:

إذا تم تطوير باستا في أي وقت قريب، وإذا كانت له التبعات المفصلة في هذه السلسلة من المقالات، فسيكون هذا تغييرًا ضخمًا في العالم - والعالم ببساطة لا يتغير بهذه السرعة.

لكي نقدر ذلك: فقد نما الاقتصاد العالمي بمعدل بضع نقاط في السنوات القليلة الماضية لأكثر من 200 عام، وسيعني باستا معدل نمو أسرع بكثير، ربما 100٪ في السنة أو أكثر.

وإذا كنا بالفعل نتجه نحو عالم من النمو الاقتصادي المتفجر، يجب أن يتسارع النمو الاقتصادي اليوم. إنه ليس كذلك - إنه يركد، على الأقل في الاقتصاديات الأكثر تطورًا. وإذا كان الذكاء الاصطناعي سيقوم حقًا بثورة في كل شيء، فإن أقل ما يمكن أن يفعله الآن هو خلق قيمة كافية - منتجات وصفقات وشركات جديدة بما يكفي - لجعل النمو الاقتصادي العام للولايات المتحدة يتسارع.

قد يؤدي الذكاء الاصطناعي إلى تقنيات جديدة رائعة، ولكن لا يوجد أي علامة على أي شيء يقترب من أهمية باستا. إن الانتقال من حالتنا الحالية إلى الحالة التي ستأخذنا إليها الباستا هو نوع من التغيير المفاجئ الذي لم يحدث في الماضي، ومن غير المرجح أن يحدث في المستقبل.

(إذا لم تكن ملمًا بالنمو الاقتصادي، قد ترغب في قراءة شرحي البسيط قبل الاستمرار).

أعتقد أن هذه وجهة نظر معقولة، وخاصة أنها تجعلني متشككًا في التوقعات الوشيكة جدًا للذكاء الاصطناعي التحويلي (2036 وما قبلها).

الرد الرئيسي الخاص بي هو أن صورة النمو المستقر - “نمو الاقتصاد العالمي بمعدل بضع نقاط سنويًا” - تصبح أعقد عندما نراجع التاريخ الاقتصادي بأكمله، بدلاً من النظر فقط إلى القرون القليلة الماضية. من هذا المنظور، كان النمو الاقتصادي يتسارع بشكل كبير⁠⁠8، ويمكن أن يؤدي توقع تسارع مماثل في الأعوام القادمة إلى توقع نمو اقتصادي سريع جدًا في العقود القادمة.

لقد كتبت عن هذا سابقًا في "جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي" و"لا يمكن لهذا الوضع أن يستمر"؛ هنا سألخص بإيجاز شديد التقارير الرئيسية التي استشهدت بها هناك.

Could advanced AI drive explosive economic growth? يطرح السؤال صراحة، “ما هي احتمالات ‘النمو المتفجر’ - المعرف بأنه نمو سنوي يفوق 30٪ في الاقتصاد العالمي بحلول عام 2100؟” إنه يأخد في عين الاعتبار الحجج من الجانبين، بما في ذلك كلا الأمرين (أ) النظرة الطويلة للتاريخ التي تظهر َتسارع النمو؛ (ب) حقيقة أن النمو كان مستقرًا بشكل ملحوظ على مدى الـ200 سنة الماضية تقريبًا، مما يعني أن هناك شيئًا قد تغير.

ويَخلُص إلى أن “إمكانيات النمو على المدى الطويل مفتوحة بشكل واسع. كل من النمو المتفجر والركود ممكنان”.

Modeling the human trajectory يتساءل عن المستقبل الذي يمكننا توقعه إذا قمنا باستقراء الاتجاهات الحالية على مدار التاريخ الاقتصادي. الإجابة هي نمو متفجر بحلول عام 2043-2065 - وهذا ليس بعيدًا جدًا عما تشير إليه احتمالاتي أعلاه. يعني هذا بالنسبة لي أن عدم التسارع الاقتصادي على مدى 200 سنة مضت قد يكون “ومضة” - على وشك أن تُحل من خلال تطوير التكنولوجيا التي تعيد دورة ردود الفعل (التي ناقشتها في مقال جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي) والتي يمكن أن تؤدي إلى استمرار التسارع.

لتوضيح الأمر، هناك أيضًا أسباب جيدة لعدم إيلاء هذا الأمر اهتمامًا كبيرًا من ناحية التنبؤ⁠⁠9، وأقدمه بوصفه منظور حول “عبء الإثبات” أكثر من كونه توقعًا رئيسيًا لموعد تطوير باستا.

تاريخ «ضجة الذكاء الاصطناعي»

زاوية أخرى حول عبء الإثبات: أحيانًا أسمع تعليقات في هذا السياق تقول “لقد كثرت المبالغة في الحديث عن الذكاء الاصطناعي عدة مرات في الماضي، والذكاء الاصطناعي التحويلي⁠⁠10 بشكل مستمر يكون ‘على وشك الحدوث’ وفقًا للتقنيين المتحمسين. وتقديراتك هي مجرد أحدث تقديرات في هذا التقليد. نظرًا لأن التقديرات السابقة كانت خاطئة، فهناك احتمال أن تكون تقديراتك أيضًا خاطئة.”.

ومع ذلك، لا أعتقد أن تاريخ «الضجة المحيطة الذكاء الاصطناعي» يدعم هذا النوع من الادعاءات. واستعرض مقال "What should we learn from past AI forecasts?" تاريخ الذكاء الاصطناعي لمحاولة فهم النمط التاريخي الفعلي «لضجة الذكاء الاصطناعي».

يعطي ملخصه الانطباعات التالية (يرجى ملاحظة أن «HLMI»، أو «ذكاء الآلة على مستوى الإنسان»، هو فكرة مشابهة إلى حد ما لباستا):

• ذروة ضجة الذكاء الاصطناعي يبدو أنها كانت من عام 1956 إلى 1973. ومع ذلك، فإن الضجة التي تصدرها بعض أشهر التنبؤات في مجال الذكاء الاصطناعي في هذه الفترة مبالغ فيها بشكل عام.
• بعد عام 1973 تقريبًا، يبدو أن عددًا قليلاً من الخبراء كانوا يناقشون «ذكاء الآلة على مستوى الإنسان»، HLMI (أو شيئًا مماثلاً) كاحتمال في المدى المتوسط، جزئيًا لأن العديد من الخبراء استفادوا من فشل التفاؤل المفرط في المجال في وقت سابق.
• يبدو أن الفترة الثانية الرئيسية لضجة الذكاء الاصطناعي في أوائل الثمانينات من القرن الماضي تعلقت بدرجة أكبر بإمكانية وجود “أنظمة متخصصة” مفيدة تجاريًا وذات غرض محدد، وليس بذكاء الآلة على مستوى الإنسان HLMI (أو شيء مشابه)…
• ليس من الواضح بالنسبة لي ما إذا كنت سأقتنع بالانتقادات المعاصرة للتفاؤل المبكر بالذكاء الاصطناعي، أو ما إذا كنت سأفكر في طرح الأنواع الصحيحة من الأسئلة المتشككة في ذلك الوقت. أكثر انتقادات جوهرية خلال السنوات الأولى كانت من قِبل هوبرت درايفوس (Hubert Dreyfus)، وتخميني هو أنني كنت سأجدها مقنعة في ذلك الوقت، ولكن لا يمكنني أن أكون واثقًا من ذلك.

ملخصي هو أنه ليس من العادل بشكل خاص أن نقول إن هناك العديد من الموجات المنفصلة والتوقعات الزائدة بشأن الذكاء الاصطناعي التحويلي. ربما كانت التوقعات مرتفعة جدًا في الفترة من عام 1956 إلى 1973، ولكن أعتقد أنه ليس هناك الكثير من الأسباب لوضع “عبء إثبات” ضخم على التقديرات المبحوثة جيدًا اليوم.

زوايا أخرى حول عبء الإثبات

في ما يلي بعض الطرق الأخرى الممكنة لالتقاط ردة الفعل القائلة بأن هذه التوقعات “جامحة جدًا”:

ادّعاءات “قضيتي مهمة للغاية”. العديد من الأشخاص - في جميع أنحاء العالم اليوم وعلى مر التاريخ - يدعون أو قد ادعوا أن أي قضية يعملون عليها ذات أهمية هائلة، وغالبًا ما يقولون إنها يمكن أن تكون لها أثر على مستوى عالمي أو حتى على مستوى المجرة. ومعظمهم لابد أن يكونوا على خطأ.

أعتقد هنا أن السؤال الرئيسي هو ما إذا كان هذا الادعاء مدعومًا بحجج أفضل، و/أو أشخاص أكثر جدارة بالثقة، من الادعاءات «قضيتي مهمة جدًا» الأخرى. إذا كنت تقرأ حول فرضية “القرن الأهم” بتفصيل، فأعتقد أنك تضع نفسك في موقف جيد للإجابة على هذا السؤال بنفسك.

رأي الخبير سيتم تناوله بشكل مفصل في المقالات المستقبلية. في الوقت الحالي، يكون موقفي الرئيسي هو أن الإدعاءات التي أقدمها لا تتعارض مع إجماع خبراء معين، ولا يدعمها الإجماع أيضًا. إنها بالأحرى إدعاءات حول مواضيع ليس لها “مجال” من الخبراء المنكبين على دراستها. قد يختار بعض الأشخاص تجاهل أي إدعاءات غير مدعومة بشكل نشط من قِبل توافق آراء خبراء قوي؛ ولكن نظرًا للمخاطر، لا أعتقد أن هذا هو ما يجب علينا فعله في هذه الحالة.

(ومع ذلك، فإن أفضل استطلاع متاح لباحثي الذكاء الاصطناعي يتوصل إلى استنتاجات تبدو متسقة على نطاق واسع مع استنتاجاتي، كما سأناقش في المقالة التالية).

ردود فعل “هذا جامح جدًا” لم أتناولها. أنا متأكد من أن هذا المقال لم يتناول كل الزوايا الممكنة التي قد تكون وراء ردة الفعل هذه (لكن ليس بسبب قلة المحاولة!) بعض الأشخاص قد يكون ببساطة لديهم بديهيات لا يمكن اختزالها تقول بأن الادعاءات المقدمة في هذه السلسلة أمور جامحة جدًا لدرجة لا يمكن أخذها على محمل الجد.

نظرة عامة على هذه الزوايا. شيء يزعجني في معظم الزوايا في هذا القسم هو أنها تبدو عامة جدًا. إذا كنت ترفض ببساطة (في غياب الأدلة الدامغة) أن تصدق أي ادعاء يتوافق مع نمط “قضيتي مهمة جدًا”، أو لم يتم دعمه بالفعل بتوافق خبراء قوي، أو يبدو ببساطة جنونيًا، فإن ذلك يبدو نمط استدلال خطير. بالتأكيد، بعض الأشخاص، في بعض الأحيان، سوف يعيشون في القرن الأهم؛ ويجب أن نشك في أي أنماط منطقية قد نستند إليها⁠⁠11 وتجعل هؤلاء الأشخاص يستنتجون أنهم لا يعيشون في القرن الأهم.

المقالة التالية في السلسلة: هل نتجه نحو ذكاء اصطناعي تحويلي؟ (كيف يمكننا معرفة ذلك؟)

---

المنشور الأصلي: Holden Karnofsky (2021) Forecasting transformative AI: what’s the burden of proof?, Cold Takes, 17 أغسطس.

ترجمة: أيمن الحسيني.