الجداول الزمنية للذكاء الاصطناعي: عن الحُجج ومواقف «الخبراء»

تبدأ هذه المقالة بملخص لمتى ينبغي أن نتوقع تطوير الذكاء الاصطناعي التحويلي، بناءً على الزوايا المتعددة التي تمت مناقشتها سابقًا في هذه السلسلة. أعتقد أن هذا مفيد، حتى إذا قرأت جميع الأجزاء السابقة، ولكن إذا كنت ترغب في تخطيه، انقر هنا.

ثم أتناول السؤال: «لماذا لا يوجد إجماع متماسك بين الخبراء في هذا الموضوع؟ وماذا يعني ذلك بالنسبة لنا؟».

أعتقد أن هناك احتمال يزيد عن 10% لأن نرى الذكاء الاصطناعي التحويلي خلال 15 عامًا (بحلول عام 2036)؛ واحتمال بنسبة 50% تقريبًا لرؤيته خلال 40 عامًا (بحلول عام 2060)؛ واحتمال بنحو 2/3 لرؤيته في هذا القرن (بحلول عام 2100).

(أعني «بالذكاء الاصطناعي التحويلي: الذكاء الاصطناعي القادر على تحقيق مستقبل جديد ومختلف نوعيًا». لقد حاججت بأن الذكاء الاصطناعي المتطور يمكن أن يكون كافيًا لجعل هذا القرن الأكثر أهمية.)

هذا هو استنتاجي العام استنادًا إلى عدد من التقارير الفنية التي تتناول التوقعات حول الذكاء الاصطناعي من زوايا مختلفة - منها العديد من التقارير التي أنتجتها Open Philanthropy على مر السنوات القليلة الماضية في محاولة منا لتطوير صورة شاملة للتوقعات المتعلقة بالذكاء الاصطناعي التحويلي لإحاطة المانح المعنيّ بالرؤية بعيدة المدى.

وفيما يلي ملخص في جدول واحد للزوايا المختلفة حول توقعات الذكاء الاصطناعي التحويلي التي ناقشتها، مع روابط لمناقشة أكثر تفصيلًا في المقالات السابقة والتقارير الفنية الأساسية:

زاوية التنبؤ	المقالات الأساسية المتعمقة (عناوين مختصرة)	استنتاجاتي
تقديرات الاحتمالات للذكاء الاصطناعي التحويلي
استطلاع الخبراء. ما الذي يتوقعه باحثو الذكاء الاصطناعي؟	When will AI exceed human performance? Evidence from AI experts	يشير استطلاع الخبراء⁠⁠1 إلى احتمالية بحوالي 20% بحلول عام 2036؛ واحتمالية بحوالي 50% بحلول عام 2060؛ واحتمالية بحوالي 70% بحلول عام 2100. تحظى الأسئلة المطروحة بصياغة مختلفة قليلًا (مطروحة على أقلية من المشاركين) بتقديرات متأخرة كثيرًا.
إطار الدعائم البيولوجية. بناءً على الأنماط المعتادة في تقدير تكلفة “تدريب” الذكاء الاصطناعي، ما هي التكلفة اللازمة لتدريب نموذج ذكاء اصطناعي بحجم دماغ بشري لأداء المهام الأصعب التي يقوم بها البشر؟ ومتى ستكون رخيصة بما فيه الكفاية لنتوقع أن يقوم شخص ما بذلك؟	الدعائم Draft report on AI timelines، استنادًا إلى How much computational power does it take to match the human brain? حوسبة الدماغ.	احتمالية أكثر من 10% بحلول عام 2036؛ واحتمالية بحوالي 50% بحلول عام 2055؛ واحتمالية بحوالي 80% بحلول عام 2100.
زوايا حول عبء الإثبات
من غير المرجح أن يكون أي قرن معين الأكثر أهمية. (المزيد)	Are we living at the hinge of history? test؛ Thoughts on whether we’re living at the most influential time in history	لدينا العديد من الأسباب للاعتقاد بأن هذا القرن هو قرن “خاص” قبل النظر في تفاصيل الذكاء الاصطناعي. تم تناول الكثير من هذه الأسباب في المقالات السابقة؛ وغيرها سيتم تناولها في الصف التالي.
ما هو توقعك بشأن الجداول الزمنية للذكاء الاصطناعي التحويلي، بناءً فقط على المعلومات الأساسية حول (أ) عدد سنوات التي حاول فيها الناس بناء الذكاء الاصطناعي التحويلي؛ (ب) مقدار “الاستثمار” فيه (من حيث عدد باحثي الذكاء الاصطناعي وكمية الحسابات التي يستخدمونها)؛ (ج) ما إذا كانوا فعلوا ذلك بالفعل (حتى الآن، لم يفعلوا)؟ (المزيد)	Semi-informative priors over AI timelines	التقديرات المركزية: 8% بحلول عام 2036؛ و13% بحلول عام 2060؛ و20% بحلول عام 2100⁠⁠2. في رأيي، يشير هذا التقرير إلى أن تاريخ الذكاء الاصطناعي قصير، وأن الاستثمار في الذكاء الاصطناعي يزداد بسرعة، ولذا لا ينبغي أن نُفاجأ إذا طُور الذكاء الاصطناعي التحويلي قريبًا.
بناءً على تحليل النماذج الاقتصادية والتاريخ الاقتصادي، ما احتمالية حدوث “النمو المتفجر” - المعرّف بأنه النمو السنوي بنسبة أكثر من 30٪ في الاقتصاد العالمي - بحلول عام 2100؟ هل هذا بعيد عما هو “طبيعي” بحيث يجب علينا أن نشك في الاستنتاج؟ (المزيد)	Report on whether AI could drive explosive economic growth، Modeling the human trajectory	يتوقع مقال Modeling the human trajectory الماضي إلى الأمام، مما يعني نموًا متفجرًا بحلول عام 2043-2065. بينما يخلُص مقال Report on whether AI could drive explosive economic growth إلى: «لا أرى أن الاعتبارات الاقتصادية توفر أسبابًا جيدة لرفض إمكانية تطوير الذكاء الاصطناعي التحويلي في هذا القرن. في الواقع، هناك وجهة نظر اقتصادية معقولة تتوقع أن تتسبب أنظمة الذكاء الاصطناعي المتقدمة بما فيه الكفاية في نمو متفجر».
”كيف تنبأ الناس بالذكاء الاصطناعي … في الماضي، وهل يجب علينا تعديل رؤيتنا اليوم لتناسب الأنماط التي يمكننا ملاحظتها في التنبؤات السابقة؟ … لقد واجهنا وجهة النظر التي تقول أن الذكاء الاصطناعي كان عرضة للتهويل المتكرر في الماضي، وبالتالي يجب أن نتوقع أن تكون التوقعات الحالية مفرطة التفاؤل.” (المزيد)	What should we learn from past AI forecasts?	“يبدو أن ذروة ضجة الذكاء الاصطناعي كانت بين عام 1956 و1973. ومع ذلك، فإن الضجة التي أحدثتها بعض التوقعات الأشهر للذكاء الاصطناعي في هذه الفترة مبالغ فيها عادة.”

من أجل الشفافية، يرجى ملاحظة أن العديد من التقارير الفنية عبارة عن تحليلات من موقع Open Philanthropy، وأنا المدير التنفيذي المشارك في Open Philanthropy.

بالأخذ في الاعتبار ما سبق، أتوقع أن بعض القراء لا يزالون يشعرون بشيء من عدم الراحة. حتى إذا كانوا يعتقدون أن حججي منطقية، قد يتساءلون: إذا كان هذا صحيحًا، فلماذا لا يُناقَش ويحظى بقبول على نطاق أوسع؟ ما هو حال رأي الخبراء؟

مُلخّصي لحالة رأي الخبراء في الوقت الحالي هو:

• لا تتعارض الادعاءات التي أقدمها مع أي إجماع معين للخبراء. (في الواقع، فإن الاحتمالات التي قدمتها ليست بعيدة جدًا عن توقعات الباحثين في مجال الذكاء الاصطناعي، كما هو موضح في الصف الأول.) ولكن هناك بعض الدلائل على أنهم لا يفكرون مليًا في هذه المسألة.
• حظيت تقارير Open Philanthropy التقنية التي اعتمدت عليها بمراجعة هامة من قِبل خبراء خارجيين. حيث راجع باحثون في تعلم الآلة مقال Draft report on AI timelines، وراجع علماء أعصاب How much computational power does it take to match the human brain?، بينما راجع اقتصاديون مقال Report on whether AI could drive explosive economic growth، في حين راجع أكاديميون متخصصون في موضوعات مرتبطة بعدم اليقين و/أو الاحتمال مقال Semi-informative priors over AI timelines⁠⁠3. (بعض هذه المراجعات احتوت على نقاط خلاف هامة، ولكن لم تُظهِر أي من هذه النقاط تعارضًا مع إجماع واضح للخبراء أو الأدبيات في المجال.).
• لكن لا يوجد أيضًا أي إجماع فعلي قوي يدعم ادعاءات من قبيل «هناك على الأقل احتمال بنسبة 10% لظهور الذكاء الاصطناعي التحويلي بحلول عام 2036» أو «هناك احتمالية جيدة على أننا في القرن الأكثر أهمية للبشرية»، على نحو ما يوجد الإجماع المتعلق يدعم مثلا بالحاجة لاتخاذ إجراءات لمواجهة التغيرات المناخية.

في النهاية، تدور ادّعاءاتي ببساطة حول موضوعات ليس لديها ببساطة «مجال» من الخبراء مكرس لدراستها. هذا أمر مخيف في حد ذاته، وهو ما وشيء أتمنى أن يتغير في نهاية المطاف.

ولكن هل يجب أن نكون مستعدين للتصرف وفقًا لفرضية “القرن الأهم” في هذه الأثناء؟

سوف أناقش أدناه:

• كيف يمكن أن يبدو “مجال توقعات الذكاء الاصطناعي”.
• وجهة نظر “متشككة” تقول أن المناقشات الحالية حول هذه الموضوعات صغيرة ومتجانسة ومنعزلة جدًا (وهو ما أتفق معه) - وبالتالي لا يجب علينا أن نتصرف وفقًا لفرضياتة “القرن الأكثر أهمية” حتى يصبح هناك مجال ناضج وقوي (وهو ما لا أتفق معه).
• لماذا أعتقد أنه يجب علينا أخذ الفرضية على محمل الجد في الوقت الحالي، سواء تطور أو لم يتطور إلى أن يتطور - وفي حال لم يتطور - مثل هذا المجال:
  • ليس لدينا وقت للانتظار حتى يتوصل الخبراء إلى إجماع قوي.
  • إذا كان هناك تفنيدات مقنعة - أو خبراء مستقبليون قد يتمكنون من تطوير مثل هذه التفنيدات - فإننا لم نجدهم بعد. كلما أخذنا الفرضية على محمل الجد، زادت احتمالية ظهور مثل هذه التفنيدات. (نظرية قانون كانينجهام: «أفضل طريقة للحصول على إجابة صحيحة هي نشر إجابة خاطئة».).
  • أعتقد أن الإصرار المستمر على وجود إجماع متماسك بين الخبراء يعتبر نمطًا خطيرًا في التفكير. في رأيي، لا بأس أن يكون هناك بعض الخطر من الخداع الذاتي والعزلة، مقابل فعل الشيء الصحيح عندما يكون الأكثر أهمية.

ما نوع الخبرة المتعلقة بتوقعات الذكاء الاصطناعي؟

تشمل الأسئلة التي تحللها التقارير التقنية الواردة أعلاه ما يلي:

• هل تصبح قدرات الذكاء الاصطناعي أكثر إثارة للإعجاب مع مرور الوقت؟ (الذكاء الاصطناعي، تاريخ الذكاء الاصطناعي)
• كيف يمكننا مقارنة نماذج الذكاء الاصطناعي بالأدمغة الحيوانية/البشرية؟ (الذكاء الاصطناعي، علم الأعصاب)
• كيف يمكننا مقارنة قدرات الذكاء الاصطناعي بقدرات الحيوانات؟ (الذكاء الاصطناعي، علم السلوك الحيواني)
• كيف يمكننا تقدير تكلفة تدريب نظام ذكاء اصطناعي كبير على مهمة صعبة، استنادًا إلى المعلومات التي لدينا حول تدريب نظم الذكاء الاصطناعي السابقة؟ (الذكاء الاصطناعي، توفيق المنحنى المناسب)
• كيف يمكننا إعطاء تقدير بأقل قدر من المعلومات حول الذكاء الاصطناعي التحويلي، استنادًا فقط إلى عدد السنوات/ الباحثين/ الدولارات المستثمرة في هذا المجال حتى الآن؟ (الفلسفة، الاحتمال)
• ما احتمالية حدوث نمو اقتصادي متفجر في هذا القرن، استنادًا إلى النظرية والاتجاهات التاريخية؟ (اقتصاديات النمو، التاريخ الاقتصادي)
• كيف كانت “ضجة الذكاء الاصطناعي” في الماضي؟ (تاريخ)

عند الحديث عن التداعيات الأوسع للذكاء الاصطناعي التحويلي على “القرن الأكثر أهمية”، ناقشت كذلك أمورًا مثل «ما مدى جدوى الأشخاص الرقميين وإقامة مستوطنات فضائية في جميع أنحاء المجرة؟» تمس هذه الموضوعات الفيزياء وعلم الأعصاب والهندسة وفلسفة العقل وغيرها.

لا توجد وظيفة أو مؤهل واضح يجعل شخصًا ما خبيرًا في مسألة متى يمكننا توقع الذكاء الاصطناعي التحويلي أو مسألة ما إذا كنا في القرن الأكثر أهمية.

(أنا أختلف خاصة مع أي ادّعاء بأن علينا الاعتماد حصرًا على الباحثين في مجال الذكاء الاصطناعي لطرح هذه التنبؤات. بالإضافة إلى حقيقة أنهم لا يبدو أنهم يفكرون مليًا في هذا الموضوع، أعتقد أن الاعتماد على المتخصصين في بناء نماذج الذكاء الاصطناعي الأقوى لإخبارنا عن متى قد يأتي الذكاء الاصطناعي التحويلي يشبه الاعتماد على شركات البحث والتطوير في مجال الطاقة الشمسية - أو شركات استخراج النفط، بحسب طريقة نظرك للأمر - للتنبؤ بانبعاثات الكربون وتغير المناخ. لديهم بالتأكيد جزء من الصورة. ولكن التنبؤ نشاط متميز عن الابتكار أو بناء أنظمة متقدمة.).

ولست متأكدًا حتى مما إذا كانت هذه الأسئلة لديها الشكل المناسب لتكون مجالًا أكاديميًا. يبدو محاولة التنبؤ بالذكاء الاصطناعي التحويلي، أو تحديد احتمالات أننا في القرن الأهم، مشابهةً للتالي:

• مشابهًا لنموذج الانتخابات لفايف ثيرتي إيت (“من سيفوز في الانتخابات؟”) بدلاً من العلوم السياسية الأكاديمية (“كيف يتفاعل الحكومات والناخبون؟”)،
• ومشابهًا أكثر لتداول الأسواق المالية (“هل سترتفع أم ستنخفض هذه الأسعار في المستقبل؟”) بدلاً من الاقتصاديات الأكاديمية (“لماذا تحدث الركودات⁠⁠4؟”)،
• ومشابهًا لأبحاث جيف ويل (“أي مؤسسة خيرية ستساعد الناس بشكل أكبر بالنسبة لكل دولار؟”) بدلاً من اقتصاديات التنمية الأكاديمية (“ما هي أسباب الفقر وكيف يمكن الحد منه⁠⁠5؟”).

يعني ذلك أنه ليس واضحًا بالنسبة لي ما هو “المنزل المؤسساتي” الطبيعي لخبرة توقعات الذكاء الاصطناعي التحويلي “والقرن الأكثر أهمية”. ولكن يبدو من المنصف القول إنه لا توجد مؤسسات كبيرة ومتينة مكرسة لهذا النوع من الأسئلة في الوقت الحاضر.

كيف يجب أن نتصرف في ظل غياب إجماع متماسك بين الخبراء؟

وجهة النظر المتشككة

في ظل غياب إجماع متماسك بين الخبراء، أتوقع أن يكون لدى بعض الناس (في الواقع، معظمهم) شك بغض النظر عن الحجج المقدمة.

إليك نسخة من رد متشكك عام جدًا وأشعر بالتعاطف معه إلى حدٍ ما:

1. كل هذا مجرد تفكير جامح.
2. أنت تقدم ادعاءً مبالغًا فيه بشأن العيش في القرن الأكثر أهمية. هذا النمط مطابق لخداع الذات.
3. لقد جادلت بأن عبء الإثبات لا ينبغي أن يكون مرتفعًا جدًا، لأن هناك العديد من الطرق التي نعيش بها في وقت مميز وغير مستقر. ولكن … لا أثق بنفسي في تقييم تلك الادعاءات، أو ادعاءاتك بشأن الذكاء الاصطناعي، أو أي شيء حقًا حول هذه الموضوعات الجامحة.
4. أنا قلق من قلة عدد الأشخاص المتفاعلين مع هذه الحجج. ومن حجم النقاش الضئيل والمتجانس والمنعزل. بشكل عام، يبدو هذا الأمر أشبه بقصة يتداولها الأشخاص الأذكياء بين بعضهم البعض - مع الكثير من الرسوم البيانية والأرقام لتبريرها - عن مكانهم في التاريخ. لا يبدو الأمر «حقيقيًا».
5. لذا عاود الاتصال بي عندما يكون هناك مجال ناضج من المتخصصين يضم مئات أو ربما آلاف الخبراء، ينتقدون ويقيّمون بعضهم البعض، وقد توصلوا إلى نفس نوع الإجماع الذي نراه فيما يتعلق بتغير المناخ.

أرى كيف يمكن أن تشعر بهذه الطريقة، ولقد كان لدي نفس الشعور في بعض الأحيان - خاصة في النقاط من 1 إلى 4. ولكن سأذكر ثلاثة أسباب تجعل النقطة رقم 5 لا تبدو صحيحة.

السبب الأول: ليس لدينا وقت لانتظار تحقق إجماع متماسك بين الخبراء

أشعر بالقلق من أن وصول الذكاء الاصطناعي التحويلي يمكن أن يأخذ شكل نسخة بطيئة وذات مخاطر عالية من جائحة كوفيد-19. هناك احتمالية لتوقع حدوث شيء كبير، إذا نظرت إلى أفضل المعلومات والتحليلات المتاحة اليوم. لكن الوضع غير مألوف بشكلٍ عام؛ فهو لا يتناسب مع الأنماط التي تتعامل مؤسساتنا معها بانتظام. وكل عام إضافي من العمل يكون ثمينًا.

يمكنك أيضًا التفكير في الأمر باعتباره نسخة مسرَّعة من العلاقة مع التغير المناخي. تخيل لو أن انبعاثات الغازات الدفيئة بدأت في الارتفاع مؤخرًا⁠⁠6 (بدلاً من منتصف القرن التاسع عشر)، ولم يكن هناك مجال راسخ في علوم المناخ. سيكون أمرًا سيئًا حقًا أن ننتظر عقودًا حتى يظهر المجال، قبل أن نسعى للحد من الانبعاثات.

السبب الثاني: قد يكون قانون كانينجهام (“أفضل طريقة للحصول على إجابة صحيحة هي أن تنشر إجابة خاطئة”) هو أملنا الأكبر لاكتشاف الخلل في هذه الحجج

ومع ذلك، فأنا جاد.

ظننتُ قبل عدة سنوات، مع بعض الزملاء، أن فرضية “القرن الأكثر أهمية” قد تكون صحيحة. ولكن قبل أن نتصرف بناءً عليها بدرجة كبيرة، أردنا أن نرى ما إذا كان بإمكاننا العثور على عيوب فادحة فيها.

يمكن تفسير إجراءاتنا على مدى السنوات القليلة الماضية على أننا كنا نبذل قصارى جهدنا لمعرفة أن الفرضية خاطئة.

أولاً، حاولنا التحدث إلى الناس عن الحجج الرئيسية - باحثي الذكاء الاصطناعي والاقتصاديين، وغيرهم. ولكن:

• كانت لدينا أفكار غامضة حول الحجج في هذه السلسلة (مأخوذة في الغالب أو ربما تمامًا من أشخاص آخرين). لم نكن قادرين على تصويرها بشكل واضح ودقيق.
• كان هناك العديد من النقاط الحقيقية التي اعتقدنا أنها ربما تكون صحيحة⁠⁠7، ولكننا لم نتمكن من توثيقها وتقديمها للنقد.
• بشكل عام، لم نتمكن حتى من صياغة موقف متماسك بما يكفي لإعطاء الآخرين فرصة عادلة لنقده.

لذلك، بذلنا جهدًا كبيرًا في إعداد تقارير تقنية حول العديد من الحجج الرئيسية. (هذه التقارير الآن عامة، ومتضمنة في الجدول في بداية هذه المقالة.). هذا وضعنا في موضع يسمح لنا بنشر الحجج، وربما مواجهة الحجج المضادة القاتلة.

ثم كلفنا خبراء خارجيين لإجراء مراجعات متخصصة⁠⁠8.

أتحدث هنا فقط عن وجهة نظري الشخصية، يبدو أن فرضية “القرن الأكثر أهمية” تجاوزت كل ذلك. في الواقع، بعد دراسة العديد من الزوايا والاطلاع على التفاصيل بشكل أعمق، صرت أصدّق فيها بقوة أكبر مما كنت أصدّقها في السابق.

ولكن دعونا نفترض أن ذلك يحدث فقط لأن الخبراء الحقيقيين - الأشخاص الذين لم نجدهم بعد والذين لديهم حجج مضادة مدمرة - يجدون الأمر كله سخيفًا لدرجة أنهم لا يلقون بالًا للتفاعل معه. أو، دعونا نفترض أن هناك أشخاصًا موجودين اليوم يمكنهم أن يصبحوا خبراء في هذه المواضيع يومًا ما ، ويدمروا هذه الحجج. ما الذي يمكننا فعله لتحقيق ذلك؟

أفضل إجابة توصلت لها هي: “إذا أصبحت هذه الفرضية أشهر، وحظيت بقبولٍ أوسع وتأثيرٍ أكبر، فسوف تخضع لمزيدٍ من التدقيق النقدي”.

هذه السلسلة هي مجرد محاولة في هذا الاتجاه - للتوجه نحو مصداقية أكبر لفرضية “القرن الأكثر أهمية”. وسيكون هذا أمرًا جيدًا إذا كانت الفرضية صحيحة؛ كما يبدو أنه الخطوة التالية الأفضل إذا كان هدفي الوحيد هو تحدي معتقداتي ومعرفة أنها خاطئة.

بالطبع، لا أقول أنه يجب قبول أو ترويج فرضية “القرن الأكثر أهمية” إذا لم تبدو صحيحة بالنسبة لك. ولكن أعتقد أنه إذا كان تحفظك الوحيد يتعلق بغياب إجماع متماسك، فإن الاستمرار في تجاهل الوضع يبدو غريبًا. إذا تصرف الناس بهذه الطريقة عمومًا (متجاهلين أي فرضية غير مستندة إلى إجماع متماسك)، فلست متأكدًا من أنني أرى كيف يمكن لأي فرضية - بما في ذلك الفرضيات الصحيحة - أن تنتقل من مكانة هامشية إلى أخرى تحظى بقبول.

السبب الثالث: الموقف المتشكك العام هذا يبدو فكرة سيئة

في السابق، عندما كنت مركزًا على مؤسسة GiveWell، كان الناس يقولون أحيانًا شيئًا من قبيل: “أتعلم، لا يمكنك أن تقيّم كل حجة وفق المعايير التي تقيّم بها مؤسسة GiveWell أفضل جمعياتها الخيرية - السعي لإجراء تجارب عشوائية محكومة، وبيانات تجريبية قوية، وما إلى ذلك. بعض أفضل الفرص لفعل الخير ستكون أقل وضوحًا - لذلك فإن هذا المعيار يخاطر باستبعاد بعض الفرص الكبرى المحتملة أمامك لإحداث التأثير.”.

أعتقد أن هذا صحيح. وأرى أنه من المهم أن يراجع الشخص نهجه العام في الاستدلال ومعايير الإثبات ويسأل نفسه: “ما هي بعض السيناريوهات التي يفشل فيها نهجي، وفي أيها أُفضل أن ينجح فيها؟” في رأيي، لا بأس أن تكون عرضة لخطر خداع الذات والانعزالية، مقابل فعل الشيء الصحيح عندما يكون الأكثر أهمية.

أعتقد أن غياب إجماع متماسك بين الخبراء - والمخاوف من خداع الذات والانعزالية - يوفر سببًا جيدًا للتحقيق الدقيق في فرضية “القرن الأكثر أهمية”، بدلاً من قبولها فورًا. للسؤال عن مكان وجود خلل غير مكتشف، والبحث عن التحيز نحو تضخيم أهميتنا الخاصة، والبحث في أكثر الأجزاء التي تبدو مشكوكًا فيها في الحُجة، وما إلى ذلك.

ولكن إذا تحققت من الأمر بقدر ما هو معقول/عملي بالنسبة لك - ولم تجد أي خلل سوى اعتبارات مثل “لا يوجد إجماع خبراء متماسك” و”أشعر بالقلق من الخداع الذاتي والانعزالية” - فأعتقد أن تجاهل الفرضية يعد نوع من التضحية تضمن بشكل أساسي ألا تكون واحدًا من الأشخاص الأوائل الذين يلاحظون ويتصرفون في قضية هامة للغاية، إذا أتيحت لك الفرصة. أعتقد أن تلك التضحية كبيرة جدًا، من حيث التخلي عن الفرص المحتملة لفعل الكثير من الخير.

المقالة التالية في السلسلة: كيف تستغل القرن الأكثر أهمية على أفضل وجه؟

---

المنشور الأصلي: Holden Karnofsky (2021) AI timelines: Where the arguments, and the «experts,» stand, Effective Altruism Forum, 7 سبتمبر.

ترجمة: أيمن الحسيني.