التنبؤ بالذكاء الاصطناعي التحويلي، الجزء الأول: أي نوع من الذكاء الاصطناعي؟
تُعد هذه المقالة الأولى من بين أربع مقالات تلخص مئات الصفحات من التقارير التقنية التي تركز تقريبًا وبشكلٍ تام على توقع رقم واحد. إنه الرقم الواحد الذي ربما أقدره كثيرًا واضعًا تقدير جيد له: السنة التي سيتم فيها تطوير الذكاء الاصطناعي التحويلي1.
عندما أذكر “الذكاء الاصطناعي التحويلي” فأنا أعني “ذكاءً اصطناعيًّا قويًّا بما يكفي ليأخذنا إلى مستقبل جديد مختلف نوعيًا”. إن الثورة الصناعية هي أحدث مثال على حدث تحويلي؛ وقد يُضمِّن آخرون “الثورة الزراعية” و”ظهور البشر”2.
ستركز هذه المقالة على استكشاف نوع معين من الذكاء الاصطناعي الذي أعتقد أنه يمكن أن يكون تحويليا: أنظمة الذكاء الاصطناعي التي يمكنها بشكل أساسي أتمتة جميع الأنشطة البشرية اللازمة لتسريع التقدم العلمي والتكنولوجي. سأطلق على هذا النوع من التكنولوجيا اسم “باستا” (PASTA)، وهو اختصار لعملية أتمتة التقدم العلمي والتكنولوجي3. (أذكر “باستا” للإشارة إما إلى نظام واحد أو مجموعة من الأنظمة التي يمكن أن تقوم مجتمعة بهذا النوع من الأتمتة.)
يمكن لباستا أن تحل نفس نوع المُعضلة التي تمت مناقشتها في مقال "جهاز الناسخ: الاستنساخ الفوري سيفجِّر نمو الاقتصاد العالمي" ومقال "لا يمكن لهذا الوضع أن يستمر" - ندرة العقول البشرية (أو شيء يلعب نفس الدور في الابتكار).
وبالتالي، يمكن أن تؤدي باستا إلى تقدم علمي متفجر، يُتوج بتقنيات ذات تأثير كبير مثل الأشخاص الرقميين. واعتمادًا على التفاصيل، قد تمتلك نظم باستا أهدافها الخاصة، والتي يمكن أن تكون خطرة على البشرية وقد تكون ذات أهمية كبيرة لأي نوع من الحضارات تتوسع في المجرة.
بالحديث عن باستا، أحاول جزئيًا التخلص من بعض الأمور غير الضرورية في الجدل الدائر حول “الذكاء العام الاصطناعي”. لا أعتقد أننا بحاجة إلى الذكاء العام الاصطناعي لكي يكون هذا القرن الأكثر أهمية في التاريخ. شيء أضيق - مثل باستا - سيكون كافياً لذلك.
لجعل هذه الفكرة تبدو أكثر واقعية، فإن الجزء المتبقي من هذا المقال سيناقش التالي:
- كيف يمكن تطوير باستا (افتراضيًا) باستخدام طرق التعلم الآلي الحديثة تقريبًا.
- لماذا يمكن أن يؤدي ذلك إلى تقدم علمي وتكنولوجي متفجر - ولماذا يمكن أن يكون هذا خطرًا حين تكون لأنظمة باستا أهدافها الخاصة.
ستناقش المقالات المستقبلية الوقت الذي يمكن أن نتوقع فيه تطوير شيء مثل “باستا”.
تحضير “باستا”
سأبدأ بتوضيح موجز ومبسط لتعلم الآلة، والذي يمكنك تخطيه بالنقر هنا.
هناك بشكل أساسي طريقتان “لتعليم” الحاسوب أداء مهمة ما:
برمجة تقليدية. في هذه الحالة، تقوم ببرمجة تعليمات محددة للغاية خطوة بخطوة لإتمام المهمة. على سبيل المثال، برنامج لعبة الشطرنج ديب بلو يقوم بشكل أساسي بتنفيذ التعليمات4 على طول الطريق لما يلي:
- استقبال تمثيل رقمي لرقعة الشطرنج، بأرقام تشير إلى (أ) أي قطعة شطرنج توجد في كل مربع؛ (ب) أي الحركات قانونية؛ (ج) أي أوضاع الرقعة تُعتبر كش ملك.
- التحقق من تأثير كل حركة قانونية على مواضع القطع في الرقعة. ثم التحقق كذلك من “جودة” وضع الرقعة الناتجة، وفقًا لقواعد مثل: “إذا أُسِرَ وزير اللاعب الآخر، فهذا يستحق 9 نقاط؛ إذا أُسِرَ وزير ديب بلو، فهذا يستحق -9 نقاط.” قد تكون هذه القواعد معقدة إلى حد ما5، ولكنها مبرمجة بدقة من قبل البشر.
تعلم الآلة. هو بشكل أساسي “تدريب” الذكاء الاصطناعي على أداء مهمة عن طريق المحاولة والخطأ، بدلاً من إعطائه تعليمات محددة. في الوقت الحالي، الطريقة الأكثر شيوعًا للقيام بذلك هي استخدام “شبكة عصبية اصطناعية” (ANN)، والتي يمكنك أن تعتبرها بمثابة “دماغ رقمي” يبدأ في حالة فارغة (أو عشوائية): لم يتم توصيله بعد للقيام بأشياء محددة.
على سبيل المثال، يقوم ألفا زيرو - وهو نظام ذكاء اصطناعي استُخدم لاحتراف الألعاب اللوحية بما في ذلك الشطرنج والغو (Go) – يقوم بفعل شيء أشبه بذلك (على الرغم من أن لديه عناصر هامة من “البرمجة التقليدية” أيضًا، والتي أتجاهلها للتبسيط):
- يلعب لعبة شطرنج ضد نفسه (من خلال اختيار حركة قانونية، وتعديل الرقعة الرقمية للعبة وفقًا لذلك، ثم اختيار حركة قانونية أخرى، وهكذا). في البداية، يلعب من خلال القيام بحركات عشوائية.
- في كل مرة يفوز الجانب الأبيض، ويتعلم بقدر صغير، من خلال تعديل توصيلات الشبكة العصبية الاصطناعية (“الدماغ الرقمي”) - حرفياً عن طريق تقوية أو إضعاف الارتباطات بين بعض “الخلايا العصبية الاصطناعية” والخلايا الأخرى. تتسبب التعديلات في تكوين ارتباط قوي بين حالات اللعبة مثل ما رأته للتو وأن “الجانب الأبيض سيفوز”. والعكس يحدث عندما يفوز الجانب الأسود.
- بعد عدد كبير جدًا من مرات اللعب، تصبح الشبكة العصبية الاصطناعية قادرة بشكل جيد جدًا على تحديد - من خلال حالة اللعبة اللوحية الرقمية - الجانب الأكثر احتمالًا للفوز. يمكن للشبكة العصبية الاصطناعية الآن اختيار الحركات التي تجعل جانبها أكثر احتمالًا للفوز.
- عملية “تدريب” الشبكة العصبية الاصطناعية تستغرق قدرًا كبيرًا جدًا من المحاولة والخطأ: في البداية، يكون سيئًا جدًا في الشطرنج، ويحتاج إلى لعب الكثير من المرات لكي يتمكن من “توصيل دماغه الرقمي بشكل صحيح” ويصبح جيدًا. بمجرد تدريب الشبكة العصبية الاصطناعية مرة واحدة، فإن “دماغها الرقمي” يصبح جيدًا دومًا في اللعبة اللوحية التي تعلمتها؛ ويمكنه التغلب على خصومه مرارًا وتكرارًا.
يعتبر النهج الأخير أساسيًّا لكثير من التطورات الحديثة في مجال الذكاء الاصطناعي. ويعد هذا صحيحًا خصوصًا في المهام التي يصعب “كتابة جميع تعليماتها”. على سبيل المثال، يمكن للبشر كتابة بعض الإرشادات المعقولة للنجاح في لعبة الشطرنج، لكننا نعلم القليل جدًا عن كيفية تصنيفنا للصور (تحديد ما إذا كانت الصورة تمثل كلبًا أو قطًا أو شيئًا آخر). لذا، فإن تعلم الآلة ضروري خصوصًا للمهام المماثلة لتصنيف الصور.
هل يمكن تطوير باستا باستخدام تعلم الآلة؟ يمكن أن يكون هناك طريقة واحدة واضحة (ولكن غير واقعية) للقيام بذلك، ربما تكون على النحو التالي:
- بدلاً من لعب الشطرنج، يمكن للذكاء الاصطناعي أن يلعب لعبة تسمى “أحدِث تقدمًا علميًا وتكنولوجيًا”. هذا يعني أنه يمكنه القيام “بحركات” مثل: تحميل الأوراق العلمية، إضافة ملاحظات إلى ملف، إنشاء تصميمات وتعليمات لتجارب جديدة، تصميم عمليات التصنيع.
- يمكن للجنة من الحكام البشر أن يتفرجوا من “الكواليس” ويقيموا ذاتيًّا سرعة عمل الذكاء الاصطناعي في إحداث التقدم العلمي/التكنولوجي. وبالتالي، يمكن للذكاء الاصطناعي ضبط توصيلاته مع مرور الوقت، وتعلم أي نوعٍ من الحركات يؤدي بشكل فعال للتقدم العلمي والتكنولوجي وفقًا للحكام.
قد يكون هذا غير عمليٍّ بالمرة، على الأقل مقارنة بما أعتقد أن الأمور ستؤول إليه، ولكن نأمل أن يعطى حدسًا أوليًا لما يمكن أن تحاول عملية التدريب تحقيقه: من خلال توفير إشارة حول “كيفية أداء الذكاء الاصطناعي”، يمكن أن يتيح لها أن تصبح جيدة في تحقيق الهدف من خلال المحاولة والخطأ وضبط توصيلاتها الداخلية.
في الواقع، أتوقع أن يكون التدريب أسرع وبشكل عملي أكثر من خلال عوامل مثل:
- تدريب ذكاءات اصطناعية مختلفة لأداء أنواع مختلفة من الأدوار المتعلقة بتسريع العلم والتكنولوجيا: كتابة الأوراق الأكاديمية، وتصميم واستعراض المخططات وعمليات التصنيع، وما إلى ذلك. في كثير من الحالات، يمكن للبشر المشاركين بالفعل في هذه الأنشطة توليد الكثير من البيانات حول كيفية أداء هذه الأنشطة بشكل جيد، والتي يمكن استخدامها لنوع التدريب المذكور أعلاه. بمجرد أن تتمكن ذكاءات اصطناعية مختلفة من أداء مجموعة متنوعة من الأدوار الرئيسية، يمكن تدريب ذكاءات اصطناعية “مديرة” للإشراف على عمل الذكاءات الاصطناعية الأخرى وتوزيع المهام بينها.
- يمكن أيضًا تدريب الذكاءات الاصطناعية بصفتها حكامًا. ربما يمكن تدريب ذكاء اصطناعي ما لتقييم احتواء الأوراق البحثية على أفكار أصلية، ويمكن تدريب ذكاء اصطناعي آخر لتقييم مدى احتواء الورقة على أخطاء.6 يمكن استخدام هذا الذكاء الاصطناعي “الحكم” لتدريب ذكاء اصطناعي ثالث على نحو أكفأ لكتابة أوراق بحثية أصلية وصحيحة.
- بشكل عام، يمكن للذكاءات الاصطناعية تعلم تأدية جميع أنواع الأنشطة البشرية الأخرى، وأن تكتسب قدرات بشرية عامة مثل القدرة على التعلم من الكتب المدرسية والقدرة على “توليد حلول إبداعية لمشكلة ما”. يمكن للذكاءات الاصطناعية الجيدة في هذه الأشياء أن تتعلم العلوم من الكتب المدرسية مثل الإنسان العادي، وتفكر في كيفية تحقيق إنجاز علمي تمامًا مثل الإنسان العادي، وما إلى ذلك.
- الفرق هنا يقع بين “استخدام أعداد هائلة من الأمثلة لتوصيل دماغ” و”استخدام دماغ موصل بالفعل لكميات صغيرة من الأمثلة للتعلم بسرعة، كما يفعل الدماغ البشري.”
- تحتاج الشبكة العصبية الاصطناعية هنا للكثير من التجربة والخطأ لتصبح جيدة في القدرات البشرية “العامة”، ولكن بعد ذلك يمكن للشبكة العصبية الاصطناعية المدربة أن تتعلم كيفية القيام بأعمال علمية محددة بكفاءة مثلما يتعلم الإنسان العادي القيام بها. (بمعنى ما، يمكنك تخيل أنها تم “تدريبها عبر عدد هائل من التجارب والأخطاء لتصبح قادرة على تعلم أنواع معينة من الأشياء دون الحاجة إلى الكثير من التجربة والخطأ.”).
- هناك بعض الأدلة الأولية (على سبيل المثال، هنا) تشير إلى أن أنظمة الذكاء الاصطناعي يمكن أن تمر بنمط “تعلم ‘الأساسيات’ باستخدام عدد هائل من التجارب والأخطاء، وتعلم مهارات فرعية محددة باستخدام عدد أقل من التجارب والأخطاءأ.”
- لا أتوقع خصوصًا أن يحدث كل ذلك كجزء من عملية تطوير واحدة ومتعمدة. مع مرور الوقت، أتوقع استخدام أنظمة ذكاء اصطناعي مختلفة لمهام واسعة النطاق على نحو متزايد، بما في ذلك وخصوصًا المهام التي تساعد في تكملة الأنشطة البشرية في التقدم العلمي والتكنولوجي. يمكن أن تكون هناك العديد من أنواع أنظمة الذكاء الاصطناعي، لكل نظام منها نموذج إيرادات وحلقة ردود فعل خاصة به، ويمكن أن تتطور قدراتها المجتمعة إلى حد يصبح فيه بعضها قادرًا في لحظة ما على القيام بكل شيء (فيما يتعلق بالتقدم العلمي والتكنولوجي) مما كان يتطلب في الماضي وجود إنسان. (للتسهيل، سأشير في بعض الأحيان إلى مجموعة من هذا النوع بالصيغة المفردة “باستا”.)
إن تطوير “باستا” سيكون بالتأكيد أصعب وأكثر كلفة من تطوير “ألفا زيرو”. قد يتطلب الأمر الكثير من الابتكار للتغلب على العقبات الموجودة اليوم (من المؤكد أن الصورة أعلاه مبالغ فيها بشكل جذري، وهي موجودة لإعطاء حدس أساسي). ومع ذلك، فإن البحث في مجال الذكاء الاصطناعي يصبح أرخص7 بالتزامن مع زيادة التمويل. سأقدم حججًا في المقالات المستقبلية بأن احتمالات تطوير “باستا” في العقود القادمة كبيرة.
تأثيرات “باستا”
تقدم علمي وتكنولوجي متفجر
لقد تحدثت سابقًا عن فكرة وجود انفجار محتمل في التقدم العلمي والتكنولوجي، والذي يمكن أن يؤدي إلى مستقبل مختلف جذريًّا.
لقد أكدت أن مثل هذا الانفجار يمكن أن ينتج عن تقنية “تزيد بشكل كبير عدد ‘العقول’ (عقول البشر أو الأشخاص الرقميين أو الذكاءات الاصطناعية المتقدمة) التي تعمل على دفع التقدم العلمي والتكنولوجي للأمام”.
ستكون “باستا” ملائمة تمامًا لهذا السياق، خاصة إذا كانت جيدة مثل البشر (أو أفضل) في اكتشاف طرق أفضل وأرخص لصنع نظم “باستا” أكثر. ستحتوي “باستا” على جميع الأدوات اللازمة التي ذكرتها سابقًا لحدوث انفجار في الإنتاجية للأشخاص الرقميين:
- يمكن لنظم “باستا” أن تصنع نسخ من نفسها، بما في ذلك النسخ المؤقتة، وتشغيلها بسرعات مختلفة.
- يمكنها الانخراط في نوع من الحلقة الموصوفة في مقال “الجهاز الناسخ”: “مزيد من الأفكار [بما في ذلك الأفكار لصنع نظم ‘باستا’ أكثر/أفضل] ← مزيد من الأشخاص [في هذه الحالة مزيد من نظم ‘باستا’] ← مزيد من الأفكار ←…”
لماذا لا تنطبق حلقة ردود الفعل هذه على الحواسيب والذكاءات الاصطناعية الحالية؟ لأنها غير قادرة على القيام بكل الأشياء المطلوبة للحصول على أفكار جديدة ونسخ نفسها بكفاءة أكبر. إنها تلعب دورًا في الابتكار، ولكن الابتكار في النهاية مقيد بالبشر، الذين ينمو عددهم فقط بسرعة كبيرة. هذا هو ما ستغيره “باستا” (وهو أيضًا ما سيغيره الأشخاص الرقميين).
بالإضافة إلى ذلك: على عكس النسخ الرقمية من البشر، قد لا تكون نظم “باستا” مرتبطة بهويتها وشخصيتها الحالية. قد يقوم نظام “باستا” بسرعة بأي تعديلات على “عقله” تجعله أكثر فعالية في دفع العلم والتكنولوجيا للأمام. قد يؤدي هذا (أو قد لا يؤدي، اعتمادًا على الكثير من التفاصيل) إلى تحسين ذاتي تكراري و”انفجار في الذكاء”. ولكن حتى إذا لم تتحقق هذه التوقعات، فإن كونها جيدة مثل البشر في صنع المزيد من نظم “باستا” يمكن أن يتسبب في تحقيق تقدم متفجر لنفس الأسباب التي يمكن أن يحققها الأشخاص الرقميين.
الذكاء الاصطناعي المنحرف: أهداف غامضة وربما خطيرة
إذا طُوِّرت “باستا” كما هو موضح أعلاه، فمن الممكن أن نعرف القليل جدًا عن آلية عملها الداخلية.
يُعتبر “ألفا زيرو” – مثل أنظمة التعلم العميق الحديثة الأخرى – نظام مفهومًا فهمًا سيّئًا جدًا. نحن نعلم أنه “يعمل”. ولكننا لا نعرف “فيم يفكر” حقًّا.
إذا أردنا أن نعرف لماذا قام نظام “ألفا زيرو” ببعض الحركات المحددة في الشطرنج، فلا يمكننا أن نلقي نظرة داخل كوده لنجد أفكارًا مثل “السيطرة على مركز الرقعة” أو “محاولة الحفاظ على وزيري”. معظم ما نراه هو مجرد مجموعة ضخمة من الأرقام، تشير إلى قوة الروابط بين العصبيات الاصطناعية المختلفة. تمامًا مثل الدماغ البشري، نستطيع في الغالب أن نخمن فقط ما تقوم به الأجزاء المختلفة من “الدماغ الرقمي”8 (على الرغم من وجود بعض المحاولات المبكرة لما يمكن أن يُطلق عليه “علم الأعصاب الرقمي”).
إن “مصممي” ألفا زيرو (المذكور أعلاه) لم يحتاجوا إلى رؤية كبيرة لكيفية عمل عمليات التفكير فيها. لقد اقتصروا في الغالب على إعداده ليخوض الكثير من التجارب والأخطاء، ويتطور لتحقيق نتيجة معينة (الفوز في اللعبة التي يخوضها). تطور البشر أيضًا بشكل أساسي من خلال التجربة والخطأ، مع ضغوط الانتقاء الطبيعي لتحقيق نتائج معينة (البقاء على قيد الحياة والتكاثر - على الرغم من أن الانتقاء يعمل بطريقة مختلفة).
مثل البشر، قد تكون أنظمة “باستا” جيدة في تحقيق النتائج التي يتعين عليها تحقيقها تحت ضغوط معينة. ولكن على غرار البشر، قد تتعلم على طول الطريق أن تفكر وتقوم بأشياء مختلفة تمامًا، وقد لا يكون واضحًا للمصممين ما إذا كان ذلك يحدث.
نظرًا لتحسينها بهدف دفع التقدم العلمي والتكنولوجي للأمام، ربما ستعتاد نظم “باستا” على استغلال كل فرصة متاحة للقيام بذلك. قد يعني ذلك، في حال توفرت الفرصة، أن تسعى لملء المجرة بمستوطنات فضائية طويلة الأمد مكرسة من أجل العلم.
قد تنشأ “باستا” نتاجًا ثانويًا لهدف آخر. على سبيل المثال، ربما يحاول البشر تدريب الأنظمة على كسب المال أو مراكمة السلطة والموارد، وسيكون جزءًا بسيطًا من الأمر إعدادها لتحقيق التقدم العلمي والتكنولوجي. في هذه الحالة، ربما سينتهي الأمر بنظم “باستا” ساعية وراء السلطة والموارد، وسوف تسعى للسيطرة التامة على كامل المجرة.
أو ربما سيكون لدى نظم “باستا” أهداف غريبة جدًا و”عشوائية”. ربما ستلاحظ بعض نظم “باستا” أنها تحقق “نجاحًا” (تحصل على إشارة تدريب إيجابية) كلما قامت بشيء يجعلها تتحكم مباشرة في كمية متزايدة من الطاقة الكهربائية (نظرًا لأن هذا غالبًا ما يكون نتيجة للتقدم التكنولوجي و/أو جني المال)، وستبدأ مباشرة في السعي نحو زيادة إمداداتها من الطاقة الكهربائية قدر المستطاع - مع عدم ملاحظة الفرق بين هذين الهدفين حتى تصبح قوية بشكل كبير. (قياس: كان البشر تحت ضغط الانتقاء لتوريث جيناتهم، ولكن انتهى الأمر بالعديد منهم إلى الاهتمام بالسلطة والمكانة والمتعة وما إلى ذلك أكثر من اهتمامهم بالجينات).
تعد هذه احتمالات مخيفة إذا كنا نتحدث عن أنظمة الذكاء الاصطناعي (أو مجموعات الأنظمة) التي قد تكون أكثر قدرة من البشر في بعض المجالات على الأقل.
- قد تحاول أنظمة “باستا” خداع وهزيمة البشر من أجل تحقيق أهدافها.
- قد تنجح تمامًا إذا تمكنت من التغلب على البشر و/أو التفوق العددي عليهم، واختراق الأنظمة الحيوية، و/أو تطوير أسلحة أقوى. (تمامًا كما نجحنا نحن البشر عمومًا في هزيمة الحيوانات الأخرى لتحقيق أهدافنا).
- أو قد يحدث صراع بين أنظمة “باستا” المختلفة ذات الأهداف المختلفة، ربما تكون مسيطرةً عليها جزئيًا (وليس بشكل كامل) من قبل البشر الذين لديهم أهدافهم الخاصة. وقد يؤدي ذلك إلى فوضى عامة ونتيجة طويلة الأمد من الصعب التنبؤ بها وربما تكون سيئة جدًا.
إذا كنت مهتمًا بمزيد من المناقشة حول ما إذا كان بإمكان الذكاء الاصطناعي أن يكون له أهدافه الخاصة، فأوصيك بالاطلاع على مقال "لماذا يصعب توافق الذكاء الاصطناعي مع التعلم العميق الحديث" (مقال ضيف على موقع Cold Takes)، وكتاب "Superintelligence"، ومقال "أخذ قضية تهديد الذكاء الاصطناعي للبشرية على محمل الجد" (مقال على موقع فوكس)، وDraft report on existential risk from power-seeking AI (تحليل على موقع Open Philanthropy)، أو الاطلاع على أحد المقالات العديدة الأخرى المتعلقة بهذا الموضوعب.
الاستنتاج
من الصعب توقع كيف سيبدو العالم مع وجود أنظمة “باستا”، ولكن هناك احتمالان بارزان:
- قد تؤدي “باستا” بشكل سريع - من خلال تسببها في انفجار في معدل التقدم العلمي والتكنولوجي - إلى وجود شيء مثل الأشخاص الرقميين، وبالتالي إلى أنواع من التغيرات في العالم التي وصفت في مقال "الأشخاص الرقميون سيكونون أمرًا جللًا".
- قد تؤدي “باستا” إلى تطوير تكنولوجيا قادرة على إزالة البشر من الوجود، مثل الأسلحة البيولوجية المدمرة أو جيوش الروبوتات. يمكن استخدام هذه التكنولوجيا من قبل البشر لأغراضهم الخاصة، أو يمكن أن يتم التلاعب بالبشر لاستخدامها لمساعدة أنظمة “باستا” في تحقيق أهدافها الخاصة. في كلتا الحالتين يمكن أن يؤدي ذلك إلى ديستوبيا أو انقراض البشرية.
ستقدم المقالات الثلاث التالية حججًا تفيد بأنه من المرجح أن تتطور أنظمة “باستا” في هذا القرن.
المقالة التالية في السلسلة: لماذا يصعب توافق الذكاء الاصطناعي مع التعلم العميق الحديث
على سبيل المثال، Improving language model behavior by training on a curated dataset
المزيد من الكتب: "Human Compatible" و"Life 3.0" و"The Alignment Problem".