منع كوارث بالذكاء الاصطناعي
يمكنك قراءة المنشور من هنا
ملخص
أتوقع حدوث تقدم جوهري في الذكاء الاصطناعي في العقود القليلة القادمة، ومن الممكن أن تتقدم إلى درجة تفوقها على البشر في الكثير من المهام، إن لم يكن كلها. من الممكن أن يحقق ذلك الكثير من الفوائد، من خلال المساعدة في حل مشاكل عالمية مقلقة، لكن قد يمثل ذلك الكثير من المخاطر أيضاً. من الممكن أن تتحقق هذه المخاطر عن طريق الخطأ (علـي سبيل المثال، إذا لم نجد حلولاً تقنية متعلقة بمخاوفنا حول الأمان المرتبط بأنظمة الذكاء الاصطناعي)، أو عن طريق العمد (على سبيل المثال، لو تسببت أنظمة الذكاء الاصطناعي في تعميق الصراعات الجيوسياسية). أرى وجوب بذل مجهود أكبر لتقليل هذه المخاطر.
من الممكن أن تكون بعض هذه المخاطر الناتجة من الذكاء الاصطناعي المتقدم وجودية - بمعنى أنها من الممكن أن تؤدي إلى فناء البشر، أو بشكل متساو التسبب في تقليل قدرات البشر.a لا توجد إجابات مرضية للمخاوف- التي سيتم مناقشتها بالأسفل - عن كيفية التطوير الآمن لهذه التكنولوجيا سريعة التحول والآخذة في التحقق بشكل كبير وإدماجها في مجتمعاتنا. إيجاد إجابات لهذه الأسئلة هو أمر مهمل تماماً وقد يكون مستهانًا به. أقدر أن عدد العاملين بشكل مباشر لحل هذه المشكلة لا يتجاوز الـ ٤٠٠ فرداً حول العالم.b نتيجة لذلك، ربما تكون إحتمالية حدوث كارثة متعلقة بالذكاء الاصطناعي هي أكثر مشاكل العالم إلحاحاً - وأفضل الخيارات للعمل عليها للأشخاص الأكثر قدرة على حل هذه المشكلة.
تتضمن الحلول الواعدة لهذه المشكلة البحوث التقنية المتعلقة بكيفية بناء أنظمة ذكاء اصطناعي آمنة، البحوث الاستراتيجية المتعلقة بالمخاطر المحددة للذكاء الاصطناعي، بالإضافة للبحوث الخاصة بالسياسات التي تُمكّن الحكومات والشركات من العمل لتجنب هذه المخاطر. لو تم تطوير سياسات ذات قيمة، سنحتاج لأشخاص لتطبيقها. هناك أيضاً الكثير من الفرص لإحداث تأثير كبير في الكثير من الأدوار المكملة، مثل إدارة العمليات، الصحافة، الكسب من أجل العطاء، والكثير من الأدوار التي نذكرها بالأسفل.
نظرتنا العامة:
نعتقد أن هذه هي أكثر مشاكل العالم إلحاحاً:
مدى الانتشار:
سيكون للذكاء الاصطناعي العديد من التأثيرات ولديه القابلية لتحقيق العديد من الأشياء الجيدة. لكننا قلقون تحديداً بشأن احتمالية حدوث نتائج شديدة السوء، تحديداً التسبب في كارثة وجودية. بعض خبراء الذكاء الاصطناعي يقولون أن نسبة تحقق هذه المخاطر تتراوح من ٠.٥٪ ويمكن أن تصل إلى ٥٠٪. نحن منفتحون على كلا الاحتمالين - ويمكنك متابعة نقاشات معمقة في هذا الشأن هنا. بشكل عام، فإن تخميني هو أن المخاطر المتعلقة بحدوث كارثة وجودية بسبب الذكاء الاصطناعي ستصل احتمالية حدوثها ل ١٪ بحلول عام ٢١٠٠، وربما تكون أكثر من ذلك بقليل. وهذا يجعلني من ضمن العاملين الأقل قلقاً في ٨٠٠٠٠ ساعة: كمؤسسة، تقديراتنا تقول أن الاحتمالية تتراوح ما بين ٣٪ إلى ٥٠٪.
إهمال المشكلة:
تم إنفاق قرابة الـ٥٠ مليون دولار لتقليل المخاطر الكارثية للذكاء الاصطناعي في عام ٢٠٢٠ - بينما تم إنفاق مليارات الدولارات على تطوير قدرات الذكاء الاصطناعي.c وبينما نرى قلقاً متزايداً من خبراء الذكاء الاصطناعي، أرى أنه ما زال هناك ٤٠٠ شخص فقط يعملون بشكل مباشر على تقليل إحتمالية حدوث كارثة وجودية بسبب الذكاء الاصطناعي. (بمجال ثقة ٩٠٪ يتراوح بين ٢٠٠ ل ١٠٠٠). من بين هؤلاء، يبدو أن ثلاثة أرباعهم يعملون على البحث التقني المتعلق بأمان الذكاء الاصطناعي، بينما ينقسم الباقون بين أبحاث الاستراتيجية والحوكمة والمناصرة. d
إمكانية حلها:
تحقيق تقدم في منع المخاطر المتعلقة بالذكاء الاصطناعي يبدو صعباً، لكن هناك مجالات كثيرة للبحث كما أن المجال مازال حديث النشأة. ولذلك أعتقد أنه مجال مستهان به بشكل متوسط، إلا أنني غير متأكد بشكل كبير - مرة أخرى، التقييمات المتعلقة بمدى الاستهانة بأمان الذكاء الاصطناعي تتفاوت كثيرًا.