تحذير رواد الذكاء الاصطناعي من «انفجار ذكاء» جامح

عبد الله سليمان الطليان

حذر اثنان من «الآباء الروحيين» للذكاء الاصطناعي الحديث وكبار المسؤولين التنفيذيين في OpenAI

الحكومات من الاستعداد لـ«انفجار ذكاء» الذكاء الاصطناعي، والذي يقولون إنه قد يكون أهم تطور تكنولوجي في التاريخ.

يحث تقرير شارك في تأليفه الحائز على جائزة نوبل جيفري هينتون وعالم الكمبيوتر الكندي يوشوا بنجيو، اللذان يعتبران من رواد الذكاء الاصطناعي الحديث لعملهما في هذا المجال، السياسيين على التحرك الآن قبل حدوث تقدم جامح في التكنولوجيا.

يقول المؤلفون إنهم قلقون بشأن «انفجار الذكاء»، والذي يصفونه بأنه «تسارع هائل مدفوع بالذكاء الاصطناعي في تقدم الذكاء الاصطناعي، مما يؤدي إلى ضغط التقدم الذي كان سيستغرق سنوات إلى أشهر أو أقل».

نُشرت ورقة بحثية بعنوان « ماذا لو أدى أتمتة البحث والتطوير في مجال الذكاء الاصطناعي إلى طفرة في الذكاء؟ «، وشارك في تأليفها أكثر من 20 شخصًا، من بينهم هينتون وبينجيو. ومن بين المؤلفين الآخرين جاك كلارك، أحد مؤسسي شركة أنثروبيك، وجاكوب باتشوكي، كبير العلماء في شركة أوبن إيه آي.

تتركز مخاوفهم على إمكانية تطوير الذكاء الاصطناعي لنفسه دون تدخل بشري، وهي عملية تُعرف باسم «التحسين الذاتي المتكرر». ويُشار إليها في الورقة البحثية بشكل عام باسم البحث والتطوير الآلي للذكاء الاصطناعي. وتوضح الورقة أنه بمجرد أن تصل أنظمة الذكاء الاصطناعي إلى مستوى الخبراء في مجال البحث والتطوير، سيتمكن مطور واحد من إدارة قوة عاملة تعادل «ملايين» الباحثين البشريين المتميزين.

يقول المؤلفون إن أتمتة البحث والتطوير في مجال الذكاء الاصطناعي هي المصدر الأكثر ترجيحًا لانفجار الذكاء، لأن الذكاء الاصطناعي يساهم بالفعل في تحسين تقنياته الخاصة، ويمكن نشر الأنظمة المحسنة الناتجة بسرعة بمجرد بنائها.

وتقول الورقة البحثية: «قد يكون الانفجار التكنولوجي هو أهم تطور تكنولوجي في تاريخ البشرية، حيث يضغط سنوات من التقدم في أشهر أو أقل، مما يهدد سيطرة الإنسان على أنظمة الذكاء الاصطناعي، ويؤدي إلى تآكل شديد في الضوابط على السلطة داخل وبين الدول والشركات وفروع الحكومة».

ويحث المؤلفون الحكومات على اتخاذ إجراءات سريعة قائلين: «بمجرد أن يبدأ انفجار المعلومات الاستخباراتية، قد تغلق نافذة العمل».

وقد أوصوا بثلاث أولويات سياسية: اشتراط تقديم تقارير مرحلية شفافة حول البحث والتطوير المتعلق بالذكاء الاصطناعي، بما في ذلك إلحاق مدققين مستقلين بالشركات؛ وإيجاد طرق للحد من التطور السريع للذكاء الاصطناعي؛ والاستعداد للتكيف مع انفجار الذكاء.

وافقت كل من شركتي أنثروبيك وأوبن إيه آي على قيام مقيّمين مستقلين بتقييم نماذجهما بعد التحذير من أن تطوير الذكاء الاصطناعي وصل إلى مرحلة حرجة من حيث السلامة.

تقول شركة أنثروبيك إن الذكاء الاصطناعي ينتج الآن 80 % من شفرته الخاصة، بينما تستخدم شركة أوبن إيه آي وكلاء الذكاء الاصطناعي المستقلين في مجالات مثل تدريب النماذج الجديدة.

وتقول الورقة البحثية: «تشير الأدلة الأولية إلى أن انفجار الذكاء المدفوع بالبرمجيات أمر ممكن»، مضيفة أن هذا سيؤدي إلى «التطور السريع للغاية لأنظمة الذكاء الاصطناعي عالية القدرة أو الخارقة».

في حين أن هذا قد يؤدي إلى تحقيق اختراقات طبية وقفزات تكنولوجية، إلا أنه سيجلب معه ثلاثة مخاطر: يمكن للأنظمة القوية أن تُمكّن التهديدات البيولوجية والإلكترونية التي تتطور بشكل أسرع من التدابير اللازمة لمواجهتها؛ ومع انخفاض مشاركة البشر في البحث والتطوير في مجال الذكاء الاصطناعي، قد يفقدون فرصة التحكم في الأنظمة؛ ويمكن للدول أن تستخدم طفرة استخباراتية لتحويل تقدم متواضع في مجالات مثل الفضاء الإلكتروني إلى تقدم حاسم.

يُقرّ التقرير بأن هذه التأثيرات «غير مؤكدة». فعلى سبيل المثال، قد يستغرق تطبيق أي اختراق تكنولوجي وقتًا نظرًا للحاجة إلى إنشاء سلاسل إمداد لأي مواد خاصة مطلوبة أو للامتثال للوائح. ويقول معدّو التقرير إن أنظمة الذكاء الاصطناعي قد تُسرّع أيضًا من وتيرة تخفيف المخاطر.

يقول المؤلفون إنه في حال حدوث مثل هذا الإنجاز، قد تتفوق أنظمة الذكاء الاصطناعي بسرعة على الخبراء البشريين في معظم المجالات، وتُسرّع التقدم التكنولوجي بشكل جذري. لذا، ينبغي أن يكون الاستعداد لهذا الأمر أولوية ملحة، بما في ذلك على أعلى مستويات القيادة الحكومية.

ويقولون إنه ينبغي على الحكومات النظر في سياسات تعالج احتمالية حدوث انفجار استخباراتي، بما في ذلك: اشتراط تقارير مرحلية شفافة حول البحث والتطوير المتعلق بالذكاء الاصطناعي، بما في ذلك إدماج مدققين مستقلين في الشركات؛ والحد من سرعة تحسن الذكاء الاصطناعي في فترة زمنية معينة؛ والعمل مع مراكز البيانات لتمكين إيقاف بعض مشاريع البحث والتطوير المتعلقة بالذكاء الاصطناعي مؤقتًا؛ والتأكد من أن أنظمة البحث والتطوير الآلية للذكاء الاصطناعي معزولة تمامًا ولا يمكنها الإفلات من السيطرة البشرية؛ ووضع «خطط استجابة طارئة» للسيناريوهات المختلفة التي يمكن أن تنشأ عن انفجار استخباراتي.

على الرغم من بعض العيوب التي أظهرتها الأنظمة، مثل عدم الامتثال للتعليمات، فإن مشاريع البحث والتطوير التي تستغرق شهورًا من البشر لإنجازها يمكن أتمتتها بالكامل بواسطة الذكاء الاصطناعي بحلول عام 2028. وقالوا: «لم تصل مكاسب الإنتاجية من أتمتة البحث والتطوير بالذكاء الاصطناعي بعد إلى العتبة اللازمة لإحداث طفرة في الذكاء، ولكن من المرجح أن المكاسب من الأنظمة الأحدث تقترب من تلك العتبة».