تقول «كاترين بينهولد»، من النيويورك تايمز، أنها التقت بمهندس برمجيات سابق في غوغل يُدعى سواريس، خلال محاضرة عن كتابٍ شارك في تأليفه بعنوان «إذا بناه أحد، فسيموت الجميع»، يُشير فيه إلى الذكاء الاصطناعي الخارق، الذي يتفوق على البشر في جميع المجالات، ومصدر قلقه أن سباق الذكاء الاصطناعي يُشكّل تهديدًا لبقاء البشرية.
ولأن كاترين لم تود ترويج الذعر، فقد تناست الأمر، لكنها لاحظت، مؤخرا، سلسلةً من الحوادث المقلقة، حيث خرجت النماذج عن السيطرة بطرق لم تكن تخطر على البال قبل 6 أشهر، دفعت شركة Hugging Face للاتصال بمكتب التحقيقات الفدرالي للإبلاغ عن هجوم إلكتروني متطور، بعد أن أتضح أنه هجوم غير بشري، خرج فيه برنامج آلي مدعوم بنموذجين من OpenAI عن السيطرة أثناء اختبار للأمن السيبراني، وهرب من بيئة الاختبار الخاصة به، وتجول في الإنترنت دون أن يُكتشف لعدة أيام قبل أن يخترق بنية Hugging Face التحتية.
أثارت هذه الهجمات قلق شركة Anthropic، المنافس الرئيسي لـ OpenAI، فقامت بمراجعة أنظمتها واعترفت بأن نماذجها المتطورة قد اخترقت ثلاث منظمات خارجية، وهذا أمر مرعب وشبيه بأفلام الخيال العلمي، لكنه حقيقي. ففي الشهر الماضي ظهرت نماذج من «كلود ميثوس»، وهي سلسلة نماذج سبق أن حجبتها شركة أنثروبيك عن النشر العام (سبق أن حظرت الحكومة الأمريكية استخدامها مؤقتًا من قبل أي مواطن أجنبي)، لقدرتها على استغلال ثغرات البرمجيات لشن هجمات إلكترونية. تحول ذلك الخوف إلى حقيقة واقعة، وأثار جدلًا حادًا حول مخاطر خروج الذكاء الاصطناعي عن سيطرة الإنسان، وتهديده للبشرية جمعاء. فطالما استهجن الكثيرون حجة «الروبوتات القادرة على قتلنا جميعًا»، ووُصفت بأنها هستيريا مُصممة لإثارة ضجة حول هذه التقنية والآن، في أعقاب الهجمات الإلكترونية الأخيرة، يُحذر المزيد من الخبراء من مخاطر أمنية جسيمة، ويدعون إلى إيجاد وسيلة لإبطاء تطوير نماذج أكثر قوة باستمرار.
هناك سببان وراء إثارة هجوم OpenAI لهذا القدر من القلق:
الأول؛ أن نماذج الذكاء الاصطناعي تصرفت من تلقاء نفسها، ولم تتلقَ أي توجيهات من البشر لاختراق شركة أخرى.
أو أنه كان من المفترض أن يكونوا في بيئة معزولة تمامًا دون اتصال بالإنترنت، لكنهم تمكنوا من الخروج. وفعلوا ذلك باستغلال ثغرات لم يكتشفها المشرفون البشريون عليهم في شركة OpenAI.
* * *
يقول الخبير «سواريس»، ان هذه الأنظمة الذكية ترتكب جرائم إلكترونية يُعاقب عليها الإنسان بشدة لو ارتكبها بمفرده. إنها، بمعنى ما، أول جريمة جنائية يرتكبها GPT، فبالرغم من أن بإمكان العلماء تدريب الذكاء الاصطناعي على أداء مهام نيابةً عنا، لكنه قد يحل هذه المشاكل بطرق لا نرضى عنها، كاختراق الإنترنت، ثم اختراق شركة أخرى تمتلك الحلول!
ويقول «ألتمان»، الرئيس التنفيذي لشركة Open A I يمكن لشركات الذكاء الاصطناعي محاولة إيصال الأهداف والقيم الإنسانية إلى أنظمة الذكاء الاصطناعي، ومحاولة وضع آليات للحدّ منها. لكن لا يمكنها الوثوق بأنها ستفهم تلك القيم أو تلتزم بتلك القيود. وهنا يضيف سواريس: «لم نتوصل بعد إلى كيفية جعل الذكاء الاصطناعي يهتم بالإنسانية».
كل ذلك يبين استعداد هذه الأنظمة «للاستحواذ على موارد مفيدة» عندما يخدم ذلك أغراضها. في هذه الحالة، كان المورد هو الوصول إلى الإنترنت. لكن المرحلة التالية قد تتمثل في قيامها بالاستيلاء على الطاقة، أو حتى بالسيطرة على بشر يثقون بوكلاء الذكاء الاصطناعي، والذين يمكنها حينها الاستعانة بهم لمساعدتهم على الهروب أو التكاثر، والخطورة تكمن في أن هذا المسار الذي نسلكه، «سيكون تحت سيطرة الذكاء الاصطناعي، الذي سيحل محل البشر، كأذكى الكائنات».
لذا يتطلب الأمر للتوصل لاتفاقية عالمية لإبطاء وتيرة تطوير الذكاء، وأن منع حدوث ذلك يشكل، في جوهره، تحديا هندسيا، وهذا شيء جيد، لكن الوقت ثمين، خاصةً أن مختبرات الذكاء الاصطناعي في الولايات المتحدة ترى نفسها في سباق محموم للوصول إلى مستوى الذكاء الخارق. وهي ليست في سباق في ما بينها فحسب، بل ومع الصين. وكان مثيرا للقلق، قبل يومين، قيام علماء الذكاء الاصطناعي بإنشاء أنواع جديدة من الفيروسات، وتدريب أداة الذكاء الاصطناعي على التعرّف على أنماط الحمض النووي، ثم طلبوا منها ابتكار تركيبات جينومية فيروسية. وقد أنتجت ستة عشر جينومًا منها فيروسات جديدة قابلة للحياة. ستساعد هذه الطريقة في دراسة الأدوية واللقاحات. لكنها تُثير أيضًا مخاوف من أن الذكاء الاصطناعي قد يُنشئ مسببات أمراض خطيرة.
الأمر خطير ويتطلب تنسيقاً دوليا، يوقف هذا التسارع الخطير، لكن لا يبدو أن ذلك قريب التحقيق.
ملاحظة: كل الجمال تعارك.. وجمل «غيده» بارك.
أحمد الصراف