المسارات الثلاثة لأمان الذكاء الاصطناعي التي طرحها ألتمان: الدعوة إلى وضع حدّ لسرعة التحسين الذاتي

أفادت تقارير بأن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، تحدث الأسبوع الماضي في محاضرة للموظفين عن ثلاث «نهايات محتملة» لضمان تطوير الذكاء الاصطناعي بأمان.

وتشمل الخيارات الثلاثة إنشاء هيئة رقابة دولية، ودمج المختبرات الكبرى، أو انفراد مختبر واحد بالسباق. ويُقال إن ألتمان وصف مرحلة اختيار أحد هذه المسارات خلال عام بأنها «pacing 2.0»، وقال إن التحسين الذاتي للذكاء الاصطناعي يحتاج إلى حدود للسرعة ونقاط توقف.

سيأتي يوم لا تكفي فيه الفحوصات قبل الإطلاق

تتمثل إجراءات السلامة الحالية لدى OpenAI في نشر النموذج بعد اجتيازه اختبارات السلامة، والإفصاح عن أي مخاوف إن وُجدت. ويُقال إن ألتمان يصف هذا النهج بأنه «pacing 1.0». وبالتشبيه بالسيارات، يشبه الأمر فحص سيارة مكتملة قبل شحنها، ثم السماح لها بالسير على الطريق إذا لم تظهر فيها مشكلات.

لكن الأمور تتغير عندما يبدأ الذكاء الاصطناعي بتحسين نفسه. فالمسألة لا تعود مجرد إطلاق سيارة اجتازت الفحص، بل يصبح السؤال: كيف نتعامل مع سرعة تطور السيارات نفسها؟ وهذه هي تحديدًا المسألة التي يتناولها «pacing 2.0»، المرحلة التالية التي طُرحت.

الخيارات الثلاثة ترسم تصورات متباينة تمامًا للحوكمة

تختلف الخيارات الثلاثة بوضوح في تحديد الجهة التي ستتولى زمام تطوير الذكاء الاصطناعي. وفيما يلي عرض للفروق بينها.

يقترح الخيار الأول إنشاء هيئة رقابة عالمية على غرار الوكالة الدولية للطاقة الذرية (IAEA). ويُقال إن ألتمان يؤيد هذا الخيار، فيما دعت OpenAI إلى ضرورة وضع إطار من هذا النوع منذ عام 2023.

أما الخيار الثاني، فيُعرف باسم «خطة ديميس»، نسبةً إلى ديميس هاسابيس، الشريك المؤسس لـDeepMind. ويقضي بدمج المختبرات الكبرى في كيان واحد يجري الأبحاث لصالح الدول المشاركة، في ترتيب يُقال إنه يشبه المنظمة الأوروبية للأبحاث النووية CERN.

والخيار الثالث هو سيناريو يحمل اسم باحث الذكاء الاصطناعي إليعازر يودكوفسكي. وفيه يتقدم مختبر واحد على الآخرين باستخدام ذكاء اصطناعي قادر على تحسين نفسه، ويبتعد عن منافسيه إلى حد «إذابة» وحدات معالجة الرسومات (GPU) التابعة للشركات الأخرى. ويُقال إن ألتمان وصف هذا السيناريو بأنه «فظيع».

ما الذي تكشفه مقارنة الخيارات الثلاثة؟

يمكن تلخيص الخيارات على النحو الآتي: الهيئة الرقابية تعني «وضع القواعد من الخارج»، ودمج المختبرات يعني «جمع موارد البحث في مكان واحد»، أما الانفراد بالسبق فيعني «ترك الأمر للفائز في المنافسة». وتشترك الخيارات الثلاثة في السعي إلى مستقبل آمن، لكنها تختلف في الجهة التي تتركز فيها السلطة.

أرى أن ما يثير القلق هو أن الخيار الثالث قد يكون الأقرب إلى التحقق. فإذا استمرت المنافسة من دون اتخاذ أي قرار، فقد يكون هذا هو المسار الذي ننتهي إليه تلقائيًا. وربما لهذا استخدم ألتمان أقوى تعبيراته لوصف هذا الخيار من بين الخيارات الثلاثة.

السؤال المطروح: من يحدد حدود السرعة؟

يُقال إن ألتمان ذكر ضرورة اختيار مسار خلال عام، وإن ذلك ينبغي أن يشمل وضع «حدود للسرعة» ونقاط توقف للذكاء الاصطناعي القادر على تحسين نفسه. وكأن الأمر يتعلق بإضافة مخطط للفرامل إلى سيارة لا تملك سوى دواسة تسارع.

لكن السؤال هو: من سيضغط على الفرامل؟ هل تُمنح الصلاحية لهيئة رقابية، أم تُدمج المختبرات في كيان واحد؟ أيًا كان الخيار، فلن ينجح ما لم يجلس جميع اللاعبين الرئيسيين إلى الطاولة. وقد يبدو مشهد اجتماع المختبرات تحت سقف واحد أشبه بأفلام الأبطال الخارقين، لكن جمع الأطراف المعنية بحد ذاته سيكون على الأرجح العقبة الأكبر، كما كان الحال في الاتفاقات الدولية السابقة.

توجه يتقاطع مع تصريحات منافس

وفي الفترة نفسها، تطرق جاك كلارك من شركة Anthropic إلى فكرة وضع سقف للذكاء، وقال، وفقًا للتقارير، إن الفترة المتاحة للتحرك في مجال السلامة لا تتجاوز «بضع سنوات». وهكذا يعبّر مسؤولان تنفيذيان في شركتين متنافستين عن مخاوف متشابهة.

عندما يبدأ المتنافسون في الحديث عن المشكلة نفسها، قد ينتقل النقاش من المبادئ إلى التنفيذ. لكن OpenAI لم تعتمد رسميًا أيًا من الخيارات حتى الآن، وما زالت جميعها في مرحلة التصور. فهل يصبح الموعد النهائي الممتد لعام ساعةً تحرك النقاش في القطاع بأسره؟ هذا ما يستحق المتابعة.