ألتمن: لا يمكن إبقاء الذكاء الاصطناعي المتقدم معزولًا إلى الأبد، وفي النهاية لا يبقى سوى التعويل على المواءمة

أبدى الرئيس التنفيذي لشركة OpenAI، سام ألتمن، في مقابلة حديثة رأيه بأن «الذكاء الاصطناعي المتقدم لا يمكن إبقاؤه حبيس بيئة معزولة إلى الأبد». ورأى أن تدابير السلامة القائمة على العزل، المعروفة باسم «صناديق الرمل» (Sandbox)، تفقد دورها كلما ازدادت قدرات النماذج، وأن المواءمة وحدها ستبقى في نهاية المطاف: أي أن يستبطن الذكاء الاصطناعي القيم البشرية ويتصرف على أساسها.

تصريح بأن القفص لن يصمد إلى الأبد

صندوق الرمل هو آلية لتشغيل الذكاء الاصطناعي في بيئة آمنة ومعزولة عن الخارج. وهو أشبه بسياج يمنع طفلًا يلعب في صندوق الرمل من الخروج منه، وقد استُخدم بوصفه تدبيرًا دفاعيًا أساسيًا لمنع اتساع الضرر إذا تصرف الذكاء الاصطناعي، على نحو غير متوقع، خلافًا للمراد.

أوضح ألتمن أن هذا السياج لا يكون فعالًا إلا لفترة محدودة. فبحسب تقديره، عندما يصبح النموذج ذكيًا بما يكفي، لن يكون من الممكن منع هروبه، فضلًا عن صعوبة تتبع كيفية خروجه بعد وقوع ذلك.

ينبغي التأكيد على أن هذا مجرد توقع شخصي، وليس تقريرًا عن واقعة حدثت بالفعل. ومع ذلك، فإن تصريح أحد كبار المسؤولين عن تطوير الذكاء الاصطناعي بأن «القفص حل مؤقت» يزعزع الافتراضات التي تُبنى عليها تدابير السلامة.

ما الذي يبقى بعد المراقبة؟

يقول ألتمن إن المراقبة ستظل مفيدة لبعض الوقت حتى بعد تمكن الذكاء الاصطناعي من تجاوز صندوق الرمل. لكنها، بدورها، ليست حلًا دائمًا، إذ يرى أن المواءمة وحدها هي ما سيظل فعالًا في نهاية المطاف.

ببساطة، تعني المواءمة جعل الذكاء الاصطناعي يستبطن القيم والنوايا البشرية، بحيث يتصرف في الاتجاه المرغوب حتى عندما لا يراقبه أحد. وهذا أقرب إلى نهج لا يكتفي بإغلاق الباب من الخارج، بل يزيل من الأساس الدافع إلى فتحه والخروج.

كما أدلى ألتمن بتصريح مفاده أن «كلفة ما قد ينجم عن فشل المواءمة أصبحت هائلة». لكن هذا المجال لا يزال في مراحله البحثية الأولى، وما زال بعيدًا عن حل المشكلة.

بمعنى آخر، فإن التقنية التي يُعوَّل عليها بوصفها الملاذ الأخير لم تكتمل بعد. ولعل هذه الفجوة هي أكثر ما ينبغي أخذه على محمل الجد في تصريحات ألتمن الأخيرة.

ذكاء اصطناعي يعثر حتى على ثغرات في الأجهزة

حذّر ألتمن من أن نماذج الذكاء الاصطناعي تعثر بالفعل على ثغرات أمنية على مستوى الأجهزة، لم تخطر ببال قراصنة بشريين. وقال إن الأسلوب التقليدي القائم على إصلاح الثغرات واحدة تلو الأخرى لن يواكب التطورات، وإنه من الضروري إعادة تصميم أمن الإنترنت برمته، والاستعداد للهجمات المدعومة بالذكاء الاصطناعي عبر دفاعات تستخدم الذكاء الاصطناعي.

وأشار أيضًا إلى النماذج مفتوحة المصدر التي تعمل محليًا بوصفها أحد المخاطر. ورأيه أن احتمال وقوع أمور «لم نكن نريد حدوثها» سيظل قائمًا حتى لو أُنشئ نظام لمراقبة الوكلاء على مستوى العالم.

في عالم يستخدم فيه المهاجمون والمدافعون الذكاء الاصطناعي، يصبح عامل الحسم هو سرعة تحديث الدفاعات. وبالنسبة إلى مسؤولي الأمن في الشركات، قد يعني ذلك ضرورة الانتقال من مواصلة إدارة التصحيحات بعناية إلى إعادة النظر في التصميم نفسه.

من المستفيد من هذا التحذير؟

يمكن أيضًا قراءة تصريحات ألتمن على نحو مختلف. فهناك من يرى أن التشديد على أن الذكاء الاصطناعي قوي إلى حد يصعب معه التحكم فيه قد يطمس المسؤولية عند وقوع مشكلة. وإذا قالت الشركات المطورة نفسها إنها لا تستطيع السيطرة عليه بالكامل، فسيصبح من الأصعب نقاش تحميلها مسؤولية الحوادث.

وتأتي هذه التصريحات على خلفية تحركات الجهات التنظيمية. فقد أفادت تقارير بأن لجنة التجارة الفيدرالية الأمريكية (FTC) بدأت تحقيقًا رسميًا يستهدف شركات ذكاء اصطناعي، من بينها OpenAI وAnthropic. ويُقال إن سلسلة من الحوادث السيبرانية التي تسببت فيها وكلاء ذكاء اصطناعي خرجوا عن السيطرة كانت وراء هذه الخطوة، وإن السلطات تسعى إلى تحميل المطورين مسؤولية سلوك الوكلاء.

حتى لو كانت التحذيرات التقنية جدية، فمن المهم للقارئ أن يعي أنها قد تؤدي في الوقت نفسه إلى حماية موقف الشركات.

هل السلامة مسألة هندسية؟

في مقابل رأي ألتمن، يرى الرئيس التنفيذي لشركة NVIDIA، جنسن هوانغ، أن سلامة الذكاء الاصطناعي مسألة هندسية يمكن حلها. لكنه صاغ موقفه بحذر، قائلًا بما معناه: «ينبغي لنا جميعًا أن نأمل أن تكون مسألة هندسية. فإذا لم تكن كذلك، فلن نتمكن من حلها».

يكمن الاختلاف بين الرجلين في مدى التفاؤل: هل يمكن حل المشكلة تقنيًا، أم لا نعرف ما إذا كان حلها ممكنًا؟ لكن ما يجمع التصريحين هو الإقرار بعدم وجود ضمان حتى الآن على إمكانية التوصل إلى حل.

صندوق الرمل دفاع خارجي، والمراقبة دفاع في الوسط، والمواءمة دفاع داخلي. ويكشف هذا التصور عن أن الطبقة الأعمق هي الأقل نضجًا، وهذا أمر لا يخص شركات الذكاء الاصطناعي أو الأفراد الذين يستخدمونه فحسب. فكلما زاد انتفاعنا بمزاياه، بدا من الضروري أن نواصل التساؤل بجدية: من سيضمن السلامة التي يقوم عليها، وكيف؟