أعلنت Anthropic خفض كمية معلومات الاستدلال المستخرجة من Claude في محاولات عدائية بنسبة 90 إلى 99٪

قالت Anthropic إنها عززت دفاعاتها في مواجهة محاولات استخراج كميات كبيرة من المعلومات التي تكشف عملية استدلال روبوت المحادثة Claude (رموز الاستدلال)، وخفضت الكمية المستخرجة بنسبة 90 إلى 99٪. وأضافت أنها قيّدت الوصول إلى معلومات الاستدلال، وشغّلت أداة تصنيف ترصد مؤشرات الاستخراج، وأدخلت آلية توقف الحسابات المعنية تلقائيًا. وذكرت أن عدد الحسابات التي أوقفتها حتى الآن بلغ عشرات الآلاف.

كيف تمنع Anthropic الوصول المكثف إلى Claude؟

تتمثل خلفية المشكلة في «التقطير»، وهو أسلوب يُدرَّب فيه نموذج آخر أصغر حجمًا بالاستعانة بمخرجات نموذج ذكاء اصطناعي قوي بوصفها مادة تعليمية. وهو تقنية مشروعة تُستخدم أساسًا لجعل النماذج الخاصة بالشركة أخف، لكن ثمة من يستخدمها لطرح كميات هائلة من الأسئلة على نماذج شركات أخرى، ثم نسخ قدراتها بالكامل استنادًا إلى إجاباتها. وما تراه Anthropic مشكلة هو الاستخراج المنظم من النوع الأخير.

بحسب الشركة، يستخدم المهاجمون شبكة تضم مئات الآلاف من الحسابات المزيفة. ويُضبط نشاط كل حساب على حدة بحيث يبدو كأنه لمستخدم عادي، بينما تجمع الشبكة ككل كمًا هائلًا من الردود. إنها حيلة قد تدفع المرء إلى تسميتها «تكتيك حشد الحسابات»، على غرار تكتيك حشد البشر.

المستهدف هو رموز الاستدلال، أي خطوات التفكير الداخلية التي يتبعها النموذج قبل الوصول إلى الإجابة. فالحصول على مسار التفكير، لا على الإجابة النهائية فحسب، يتيح تعليم نموذج آخر «كيف يفكر». وإذا شبّهنا الأمر بالطهي، فهو أشبه بأخذ كتيب الوصفة وخطواتها، لا بمجرد تقليد مذاق الطبق النهائي.

تتمثل تدابير Anthropic في ثلاثة محاور رئيسية: تقييد الوصول إلى خطوات الاستدلال الداخلية في Claude، وتشغيل أداة تصنيف لاكتشاف محاولات الاستخراج، وإيقاف الحسابات التي يُشتبه فيها تلقائيًا.

ما تكشفه الأرقام عن فاعلية التدابير وحدودها

تقول Anthropic إن كمية رموز الاستدلال المستخرجة انخفضت بنسبة 90 إلى 99٪ بعد تفعيل الدفاعات. كما أوضحت أن حالات نجاح التقطير تراجعت بشدة بعد بدء تطبيق التدابير. ورغم أن النسبة تقديرية وتتراوح ضمن نطاق، فإن الشركة تقول إنها خفّضت الكمية إلى عُشر مستواها السابق أو أقل.

وثمة أثر جانبي آخر لا ينبغي إغفاله، تقر به الشركة نفسها: فقد تطال آليات الرصد مستخدمين شرعيين أيضًا. وكلما زادت دقة شبكة استبعاد الاستخدامات غير المشروعة، زاد احتمال أن تعلق بها شركات أو أفراد يستخدمون الخدمة استخدامًا عاديًا. وهذا التحدي الملازم لتدابير الأمن ليس استثناءً في خدمات الذكاء الاصطناعي.

قد يبدو سلوك المطورين كثيفي الاستخدام أو أنظمة العمل التي تتضمن أدوات مؤتمتة مشابهًا لمؤشرات الاستخراج. وفي الفترة المقبلة، سيؤثر التوازن بين صرامة تدابير مكافحة إساءة الاستخدام وتشغيل الخدمة دون عرقلة الاستخدام العادي في سهولة استخدامها.

ما دلالة تسمية شركات بعينها؟

سمّت Anthropic هذه المرة الشركتين الصينيتين Zhipu (智譜) وMoonshot بوصفهما طرفين ضالعين. ووفقًا لادعاءات الشركة، استخلصت Zhipu قدرات مرتبطة بالأمن السيبراني من نماذج أمريكية رئيسية، واستخدمتها في نموذجها GLM-5.3. أما Moonshot، فتتهمها بتمرير الاستفسارات الموجهة إلى Claude سرًا عبر قنوات وسيطة. وهذه كلها ادعاءات من جانب Anthropic، ولم يتسنَّ التحقق من موقف الشركتين في المواد المنشورة هذه المرة.

وأشارت Anthropic أيضًا إلى احتمال انتقال القدرات المستخرجة بهذه الطريقة إلى أنظمة عسكرية أو أنظمة مراقبة أجنبية. واللافت أنها لا تضع المسألة في إطار التقليد التجاري فحسب، بل تعدّها قضية أمن قومي.

وفي تحرك آخر، دعت الشركة مطوري الذكاء الاصطناعي الآخرين إلى اعتماد تدابير دفاعية مماثلة. فتعزيز شركة واحدة لحماية بوابتها لا يجدي كثيرًا إذا أمكن استخراج المعلومات من مدخل آخر. ويظل التحدي هو ما إذا كان القطاع بأكمله سيتمكن من توحيد جهوده.

تتسع المنافسة في مجال الذكاء الاصطناعي التوليدي، فتتجاوز سباق بناء نماذج ذكية إلى سباق لمعرفة من يستخدمها وكيف، ثم ضبط ذلك الاستخدام. ومن المرجح أن تتزايد المواقف التي تحدد فيها تقنيات دفاعية غير لافتة، مثل رصد الحسابات المزيفة وفرض قيود على الوصول، القدرة التنافسية لشركات الذكاء الاصطناعي.