أعلنت Asana أن اختبارًا لتحسين الذكاء الاصطناعي من StackAI الذي يتفاعل مع المتصفح أظهر أن الإعداد المستخدم فيه GPT‑6.1 Sol حقق متوسط تكلفة نموذج مقدّرة قدره 0.47 دولار لكل تشغيل، واستغرق تنفيذه نحو 4 دقائق. وبالمقارنة مع الإعداد الأولي المستخدم في الإنتاج، انخفضت التكلفة إلى نحو 1/76، وأصبحت المعالجة أسرع بنحو 5 مرات.
خفض التكلفة إلى 1/76 لم يتحقق بمجرد تغيير النموذج
فتح صفحة ويب، والبحث عن المعلومات المطلوبة، وإدخالها في نموذج. على خلاف الذكاء الاصطناعي الذي ينشئ إجابة واحدة، تستدعي وكلاء المتصفح الذين ينفذون مثل هذه المهام النموذج مرات عديدة أثناء العمل. وفي StackAI، التي استحوذت عليها Asana، يمكن للعملاء إعداد خطوات لأتمتة المهام عبر تطبيقات أعمال متعددة، من دون كتابة أي شيفرة.
النقطة المهمة في هذه الأرقام هي أن الخفض بنحو 1/76 يشمل تحسين خطوات المعالجة وتغيير النموذج معًا. فحتى باستخدام النموذج B الذي كان مستخدمًا في البداية، خفّض التحسين تكلفة النموذج المقدّرة لكل تشغيل من أكثر من 36.21 دولار إلى 1.24 دولار. وبعد ذلك، أدى استخدام GPT‑6.1 Sol إلى خفضها إلى 0.47 دولار. وقد تحقق جزء كبير من الخفض قبل تغيير النموذج.
كذلك، تشير التكلفة المذكورة هنا إلى تقدير رسوم استخدام النموذج. ولا يعني ذلك أن إجمالي النفقات، بما فيها تكاليف الخوادم وأجور الموظفين المسؤولين عن التطوير والتشغيل، انخفض بالنسبة نفسها.
إذا حُذف قدر كبير من السجل، فقد يعيد الذكاء الاصطناعي قراءة الصفحة نفسها
طلب Frank Hidalgo، المدير التقني في StackAI والمسؤول عن الدراسة، من GPT‑6 Astra في Codex تحليل الشيفرة واختبار مقترحات التحسين. وكان من بين المشكلات التي اكتشفها أن محتوى الصفحات ولقطات الشاشة كانا يُرسلان مجددًا مع كل طلب إلى النموذج. ورغم إمكانية إعادة استخدام التعليمات الثابتة وما شابه، لم تُطبّق الآلية نفسها على سجل التصفح الذي يتزايد باستمرار.
إضافة إلى ذلك، كانت الصور القديمة تُحذف والنصوص تُختصر في كل خطوة تقريبًا. وعندما يُعدّل السجل باستمرار، يصبح من الأصعب الاستفادة من ذاكرة التخزين المؤقت، التي تخفض الرسوم عبر إعادة استخدام المدخلات التي عولجت سابقًا. كما أن حذف الكثير من المعلومات قد يدفع الذكاء الاصطناعي إلى زيارة صفحات سبق أن قرأها. وهكذا، فإن محاولة تقصير المدخلات قد تؤدي، على نحو عكسي، إلى زيادة العمل.
بدلًا من حذف الصور في كل مرة، تُجمع 20 صورة ثم تُنظّم
في الاختبار، ضُبط الحد الأقصى للاحتفاظ بالسجل على 120 ألفًا و480 ألف حرف، مع تغيير سياسات ذاكرة التخزين المؤقت وإدارة الصور، وأُجري ما مجموعه 144 تشغيلًا باستخدام أربعة نماذج. وكانت المهمة موحدة: جمع ستة عناصر من المعلومات لكل كتاب من 32 كتابًا في دليل عروض تجريبية متاح للعامة.
في الإعداد المحسّن المستخدم فيه GPT‑6.1 Sol، اعتُمدت طريقة تتيح تجميع ما يصل إلى 20 لقطة شاشة، ثم الإبقاء على أحدث لقطة واحدة فقط. وبدلًا من حذف الصور في كل مرة، أُعيد تنظيمها دفعة واحدة، ما أطال الفترة التي أمكن خلالها إعادة استخدام السجل من دون تغييره.
حتى عند مقارنة GPT‑6.1 Sol وحده، أدى تعديل ذاكرة التخزين المؤقت وإدارة الصور في ظروف زاد فيها الحد الأقصى للاحتفاظ بالسجل إلى خفض تكلفة النموذج المقدّرة من 1.97 دولار إلى 0.47 دولار. وبعد التحسين، مرّ 89% من المدخلات عبر ذاكرة التخزين المؤقت، وبلغت رسوم هذا الجزء 5% من رسوم المدخلات العادية. وقد نجح تصميم يسهّل إعادة استخدام المعلومات المحتفَظ بها، لا مجرد تقليص حجم المعلومات.
لم يقتصر التغيير على خفض التكلفة، بل شمل أيضًا معدل إكمال المهام
أثرت إدارة السجل أيضًا في إمكانية إتمام المهمة. فعند استخدام GPT‑6.1 Sol، لم يتمكن النموذج من إنشاء إجابة إلا في 3 مرات من أصل 18 عندما كان حد الاحتفاظ بالسجل منخفضًا. أما عند رفع الحد، فقد أنشأ إجابة في جميع المحاولات الـ18، وكانت النتائج صحيحة في كل مرة، وفقًا لما ورد.
مع ذلك، ينبغي التعامل بحذر مع المقارنة التي تشير إلى خفض التكلفة بنحو 1/76 وزيادة السرعة بنحو خمسة أضعاف. فقد تضمن الإعداد الأولي عمليات وصلت إلى الحد الأقصى لعدد الخطوات قبل إتمام المهمة، ولذلك فإن تكلفتها البالغة 36.21 دولارًا أو أكثر ووقتها البالغ 22.5 دقيقة أو أكثر يمثلان حدًا أدنى. كما أن القيم الرئيسية للمقارنة هي متوسط ثلاث عمليات لكل إعداد، وقد نتجت عن مهمة جمع المعلومات هذه. ولا يمكن الجزم بأن النسبة نفسها من الخفض ستتحقق في مواقع أو مهام أخرى.
تختلف نقاط القوة من نموذج إلى آخر أيضًا. فبعد التحسين، بلغت تكلفة النموذج C 0.66 دولار واستغرق 3.5 دقائق؛ أي إنه كان أغلى من GPT‑6.1 Sol، الذي بلغت تكلفته 0.47 دولار واستغرق نحو 4 دقائق، لكنه كان أسرع في التنفيذ. لذا ينبغي عند التطبيق مقارنة التكلفة والسرعة كلًّا على حدة.
الذكاء الاصطناعي يجري التجارب، والإنسان يراجع التغييرات
في هذه الحالة، لم يقتصر دور GPT‑6 Astra على اقتراح التحسينات، بل شمل أيضًا تعديل الشيفرة لضمان توحيد شروط التجارب وإجراء عمليات التحقق. وراجعت جلسة منفصلة للنموذج العمل، وسُجلت الطلبات والنتائج في Command، منصة التطوير لدى Asana. ويقول Hidalgo إن دراسة كان تقديره أنها ستستغرق من شهر إلى شهرين يدويًا أُنجزت في نحو أسبوع. ويستند هذا الفرق في المدة إلى تقدير المسؤول عن العمل، وليس إلى تجربة مقارنة أُجريت يدويًا.
ما يوضحه هذا المثال هو أن دراسة أسلوب استدعاء النموذج وكيفية الاحتفاظ بسجله قد تكون مهمة بقدر أهمية سعر النموذج نفسه عند تقدير تكاليف تشغيل الذكاء الاصطناعي. وقد طبّقت Asana التغييرات على ميزة التفاعل مع المتصفح في StackAI. وتعتزم الشركة مستقبلًا دمج الاختبارات في ميزات التقييم، لتمكين العملاء والفرق الداخلية من مقارنة التكلفة ووقت التنفيذ وجودة الإجابات بحسب الإعدادات المختلفة.


コメント