العرض التوضيحي ينجح دائمًا. يقرأ الوكيل تذكرة الدعم، ويصيغ ردًا، ويعالج طلب الاسترداد، ويُغلق الحلقة بينما يومئ الحاضرون بالرضا. ثم يُطلق في الإنتاج، ويواجه الألف حالة الثانية، فيبدأ باسترداد مبالغ لطلبات لم تُقدَّم قط.
لم يكن في العرض التوضيحي أي كذب. ما كان غائبًا هو كل ما يجعل الألف حالة الثانية قابلة للتجاوز — الجزء الذي لا يصوره أحد. وكلاء الذكاء الاصطناعي المستقلون ليسوا عسيري البداية. العسير هو إبقاؤهم أمناء.
العرض التوضيحي ليس نظامًا
النموذج القادر على استدعاء أداة هو قدرة. أما النظام الذي يستدعي الأداة الصحيحة، في الوقت الصحيح، وفق الحالة الصحيحة، ويستطيع تفسير ذلك لاحقًا — فذاك بنية تحتية. والمسافة بين الاثنين ليست مطالبة أفضل.
في العرض التوضيحي، يعمل الوكيل مرة واحدة، تحت المراقبة، على المسار المثالي. في الإنتاج يعمل عشرة آلاف مرة، دون مراقبة، في مواجهة حالة تتبدل بين لحظة القراءة ولحظة التصرف. الذاكرة قديمة أو غائبة. خطوة مُعادة تُفضي إلى رسوم مضاعفة. استدعاء أداة كان ينبغي رفضه يمر لأن لا أحد كان يحرس الباب.
هذه ليست إخفاقات النموذج. هي الإخفاقات التي يُفترض أن تمتصها بيئة التشغيل. معالجتها كمشكلات في الصياغة هو ما يجعل الفرق تقضي ربعًا كاملًا في إعادة صياغة التعليمات دون أن تستطيع الإجابة عن السؤال الوحيد المهم في أي مراجعة حادثة: ماذا فعل الوكيل، وعلى أي أساس.
الحلقة التي يشغّلها وكلاء الذكاء الاصطناعي المستقلون فعلًا
Algenta هي بيئة التشغيل الحتمية التي يعمل عليها وكلاء الذكاء الاصطناعي، مبنية حول حلقة واحدة يشغّلها كل وكيل سواء سمّاها مؤلفوه أم لا. جعل الحلقة صريحة هو معظم العمل.
- الاستشعار — قراءة الحالة الراهنة للعالم: المدخلات، والذاكرة المسترجعة، والقيم الحية التي يقوم عليها القرار.
- التخطيط — تحديد الإجراء التالي، أو الإجراءات القليلة التالية، بناءً على تلك الحالة والهدف.
- التنفيذ — التصرف عبر أدوات محكومة، حيث يُفحص كل استدعاء وفق السياسة قبل أن يلمس أي شيء حقيقي.
- التقييم — الحكم على ما جرى قياسًا بالتوقعات، وإعادة تغذية ذلك الحكم إلى الذاكرة والخطة التالية.
استشعار، تخطيط، تنفيذ، تقييم. الخطوات واضحة؛ والانضباط هو رفض تخطي الأخيرة. تتوقف معظم أطر عمل الوكلاء عند التنفيذ، وهذا بالضبط ما يجعلها تبهر في العروض وتتدهور مع الوقت — تتصرف دون أن تُقيَّم، فيتراكم الخطأ في صمت بدلًا من اكتشافه في الدورة التي وقع فيها.
حول الحلقة تقع عناصر أولية مشتركة تعاملها بيئة التشغيل بالكامل كعناصر أساسية لا إضافات: الذاكرة التي يقرأها الوكيل ويكتب إليها، الأدوات التي يتصرف من خلالها، السياسة التي تحكم كل إجراء، التتبع الذي يسجل ما جرى، والتقييم الذي يحكم على جودته. كل خطوة في الحلقة تلمس كل عنصر. الذاكرة تُغذّي الاستشعار وتُحدَّث بالتقييم. السياسة تُبوّب التنفيذ. التتبع يرصد الخطوات الأربع لكي يجد التقييم ما يحكم عليه بأمانة.
الوكيل الذي لا يمكن تقييمه ليس مستقلًا. إنه غير مراقَب.
لماذا العناصر المملة هي المنتج
الذاكرة، السياسة، التتبع، التقييم. لا شيء منها يبدو جذابًا في الصور. وكل ذلك هو ما يفصل وكيلًا يعمل في الغرفة عن وكيل يعمل في العالم.
الذاكرة هي ما يتيح للوكيل التصرف بناءً على ما عرفه للتو بدلًا من إعادة اكتشاف العالم في كل استدعاء — وعلى بيئة التشغيل أن ترسم الحد بين المعرفة الدائمة ومساحة العمل المؤقتة لتشغيل واحد، لأن الخلط بينهما هو كيف يبدأ الوكيل بالوثوق بهلوساته. السياسة هي الفرق بين أداة يستطيع الوكيل استدعاءها وأداة مسموح له باستدعائها الآن، بالنظر إلى من يتصرف نيابةً عنه وما فعله خلال الساعة الماضية. التتبع يحوّل "الوكيل تصرف بشكل غريب" إلى قرار محدد، على مدخل محدد، بالسياق المحدد الذي كان لديه — الفرق بين التشخيص والتخمين.
التقييم هو العنصر الذي تكتشفه الفرق أخيرًا وتحتاجه أولًا. بدونه، "الوكيل يعمل" تعني "لم يشكُ أحد بصوت عالٍ بعد." بوجوده، يُسجَّل كل تشغيل — مقارنةً بالحقيقة الأساسية حيث توجد، وبالقواعد والمعايير حيث لا توجد — ويظهر الانحدار كرقم تحرّك، على التغيير الذي حرّكه، قبل أن يصل إلى أي عميل.
التنسيق وسيلة لا غاية
يستأثر تنسيق الوكلاء بمعظم الاهتمام — الرسم البياني للخطوات، وإعادة المحاولات، والتسليم بين الوكلاء والوكلاء الفرعيين. وهو مهم. لكن التنسيق دون حوكمة ليس سوى طريقة أسرع لفعل الشيء الخاطئ على نطاق واسع، والتنسيق دون تقييم طريقة أسرع لفعله دون أن يلاحظ أحد.
تعامل Algenta التنسيق كطبقة واحدة من بيئة تشغيل وكلاء الذكاء الاصطناعي، لا مجملها. يمكن للخطة أن تتفرع، وتستدعي وكلاء آخرين، وتشغّل محاكاة لاختبار إجراء قبل تنفيذه، وتنتظر تدخلًا بشريًا حين تستوجبه السياسة — وكل تلك التحركات تُسجَّل في التتبع ذاته، محكومةً بالسياسة ذاتها، ومُقيَّمةً بالمعايير ذاتها. التنسيق يقرر ما يحدث بعد ذلك. بيئة التشغيل تقرر هل هو مسموح به، وهل كان صحيحًا.
هذا هو الادعاء الهادئ وراء منصة بيئة تشغيل وكلاء الذكاء الاصطناعي: أن الاستشعار والتخطيط والتصرف والحكم لا ينبغي إعادة تجميعها يدويًا لكل فريق يريد وكيلًا في الإنتاج. إنها بنية تحتية. ينبغي أن تفترضها كما تفترض أن قاعدة البيانات دائمة.
ما الذي يتغير حين تُغلق الحلقة
حين تعمل الحلقة كاملةً — حين لا يكون التقييم فكرة لاحقة بل النبضة الرابعة في كل دورة — تتغير طبيعة العمل. يكف وكلاء الذكاء الاصطناعي المستقلون عن كونهم شيئًا تُطلقه وتأمل فيه، ويصبحون شيئًا يمكنك تشغيله: مراقبته، وتحديد حدوده، وتصحيحه، والوثوق به ضمن حدود معلنة.
هذا هو الخط الفاصل بين العرض التوضيحي والذكاء التشغيلي. العرض يطلب منك أن تصدّق. بيئة التشغيل تتيح لك أن تتحقق. الفرق التي ستشغّل وكلاء الذكاء الاصطناعي المستقلين على نطاق واسع هي التي تقرر مبكرًا أن العناصر المملة هي المنتج — وأن الوكيل الذي لا يمكن تقييمه لا يحق له التصرف دون إشراف.