العرض التوضيحي ينجح دائمًا. يقرأ الوكيل تذكرة الدعم، ويصيغ ردًا، ويعالج استرداد المبلغ، ويُغلق الحلقة بينما يومئ الحضور موافقين. ثم يُطلق في الإنتاج، ويواجه الألف حالة الثانية، فيبدأ باسترداد مبالغ لطلبات لم تُقدَّم قط.
لم يكن في العرض التوضيحي أي كذب. ما كان غائبًا هو كل ما يجعل الألف حالة الثانية قابلةً للتجاوز — الجزء الذي لا يصوّره أحد. وكلاء الذكاء الاصطناعي المستقلون ليسوا عسيري البداية. العسير هو إبقاؤهم أمناء.
العرض التوضيحي ليس نظامًا
نموذج يستطيع استدعاء أداة هو قدرة. نظام يستدعي الأداة الصحيحة، في الوقت الصحيح، وفق الحالة الصحيحة، ويستطيع تفسير ذلك لاحقًا — هذا بنية تحتية. المسافة بين الاثنين ليست مطالبة أفضل.
في العرض التوضيحي، يعمل الوكيل مرة واحدة، تحت المراقبة، على المسار المثالي. في الإنتاج يعمل عشرة آلاف مرة، دون مراقبة، في مواجهة حالة تتغير بين لحظة القراءة ولحظة التصرف. الذاكرة قديمة أو غائبة. خطوة مُعادة تُفضي إلى رسوم مضاعفة. استدعاء أداة كان ينبغي رفضه يمر لأن لا أحد كان يقف عند الباب.
هذه ليست إخفاقات النموذج. هي الإخفاقات التي يُفترض أن تمتصها بيئة التشغيل. معالجتها باعتبارها مشكلات مطالبات هو ما يجعل الفرق تقضي ربعًا كاملًا في إعادة صياغة التعليمات دون أن تستطيع الإجابة عن السؤال الوحيد المهم في مراجعة الحوادث: ماذا فعل الوكيل، وعلى أي أساس.
الحلقة التي يشغّلها وكلاء الذكاء الاصطناعي المستقلون فعليًا
Algenta بيئة تشغيل لوكلاء الذكاء الاصطناعي مبنية حول حلقة واحدة يشغّلها كل وكيل، سواء سمّاها مؤلفوه أم لا. جعل الحلقة صريحة هو معظم العمل.
- الاستشعار — قراءة الحالة الراهنة للعالم: المدخلات، والذاكرة المسترجعة، والقيم الحية التي يعتمد عليها القرار.
- التخطيط — تحديد الإجراء التالي، أو الإجراءات القليلة التالية، بناءً على تلك الحالة والهدف.
- التنفيذ — التصرف عبر أدوات محكومة، حيث يُفحص كل استدعاء وفق السياسة قبل أن يلمس أي شيء حقيقي.
- التقييم — الحكم على ما جرى مقارنةً بالتوقعات، وإعادة هذا الحكم إلى الذاكرة والخطة التالية.
استشعار، تخطيط، تنفيذ، تقييم. الخطوات واضحة؛ الانضباط هو رفض تخطي الأخيرة. تتوقف معظم أطر الوكلاء عند التنفيذ، وهذا بالضبط سبب نجاحها في العروض وتراجعها مع الوقت — تتصرف دون أن تُقيَّم، فيتراكم الخطأ في صمت بدلًا من اكتشافه في اللحظة التي وقع فيها.
حول الحلقة تقع عناصر أولية مشتركة تعاملها بيئة التشغيل بأكملها باعتبارها أساسية لا إضافية: الذاكرة التي يقرأها الوكيل ويكتب إليها، الأدوات التي يتصرف من خلالها، السياسة التي تحكم كل إجراء، التتبع الذي يسجّل ما جرى، والتقييم الذي يحكم على جودته. كل خطوة في الحلقة تلمس كل عنصر. الذاكرة تُغذّي الاستشعار وتُحدَّث بالتقييم. السياسة تُبوّب التنفيذ. التتبع يرصد الخطوات الأربع لكي يملك التقييم ما يحكم عليه بأمانة.
وكيل لا يمكن تقييمه ليس مستقلًا. إنه غير مراقَب.
لماذا العناصر المملة هي المنتج
الذاكرة، والسياسة، والتتبع، والتقييم. لا شيء منها يبدو جذابًا في الصور. كل ذلك هو ما يفصل وكيلًا يعمل في الغرفة عن وكيل يعمل في العالم.
الذاكرة هي ما يتيح للوكيل التصرف بناءً على ما عرفه للتو بدلًا من إعادة اكتشاف العالم في كل استدعاء — وعلى بيئة التشغيل رسم الحد بين المعرفة الدائمة وفضاء العمل المؤقت لتشغيل واحد، لأن الخلط بينهما هو كيف يبدأ الوكيل بالوثوق بهلوساته. السياسة هي الفرق بين أداة يستطيع الوكيل استدعاءها وأداة مسموح له باستدعائها الآن، بالنظر إلى من يتصرف نيابةً عنه وما فعله خلال الساعة الماضية. التتبع يحوّل "الوكيل تصرّف بشكل غريب" إلى قرار محدد، على مدخل محدد، بالسياق المحدد الذي كان لديه — الفرق بين التشخيص والتخمين.
التقييم هو العنصر الذي تكتشفه الفرق أخيرًا وتحتاجه أولًا. بدونه، "الوكيل يعمل" تعني "لم يشكُ أحد بصوت عالٍ بعد." بوجوده، يُسجَّل كل تشغيل — مقارنةً بالحقيقة الأساسية حيث توجد، ومقارنةً بالقواعد والمعايير حيث لا توجد — ويظهر الانحدار كرقم تحرّك، على التغيير الذي حرّكه، قبل أن يصل إلى العميل.
التنسيق وسيلة لا غاية
يحظى تنسيق الوكلاء بمعظم الاهتمام — رسم الخطوات، وإعادة المحاولات، والتسليم بين الوكلاء والوكلاء الفرعيين. وهو مهم. لكن التنسيق دون حوكمة هو مجرد طريقة أسرع لفعل الشيء الخاطئ على نطاق واسع، والتنسيق دون تقييم هو طريقة أسرع لفعله دون أن يلاحظ أحد.
تعامل Algenta التنسيقَ باعتباره طبقة واحدة من بيئة تشغيل وكلاء الذكاء الاصطناعي، لا مجملها. يمكن للخطة أن تتفرع، وتستدعي وكلاء آخرين، وتشغّل محاكاة لاختبار إجراء قبل تنفيذه، وتنتظر تدخلًا بشريًا حين تستوجبه السياسة — وكل هذه التحركات تقع في التتبع ذاته، محكومةً بالسياسة ذاتها، مُقيَّمةً بالمعايير ذاتها. التنسيق يقرر ما يحدث بعد ذلك. بيئة التشغيل تقرر هل هو مسموح به، وهل كان صحيحًا.
هذا هو الادعاء الهادئ وراء منصة بيئة تشغيل وكلاء الذكاء الاصطناعي: أن الاستشعار والتخطيط والتصرف والحكم لا ينبغي إعادة تجميعها يدويًا لكل فريق يريد وكيلًا في الإنتاج. إنها بنية تحتية. ينبغي أن تفترضها كما تفترض أن قاعدة البيانات دائمة.
ما الذي يتغير حين تُغلق الحلقة
حين تعمل الحلقة كاملةً — حين لا يكون التقييم فكرةً لاحقة بل النبضة الرابعة في كل دورة — تتغير طبيعة العمل. يكف وكلاء الذكاء الاصطناعي المستقلون عن كونهم شيئًا تُطلقه وتأمل فيه، ويصبحون شيئًا يمكنك تشغيله: مراقبته، وتحديد حدوده، وتصحيحه، والوثوق به ضمن حدود معلنة.
هذا هو الخط الفاصل بين العرض التوضيحي والذكاء التشغيلي. العرض يطلب منك أن تؤمن. بيئة التشغيل تتيح لك أن تتحقق. الفرق التي ستشغّل وكلاء الذكاء الاصطناعي المستقلين على نطاق واسع هي التي تقرر مبكرًا أن العناصر المملة هي المنتج — وأن وكيلًا لا يمكن تقييمه لا يحق له التصرف دون إشراف.