ڈیمو ہمیشہ کام کرتا ہے۔ ایک ایجنٹ ٹکٹ پڑھتا ہے، جواب تیار کرتا ہے، ریفنڈ درج کرتا ہے، اور معاملہ بند کر دیتا ہے — کمرے میں سب سر ہلاتے ہیں۔ پھر یہ شپ ہوتا ہے، دوسرے ہزار کیسز سے ٹکراتا ہے، اور ایسے آرڈرز کا ریفنڈ کرنے لگتا ہے جو کبھی دیے ہی نہیں گئے۔
ڈیمو میں کوئی جھوٹ نہیں تھا۔ جو غائب تھا وہ وہ سب کچھ تھا جو دوسرے ہزار کیسز کو قابلِ برداشت بناتا ہے — وہ حصہ جسے کوئی فلم نہیں کرتا۔ خودمختار AI ایجنٹس کو شروع کرنا مشکل نہیں۔ انہیں دیانت دار رکھنا مشکل ہے۔
ڈیمو کوئی نظام نہیں ہوتا
ایک ماڈل جو کوئی ٹول کال کر سکے، وہ ایک صلاحیت ہے۔ ایک نظام جو صحیح ٹول، صحیح وقت پر، صحیح حالت کے خلاف کال کرے، اور بعد میں وجہ بھی بتا سکے — وہ انفراسٹرکچر ہے۔ ان دونوں کے درمیان فاصلہ کوئی بہتر پرامپٹ نہیں پاٹ سکتا۔
ڈیمو میں ایجنٹ ایک بار چلتا ہے، نگرانی میں، ایک آسان راستے پر۔ پروڈکشن میں یہ دس ہزار بار چلتا ہے، بغیر نگرانی کے، ایسی حالت کے خلاف جو پڑھنے اور عمل کرنے کے درمیانی لمحے میں بدل چکی ہوتی ہے۔ میموری پرانی یا غائب ہوتی ہے۔ دوبارہ کی گئی کوشش دوہرا چارج لگا دیتی ہے۔ ایک ٹول کال جسے روکا جانا چاہیے تھا، گزر جاتی ہے کیونکہ دروازے پر کوئی کھڑا نہیں تھا۔
یہ ماڈل کی ناکامیاں نہیں ہیں۔ یہ وہ ناکامیاں ہیں جنہیں ایک رن ٹائم کو جذب کرنا چاہیے۔ انہیں پرامپٹ کا مسئلہ سمجھنا وہی طریقہ ہے جس سے ٹیمیں ایک سہ ماہی ہدایات کو نئے الفاظ میں لکھنے میں گزار دیتی ہیں اور پھر بھی اس واحد سوال کا جواب نہیں دے پاتیں جو کسی واقعے کے جائزے میں اہم ہوتا ہے: ایجنٹ نے کیا کیا، اور کس بنیاد پر۔
وہ لوپ جو خودمختار AI ایجنٹس اصل میں چلاتے ہیں
Algenta وہ deterministic رن ٹائم ہے جس پر AI ایجنٹس عمل کرتے ہیں، ایک واحد لوپ کے گرد تعمیر کیا گیا جسے ہر ایجنٹ چلاتا ہے، چاہے اس کے بنانے والوں نے اسے نام دیا ہو یا نہیں۔ اس لوپ کو واضح کرنا ہی بیشتر کام ہے۔
- Sense — دنیا کی موجودہ حالت پڑھیں: ان پٹس، بازیافت شدہ میموری، وہ براہِ راست اقدار جن پر فیصلہ منحصر ہے۔
- Plan — اس حالت اور ہدف کے پیشِ نظر اگلا عمل، یا اگلے چند اعمال، طے کریں۔
- Execute — governed ٹولز کے ذریعے عمل کریں، جہاں ہر کال کسی حقیقی چیز کو چھونے سے پہلے پالیسی کے خلاف جانچی جاتی ہے۔
- Evaluate — جو ہوا اسے توقعات کے خلاف پرکھیں، اور وہ حکم میموری اور اگلے پلان میں واپس ڈالیں۔
Sense، Plan، Execute، Evaluate۔ مراحل واضح ہیں؛ نظم و ضبط آخری مرحلے کو چھوڑنے سے انکار میں ہے۔ زیادہ تر ایجنٹ فریم ورکس Execute پر رک جاتے ہیں، اور یہی وجہ ہے کہ وہ ڈیمو میں اچھے لگتے ہیں اور وقت کے ساتھ بگڑ جاتے ہیں — وہ عمل کرتے ہیں بغیر کبھی جانچے گئے، تو غلطی خاموشی سے بڑھتی رہتی ہے بجائے اس کے کہ جس موڑ پر ہوئی وہیں پکڑی جائے۔
لوپ کے گرد مشترک primitives ہیں جنہیں پورا رن ٹائم first-class سمجھتا ہے، نہ کہ بعد میں جوڑے گئے اضافے: memory جسے ایجنٹ پڑھتا اور لکھتا ہے، tools جن کے ذریعے وہ عمل کرتا ہے، policy جو ہر عمل کو کنٹرول کرتی ہے، traces جو جو ہوا اسے ریکارڈ کرتے ہیں، اور evals جو طے کرتے ہیں کہ وہ درست تھا یا نہیں۔ لوپ کا ہر مرحلہ ہر primitive کو چھوتا ہے۔ Memory، Sense کو خوراک دیتی ہے اور Evaluate اسے اپ ڈیٹ کرتا ہے۔ Policy، Execute کو روکتی ہے۔ Traces چاروں کو محفوظ کرتے ہیں تاکہ Evaluate کے پاس جانچنے کے لیے کچھ ٹھوس ہو۔
جس ایجنٹ کو جانچا نہ جا سکے وہ خودمختار نہیں ہے۔ وہ بے نگران ہے۔
بورنگ primitives ہی اصل پروڈکٹ کیوں ہیں
Memory، policy، traces، evals۔ ان میں سے کوئی چیز تصویر میں اچھی نہیں لگتی۔ یہ سب وہی ہے جو کمرے میں کام کرنے والے ایجنٹ اور دنیا میں کام کرنے والے ایجنٹ کے درمیان فرق کرتا ہے۔
Memory وہ ہے جو ایجنٹ کو ایک لمحہ پہلے جانی ہوئی بات پر عمل کرنے دیتی ہے بجائے اس کے کہ ہر کال پر دنیا کو دوبارہ دریافت کرے — اور ایک رن ٹائم کو پائیدار علم اور ایک واحد رن کی عارضی جگہ کے درمیان حد کھینچنی ہوتی ہے، کیونکہ انہیں ملانا وہی طریقہ ہے جس سے ایجنٹ اپنی hallucinations پر بھروسہ کرنے لگتا ہے۔ Policy اس فرق کا نام ہے کہ ایجنٹ ایک ٹول کال کر سکتا ہے اور اسے ابھی کال کرنے کی اجازت ہے — یہ دیکھتے ہوئے کہ وہ کس کے لیے کام کر رہا ہے اور اس گھنٹے میں کیا کر چکا ہے۔ Traces "ایجنٹ نے کچھ عجیب کیا" کو ایک مخصوص فیصلے میں بدل دیتے ہیں، ایک مخصوص ان پٹ پر، اس مخصوص سیاق کے ساتھ جو اس کے پاس تھا — یہ debugging اور اندازے کے درمیان کا فرق ہے۔
Evals وہ primitive ہے جسے ٹیمیں سب سے آخر میں دریافت کرتی ہیں اور سب سے پہلے ضرورت ہوتی ہے۔ ان کے بغیر "ایجنٹ کام کر رہا ہے" کا مطلب ہے "ابھی تک کسی نے زور سے شکایت نہیں کی۔" ان کے ساتھ، ہر رن کو اسکور کیا جاتا ہے — جہاں ground truth موجود ہو وہاں اس کے خلاف، جہاں نہ ہو وہاں قواعد اور معیارات کے خلاف — اور ایک regression ایک ایسے نمبر کے طور پر سامنے آتا ہے جو اس تبدیلی پر حرکت کرتا ہے جس نے اسے حرکت دی، کسی گاہک تک پہنچنے سے پہلے۔
Orchestration ذریعہ ہے، مقصد نہیں
Agent orchestration کو سب سے زیادہ توجہ ملتی ہے — مراحل کا گراف، retries، ایجنٹس اور sub-agents کے درمیان ہینڈ آف۔ یہ اہم ہے۔ لیکن governance کے بغیر orchestration محض پیمانے پر غلط کام کرنے کا تیز تر طریقہ ہے، اور evaluation کے بغیر orchestration اسے بغیر جانے کرنے کا تیز تر طریقہ ہے۔
Algenta، orchestration کو ایک AI agent runtime environment کی ایک پرت سمجھتا ہے، نہ کہ اس کا سب کچھ۔ ایک پلان شاخ لگا سکتا ہے، دوسرے ایجنٹس کو کال کر سکتا ہے، عمل کرنے سے پہلے اسے جانچنے کے لیے simulation چلا سکتا ہے، اور جب پالیسی تقاضا کرے تو انسان کا انتظار کر سکتا ہے — اور ان تمام اقدامات میں سے ہر ایک اسی trace میں آتا ہے، اسی پالیسی کے تحت governed، اسی evals سے scored۔ Orchestration طے کرتا ہے کہ آگے کیا ہوگا۔ رن ٹائم طے کرتا ہے کہ آیا اس کی اجازت ہے، اور آیا وہ درست تھا۔
یہی وہ خاموش دعویٰ ہے جو ایک AI agent runtime platform کے پیچھے ہے: کہ sensing، planning، acting، اور judging کو ہر اس ٹیم کے لیے ہاتھ سے دوبارہ نہیں جوڑنا چاہیے جو پروڈکشن میں ایجنٹ چاہتی ہے۔ یہ انفراسٹرکچر ہے۔ آپ کو انہیں اسی طرح당연히سمجھنا چاہیے جیسے آپ یہ مانتے ہیں کہ ڈیٹابیس پائیدار ہے۔
لوپ بند ہونے پر کیا بدلتا ہے
جب پورا لوپ چلتا ہے — جب evaluation بعد کی سوچ نہیں بلکہ ہر چکر کی چوتھی دھڑکن ہو — تو کام کی نوعیت بدل جاتی ہے۔ خودمختار AI ایجنٹس وہ چیز نہیں رہتے جسے آپ لانچ کریں اور امید رکھیں، بلکہ وہ چیز بن جاتے ہیں جسے آپ چلا سکتے ہیں: دیکھ سکتے ہیں، حدود میں رکھ سکتے ہیں، درست کر سکتے ہیں، اور بیان کردہ حدود کے اندر بھروسہ کر سکتے ہیں۔
یہی ڈیمو اور operational intelligence کے درمیان کی لکیر ہے۔ ڈیمو آپ سے یقین مانگتا ہے۔ رن ٹائم آپ کو جانچنے دیتا ہے۔ وہ ٹیمیں جو خودمختار AI ایجنٹس کو پیمانے پر چلائیں گی، وہی ہیں جو ابتدا میں یہ فیصلہ کر لیتی ہیں کہ بورنگ primitives ہی اصل پروڈکٹ ہیں — اور یہ کہ جس ایجنٹ کو جانچا نہ جا سکے اسے بے نگران عمل کرنے کا حق نہیں ملنا چاہیے۔