دیمو ہمیشہ کام کرتا ہے۔ ایک ایجنٹ ٹکٹ پڑھتا ہے، جواب تیار کرتا ہے، ریفنڈ درج کرتا ہے، اور معاملہ بند کر دیتا ہے — کمرے میں سب سر ہلاتے ہیں۔ پھر یہ شپ ہوتا ہے، دوسرے ہزار کیسز سے ٹکراتا ہے، اور ایسے آرڈرز کا ریفنڈ کرنے لگتا ہے جو کبھی دیے ہی نہیں گئے۔
دیمو میں کوئی جھوٹ نہیں تھا۔ جو چیز غائب تھی وہ وہ سب کچھ تھا جو دوسرے ہزار کیسز کو قابلِ برداشت بناتی ہے — وہ حصہ جسے کوئی فلم نہیں کرتا۔ خودمختار AI ایجنٹس کو شروع کرنا مشکل نہیں۔ انہیں ایمانداری پر قائم رکھنا مشکل ہے۔
دیمو کوئی سسٹم نہیں ہوتا
ایک ماڈل جو کوئی ٹول کال کر سکے، وہ ایک صلاحیت ہے۔ ایک سسٹم جو صحیح ٹول کو، صحیح وقت پر، صحیح حالت کے خلاف کال کرے، اور بعد میں وجہ بھی بتا سکے — وہ انفراسٹرکچر ہے۔ ان دونوں کے درمیان فاصلہ کوئی بہتر پرامپٹ نہیں پاٹ سکتا۔
دیمو میں ایجنٹ ایک بار چلتا ہے، نگرانی میں، ایک آسان راستے پر۔ پروڈکشن میں یہ دس ہزار بار چلتا ہے، بغیر نگرانی کے، ایسی حالت کے خلاف جو پڑھنے اور عمل کرنے کے درمیانی لمحے میں بدل چکی ہوتی ہے۔ میموری پرانی یا غائب ہوتی ہے۔ دوبارہ کیا گیا قدم دوہرا چارج لگا دیتا ہے۔ ایک ٹول کال جسے روکا جانا چاہیے تھا، گزر جاتی ہے کیونکہ دروازے پر کوئی کھڑا نہیں تھا۔
یہ ماڈل کی ناکامیاں نہیں ہیں۔ یہ وہ ناکامیاں ہیں جنہیں ایک رن ٹائم کو جذب کرنا چاہیے۔ انہیں پرامپٹ کا مسئلہ سمجھنا وہی طریقہ ہے جس سے ٹیمیں ایک سہ ماہی ہدایات کو نئے الفاظ دینے میں گزار دیتی ہیں اور پھر بھی اس واحد سوال کا جواب نہیں دے پاتیں جو کسی واقعے کے جائزے میں اہم ہوتا ہے: ایجنٹ نے کیا کیا، اور کس بنیاد پر۔
وہ لوپ جو خودمختار AI ایجنٹس اصل میں چلاتے ہیں
Algenta ایک AI ایجنٹ رن ٹائم ہے جو ایک واحد لوپ کے گرد تعمیر کیا گیا ہے جسے ہر ایجنٹ چلاتا ہے، چاہے اس کے بنانے والوں نے اسے نام دیا ہو یا نہیں۔ لوپ کو واضح کرنا ہی زیادہ تر کام ہے۔
- Sense — دنیا کی موجودہ حالت پڑھیں: ان پٹس، بازیافت شدہ میموری، وہ براہِ راست اقدار جن پر فیصلہ منحصر ہے۔
- Plan — اس حالت اور ہدف کے پیشِ نظر اگلا عمل، یا اگلے چند اعمال، طے کریں۔
- Execute — گورنڈ ٹولز کے ذریعے عمل کریں، جہاں ہر کال کو پالیسی کے خلاف جانچا جاتا ہے اس سے پہلے کہ وہ کسی حقیقی چیز کو چھوئے۔
- Evaluate — جو ہوا اسے توقعات کے خلاف پرکھیں، اور وہ حکم میموری اور اگلے پلان میں واپس ڈالیں۔
Sense، Plan، Execute، Evaluate۔ یہ مراحل واضح ہیں؛ نظم و ضبط آخری مرحلے کو چھوڑنے سے انکار میں ہے۔ زیادہ تر ایجنٹ فریم ورک Execute پر رک جاتے ہیں، اور یہی وجہ ہے کہ وہ دیمو میں اچھے لگتے ہیں اور وقت کے ساتھ خراب ہو جاتے ہیں — وہ عمل کرتے ہیں بغیر کبھی جانچے جانے کے، اس لیے غلطی خاموشی سے بڑھتی رہتی ہے بجائے اس کے کہ جس موڑ پر ہوئی وہیں پکڑی جائے۔
لوپ کے گرد مشترکہ بنیادی اجزاء ہیں جنہیں پورا رن ٹائم پہلے درجے کی چیز سمجھتا ہے، نہ کہ بعد میں جوڑے گئے اضافے: memory جسے ایجنٹ پڑھتا اور لکھتا ہے، tools جن کے ذریعے وہ عمل کرتا ہے، policy جو ہر عمل کو کنٹرول کرتی ہے، traces جو جو ہوا اسے ریکارڈ کرتے ہیں، اور evals جو فیصلہ کرتے ہیں کہ وہ درست تھا یا نہیں۔ لوپ کا ہر مرحلہ ہر بنیادی جزو کو چھوتا ہے۔ Memory، Sense کو خوراک دیتی ہے اور Evaluate اسے اپ ڈیٹ کرتا ہے۔ Policy، Execute کو روکتی ہے۔ Traces چاروں کو محفوظ کرتے ہیں تاکہ Evaluate کے پاس جانچنے کے لیے کچھ ٹھوس ہو۔
جس ایجنٹ کو جانچا نہ جا سکے وہ خودمختار نہیں ہے۔ وہ بے نگران ہے۔
بورنگ بنیادی اجزاء ہی اصل پروڈکٹ کیوں ہیں
Memory، policy، traces، evals۔ ان میں سے کوئی بھی تصویر میں اچھا نہیں لگتا۔ یہ سب وہی ہے جو کمرے میں کام کرنے والے ایجنٹ اور دنیا میں کام کرنے والے ایجنٹ کے درمیان فرق کرتا ہے۔
Memory وہ چیز ہے جو ایجنٹ کو ایک لمحہ پہلے جانی ہوئی بات پر عمل کرنے دیتی ہے بجائے اس کے کہ ہر کال پر دنیا کو دوبارہ دریافت کرے — اور ایک رن ٹائم کو پائیدار علم اور ایک واحد رن کی عارضی جگہ کے درمیان حد کھینچنی ہوتی ہے، کیونکہ انہیں ملانا وہی طریقہ ہے جس سے ایجنٹ اپنی ہی من گھڑت باتوں پر بھروسہ کرنے لگتا ہے۔ Policy اس فرق کا نام ہے کہ ایجنٹ ایک ٹول کال کر سکتا ہے اور اسے ابھی کال کرنے کی اجازت ہے — یہ دیکھتے ہوئے کہ وہ کس کے لیے کام کر رہا ہے اور اس گھنٹے میں کیا کر چکا ہے۔ Traces "ایجنٹ نے کچھ عجیب کیا" کو ایک مخصوص فیصلے میں بدل دیتے ہیں، ایک مخصوص ان پٹ پر، اس مخصوص سیاق کے ساتھ جو اس کے پاس تھا — یہ ڈیبگنگ اور اندازے کے درمیان کا فرق ہے۔
Evals وہ بنیادی جزو ہے جسے ٹیمیں سب سے آخر میں دریافت کرتی ہیں اور سب سے پہلے ضرورت ہوتی ہے۔ ان کے بغیر "ایجنٹ کام کر رہا ہے" کا مطلب ہے "ابھی تک کسی نے زور سے شکایت نہیں کی۔" ان کے ساتھ، ہر رن کو اسکور کیا جاتا ہے — جہاں گراؤنڈ ٹروتھ موجود ہو وہاں اس کے خلاف، جہاں نہ ہو وہاں قواعد اور معیارات کے خلاف — اور ایک ریگریشن ایک ایسے نمبر کے طور پر سامنے آتی ہے جو اس تبدیلی پر حرکت کرتا ہے جس نے اسے حرکت دی، کسی گاہک تک پہنچنے سے پہلے۔
آرکیسٹریشن ذریعہ ہے، مقصد نہیں
ایجنٹ آرکیسٹریشن کو سب سے زیادہ توجہ ملتی ہے — مراحل کا گراف، ریٹریز، ایجنٹس اور سب ایجنٹس کے درمیان ہینڈ آفس۔ یہ اہم ہے۔ لیکن گورننس کے بغیر آرکیسٹریشن محض پیمانے پر غلط کام کرنے کا تیز تر طریقہ ہے، اور تشخیص کے بغیر آرکیسٹریشن اسے بغیر نوٹس کیے کرنے کا تیز تر طریقہ ہے۔
Algenta آرکیسٹریشن کو ایک AI ایجنٹ رن ٹائم ماحول کی ایک پرت سمجھتا ہے، نہ کہ اس کا سب کچھ۔ ایک پلان شاخ لگا سکتا ہے، دوسرے ایجنٹس کو کال کر سکتا ہے، عمل کرنے سے پہلے اسے جانچنے کے لیے سمولیشن چلا سکتا ہے، اور جب پالیسی تقاضا کرے تو انسان کا انتظار کر سکتا ہے — اور ان تمام اقدامات میں سے ہر ایک اسی ٹریس میں آتا ہے، اسی پالیسی کے تحت، اسی evals سے اسکور کیا جاتا ہے۔ آرکیسٹریشن فیصلہ کرتی ہے کہ آگے کیا ہوگا۔ رن ٹائم فیصلہ کرتا ہے کہ آیا اس کی اجازت ہے، اور آیا یہ درست تھا۔
یہ ایک AI ایجنٹ رن ٹائم پلیٹ فارم کے پیچھے کا خاموش دعویٰ ہے: کہ sensing، planning، acting، اور judging کو ہر اس ٹیم کے لیے ہاتھ سے دوبارہ نہیں جوڑنا چاہیے جو پروڈکشن میں ایجنٹ چاہتی ہے۔ یہ انفراسٹرکچر ہے۔ آپ کو انہیں اسی طرح فرض کر لینا چاہیے جیسے آپ فرض کرتے ہیں کہ ڈیٹابیس پائیدار ہے۔
لوپ بند ہونے پر کیا بدلتا ہے
جب پورا لوپ چلتا ہے — جب تشخیص بعد کی سوچ نہیں بلکہ ہر سائیکل کی چوتھی دھڑکن ہو — تو کام کی نوعیت بدل جاتی ہے۔ خودمختار AI ایجنٹس وہ چیز نہیں رہتے جسے آپ لانچ کریں اور امید رکھیں، بلکہ وہ چیز بن جاتے ہیں جسے آپ چلا سکتے ہیں: دیکھ سکتے ہیں، حدود میں رکھ سکتے ہیں، درست کر سکتے ہیں، اور بیان کردہ حدود کے اندر بھروسہ کر سکتے ہیں۔
یہی دیمو اور آپریشنل انٹیلی جنس کے درمیان کی لکیر ہے۔ دیمو آپ سے یقین مانگتا ہے۔ رن ٹائم آپ کو جانچنے دیتا ہے۔ وہ ٹیمیں جو پیمانے پر خودمختار AI ایجنٹس چلائیں گی، وہی ہیں جو جلد فیصلہ کر لیتی ہیں کہ بورنگ بنیادی اجزاء ہی اصل پروڈکٹ ہیں — اور یہ کہ جس ایجنٹ کو جانچا نہ جا سکے اسے بے نگران عمل کرنے کا حق نہیں ملتا۔