স্বায়ত্তশাসিত AI এজেন্টের একটি রানটাইম প্রয়োজন

ডেমো সবসময় কাজ করে। একটি এজেন্ট টিকিট পড়ে, উত্তর খসড়া করে, রিফান্ড দাখিল করে, এবং লুপ বন্ধ করে — ঘরের সবাই মাথা নাড়ে। তারপর সেটি শিপ হয়, দ্বিতীয় হাজার কেসের মুখোমুখি হয়, এবং এমন অর্ডারে রিফান্ড দিতে শুরু করে যা কখনো দেওয়াই হয়নি।

ডেমোতে কোনো মিথ্যা ছিল না। যা অনুপস্থিত ছিল তা হলো সেই সবকিছু যা দ্বিতীয় হাজার কেসকে সামলানোযোগ্য করে তোলে — যে অংশটা কেউ ফিল্ম করে না। স্বায়ত্তশাসিত AI এজেন্ট শুরু করা কঠিন নয়। কঠিন হলো তাদের সৎ রাখা।

ডেমো কোনো সিস্টেম নয়

একটি মডেল যা টুল কল করতে পারে সেটি একটি সক্ষমতা। একটি সিস্টেম যা সঠিক টুল, সঠিক সময়ে, সঠিক অবস্থার বিপরীতে কল করে এবং পরে কারণ ব্যাখ্যা করতে পারে — সেটি অবকাঠামো। দুটির মধ্যে দূরত্ব একটি ভালো প্রম্পটে ঘোচে না।

ডেমোতে এজেন্ট একবার চলে, পর্যবেক্ষণের অধীনে, একটি সুখী পথে। প্রোডাকশনে সেটি দশ হাজার বার চলে, অপর্যবেক্ষিত অবস্থায়, এমন স্টেটের বিপরীতে যা পড়ার মুহূর্ত থেকে কাজ করার মুহূর্তের মধ্যে পরিবর্তিত হয়ে যায়। মেমরি পুরনো বা অনুপস্থিত। একটি পুনরায় চেষ্টা করা ধাপ দ্বিগুণ চার্জ করে। একটি টুল কল যা প্রত্যাখ্যান করা উচিত ছিল সেটি পার হয়ে যায় কারণ দরজায় কেউ দাঁড়িয়ে ছিল না।

এগুলো মডেলের ব্যর্থতা নয়। এগুলো সেই ব্যর্থতা যা একটি রানটাইমের শোষণ করার কথা। এগুলোকে প্রম্পটের সমস্যা হিসেবে দেখা মানে হলো দলগুলো একটি কোয়ার্টার নির্দেশনা পুনর্লিখনে ব্যয় করে এবং তবুও ঘটনা পর্যালোচনায় একমাত্র গুরুত্বপূর্ণ প্রশ্নের উত্তর দিতে পারে না: এজেন্ট কী করেছিল, এবং কোন ভিত্তিতে।

স্বায়ত্তশাসিত AI এজেন্ট আসলে যে লুপে চলে

Algenta হলো সেই নির্ধারণবাদী রানটাইম যার উপর AI এজেন্ট কাজ করে, একটি একক লুপকে কেন্দ্র করে নির্মিত যা প্রতিটি এজেন্ট চালায় — তার লেখকরা এটির নাম দিক বা না দিক। লুপটিকে স্পষ্ট করাই বেশিরভাগ কাজ।

• অনুভব করো — বিশ্বের বর্তমান অবস্থা পড়ো: ইনপুট, পুনরুদ্ধার করা মেমরি, সিদ্ধান্ত যে লাইভ মানগুলোর উপর নির্ভর করে।
• পরিকল্পনা করো — সেই অবস্থা এবং লক্ষ্য দিয়ে পরবর্তী কাজ বা পরবর্তী কয়েকটি কাজ নির্ধারণ করো।
• কার্যকর করো — নিয়ন্ত্রিত টুলের মাধ্যমে কাজ করো, যেখানে প্রতিটি কল বাস্তবে কিছু স্পর্শ করার আগে পলিসির বিপরীতে যাচাই করা হয়।
• মূল্যায়ন করো — প্রত্যাশার বিপরীতে কী ঘটেছে তা বিচার করো, এবং সেই বিচার মেমরি ও পরবর্তী পরিকল্পনায় ফিরিয়ে দাও।

অনুভব করো, পরিকল্পনা করো, কার্যকর করো, মূল্যায়ন করো। ধাপগুলো স্পষ্ট; শৃঙ্খলা হলো শেষটি এড়িয়ে যেতে অস্বীকার করা। বেশিরভাগ এজেন্ট ফ্রেমওয়ার্ক কার্যকর করায় থেমে যায়, এবং এটাই কারণ তারা ডেমোতে ভালো করে কিন্তু সময়ের সাথে খারাপ হয় — তারা কখনো মূল্যায়িত না হয়ে কাজ করে, তাই ত্রুটি নীরবে জমতে থাকে বদলে যে পালায় ঘটেছিল সেখানেই ধরা পড়ার।

লুপের চারপাশে থাকে ভাগ করা প্রিমিটিভ যা পুরো রানটাইম প্রথম শ্রেণির হিসেবে বিবেচনা করে, সংযোজন হিসেবে নয়: মেমরি যা এজেন্ট পড়ে ও লেখে, টুল যার মাধ্যমে সে কাজ করে, পলিসি যা প্রতিটি কাজ নিয়ন্ত্রণ করে, ট্রেস যা কী ঘটেছে তা রেকর্ড করে, এবং ইভাল যা সিদ্ধান্ত নেয় এটি ভালো ছিল কিনা। লুপের প্রতিটি ধাপ প্রতিটি প্রিমিটিভ স্পর্শ করে। মেমরি অনুভবকে পুষ্ট করে এবং মূল্যায়ন দ্বারা আপডেট হয়। পলিসি কার্যকরণ নিয়ন্ত্রণ করে। ট্রেস চারটিই ধারণ করে যাতে মূল্যায়নের কাছে গ্রেড করার মতো সৎ কিছু থাকে।

যে এজেন্টকে গ্রেড করা যায় না সে স্বায়ত্তশাসিত নয়। সে অপর্যবেক্ষিত।

কেন বিরক্তিকর প্রিমিটিভগুলোই পণ্য

মেমরি, পলিসি, ট্রেস, ইভাল। এর কোনোটাই ছবিতে ভালো দেখায় না। কিন্তু এই সবকিছুই একটি এজেন্টকে ঘরে কাজ করা থেকে দুনিয়ায় কাজ করায় পরিণত করে।

মেমরি হলো যা একটি এজেন্টকে এক সেকেন্ড আগে যা জানত তার উপর ভিত্তি করে কাজ করতে দেয়, প্রতিটি কলে বিশ্ব পুনরায় আবিষ্কার না করে — এবং একটি রানটাইমকে স্থায়ী জ্ঞান ও একটি একক রানের স্ক্র্যাচ স্পেসের মধ্যে রেখা টানতে হবে, কারণ এগুলো মিলিয়ে ফেলাই এজেন্টকে নিজের হ্যালুসিনেশন বিশ্বাস করাতে শুরু করে। পলিসি হলো একটি টুল যা এজেন্ট কল করতে পারে এবং একটি যা সে এখন কল করার অনুমতি পেয়েছে তার মধ্যে পার্থক্য — কার জন্য কাজ করছে এবং এই ঘণ্টায় ইতিমধ্যে কী করেছে তার উপর নির্ভর করে। ট্রেস "এজেন্ট কিছু অদ্ভুত করেছে" কে একটি নির্দিষ্ট সিদ্ধান্তে, একটি নির্দিষ্ট ইনপুটে, নির্দিষ্ট প্রসঙ্গ সহ পরিণত করে — অনুমান করা আর ডিবাগ করার মধ্যে পার্থক্য।

ইভাল হলো সেই প্রিমিটিভ যা দলগুলো সবার শেষে আবিষ্কার করে কিন্তু সবার আগে প্রয়োজন। এটি ছাড়া, "এজেন্ট কাজ করছে" মানে "এখনো কেউ জোরে অভিযোগ করেনি।" এটি থাকলে, প্রতিটি রান স্কোর করা হয় — যেখানে গ্রাউন্ড ট্রুথ আছে সেখানে তার বিপরীতে, যেখানে নেই সেখানে নিয়ম ও রুব্রিকের বিপরীতে — এবং একটি রিগ্রেশন একটি সংখ্যা হিসেবে দেখা দেয় যা সরে গেছে, যে পরিবর্তনে সরেছে, গ্রাহকের কাছে পৌঁছানোর আগেই।

অর্কেস্ট্রেশন একটি মাধ্যম, লক্ষ্য নয়

এজেন্ট অর্কেস্ট্রেশন বেশিরভাগ মনোযোগ পায় — ধাপের গ্রাফ, পুনরায় চেষ্টা, এজেন্ট ও সাব-এজেন্টের মধ্যে হ্যান্ড-অফ। এটি গুরুত্বপূর্ণ। কিন্তু গভর্ন্যান্স ছাড়া অর্কেস্ট্রেশন কেবল স্কেলে ভুল কাজ দ্রুত করার উপায়, এবং মূল্যায়ন ছাড়া অর্কেস্ট্রেশন সেটি না জেনে করার উপায়।

Algenta অর্কেস্ট্রেশনকে একটি AI এজেন্ট রানটাইম পরিবেশের একটি স্তর হিসেবে বিবেচনা করে, পুরোটা নয়। একটি পরিকল্পনা শাখা করতে পারে, অন্য এজেন্ট কল করতে পারে, প্রতিশ্রুতি দেওয়ার আগে একটি কাজ পরীক্ষা করতে সিমুলেশন চালাতে পারে, এবং পলিসি দাবি করলে মানুষের জন্য অপেক্ষা করতে পারে — এবং এই প্রতিটি পদক্ষেপ একই ট্রেসে পড়ে, একই পলিসি দ্বারা নিয়ন্ত্রিত, একই ইভাল দ্বারা স্কোর করা। অর্কেস্ট্রেশন সিদ্ধান্ত নেয় পরবর্তীতে কী হবে। রানটাইম সিদ্ধান্ত নেয় এটি অনুমোদিত কিনা, এবং এটি সঠিক ছিল কিনা।

এটিই একটি AI এজেন্ট রানটাইম প্ল্যাটফর্মের নীরব দাবি: যে অনুভব করা, পরিকল্পনা করা, কাজ করা এবং বিচার করা প্রতিটি দলের জন্য হাতে পুনরায় একত্রিত করতে হবে না যারা প্রোডাকশনে একটি এজেন্ট চায়। এগুলো অবকাঠামো। আপনি এগুলো ধরে নিতে পারবেন যেভাবে ধরে নেন যে একটি ডেটাবেস টেকসই।

লুপ বন্ধ হলে কী বদলায়

যখন পূর্ণ লুপ চলে — যখন মূল্যায়ন পরের কথা নয় বরং প্রতিটি চক্রের চতুর্থ স্পন্দন — কাজের চরিত্র বদলে যায়। স্বায়ত্তশাসিত AI এজেন্ট আর এমন কিছু থাকে না যা আপনি লঞ্চ করেন এবং আশা করেন, বরং এমন কিছু হয়ে ওঠে যা আপনি পরিচালনা করতে পারেন: দেখতে, সীমাবদ্ধ করতে, সংশোধন করতে এবং বলা সীমার মধ্যে বিশ্বাস করতে পারেন।

এটিই ডেমো আর অপারেশনাল ইন্টেলিজেন্সের মধ্যে রেখা। একটি ডেমো আপনাকে বিশ্বাস করতে বলে। একটি রানটাইম আপনাকে যাচাই করতে দেয়। যে দলগুলো স্কেলে স্বায়ত্তশাসিত AI এজেন্ট চালাবে তারা হলো যারা শুরুতেই সিদ্ধান্ত নেয় যে বিরক্তিকর প্রিমিটিভগুলোই পণ্য — এবং যে এজেন্টকে গ্রেড করা যায় না সে অপর্যবেক্ষিত অবস্থায় কাজ করার সুযোগ পায় না।

আপডেট পান →