خودمختار نظاموں کو محض پیریمیٹر سکیورٹی سے زیادہ کی ضرورت ہوتی ہے۔ انہیں پالیسی، قابلِ سراغ رسانی، تصدیق، اور خرابی کے انسداد کی ضرورت ہوتی ہے۔
ایجنٹس اور انجنوں کو صرف اُسی ڈیٹا اور ٹولز تک رسائی ہوتی ہے جو کسی کام کے لیے درکار ہوں۔ اجازتیں فی درخواست محدود ہوتی اور کام کے ساتھ ختم ہو جاتی ہیں، چنانچہ ایک متاثرہ قدم وسیع تر نظام تک نہیں پہنچ سکتا۔
اہم اعمال استدلال اور عملدرآمد کے قابلِ معائنہ، قابلِ ری پلے ریکارڈ تیار کرتے ہیں۔ ہر فیصلے کو قدم بہ قدم دوبارہ تشکیل دیا جا سکتا ہے، جس سے ڈیبگنگ اور آڈٹ تاریخ پڑھنے میں بدل جاتے ہیں، نہ کہ اندازے میں۔
خطرناک اعمال چلنے سے پہلے پالیسیوں، حدوں، منظوریوں، اور رول بیک راستوں سے محدود ہوتے ہیں۔ حدیں عملدرآمد کے وقت نافذ ہوتی ہیں، محض رہنمائی کے طور پر نہیں چھوڑی جاتیں، چنانچہ غیر محفوظ اعمال صرف لاگ نہیں ہوتے بلکہ روک دیے جاتے ہیں۔
AI نظام نئے خرابی کے طریقے متعارف کراتے ہیں: پرامپٹ انجیکشن، آلات کا غلط استعمال، غیر ارادی ڈیٹا کا انکشاف، من گھڑت اعمال، باسی سیاق و سباق، اور لامحدود خودمختاری۔
غیر معتبر ان پٹ ماڈل کے رویے یا آلات تک رسائی میں ہیرا پھیری کی کوشش کرتا ہے۔
حد سے زیادہ اجازتوں والا ایجنٹ استدلال کی ایک معمولی غلطی کو حقیقی دنیا کے عمل میں بدل سکتا ہے۔
ماڈلز، آلات، پیکجز، اور کنیکٹرز کو ورژن بند، آڈٹ شدہ، اور زیرِ نگرانی ہونا چاہیے۔
اچھا خودمختار انفراسٹرکچر اجازت یافتہ اعمال کو واضح اور غیر محفوظ اعمال کو دشوار بنا دیتا ہے۔