নিরাপত্তা

লুপ সুরক্ষিত করুন।

স্বয়ংক্রিয় সিস্টেমের কেবল পেরিমিটার নিরাপত্তার চেয়ে বেশি কিছু প্রয়োজন। প্রয়োজন নীতি, সন্ধানযোগ্যতা, যাচাইকরণ এবং ব্যর্থতা নিয়ন্ত্রণের।

নিরাপত্তা মডেল।

ন্যূনতম অধিকার

এজেন্ট ও ইঞ্জিন কেবল কোনো কাজের প্রয়োজনীয় ডেটা ও টুলেই প্রবেশ করে। অনুমতি প্রতি অনুরোধে সীমিত এবং কাজের সঙ্গে শেষ হয়, ফলে একটিমাত্র আপসকৃত ধাপ বৃহত্তর সিস্টেমে পৌঁছাতে পারে না।

প্রবেশাধিকার

পুনরায় চালানোযোগ্য ট্রেস

গুরুত্বপূর্ণ কার্যক্রম যুক্তি ও এক্সিকিউশনের পরিদর্শনযোগ্য, রিপ্লেযোগ্য রেকর্ড তৈরি করে। প্রতিটি সিদ্ধান্ত ধাপে ধাপে পুনর্গঠন করা যায়, ফলে ডিবাগিং ও নিরীক্ষা অনুমান নয়, ইতিহাস পড়ায় পরিণত হয়।

নিরীক্ষা

নীতি গেট

ঝুঁকিপূর্ণ কার্যক্রম চলার আগে নীতি, থ্রেশহোল্ড, অনুমোদন ও রোলব্যাক পথ দ্বারা সীমাবদ্ধ থাকে। সীমা এক্সিকিউশনের সময় প্রয়োগ হয়, নিছক নির্দেশনা থাকে না, ফলে অনিরাপদ কার্যক্রম শুধু লগ নয়, ব্লক হয়।

নিয়ন্ত্রণ

বুদ্ধিমান সিস্টেমের জন্য থ্রেট মডেল।

এআই সিস্টেম নতুন ব্যর্থতার ধরন নিয়ে আসে: প্রম্পট ইনজেকশন, টুলের অপব্যবহার, অনিচ্ছাকৃত ডেটা প্রকাশ, কল্পিত কার্যক্রম, পুরোনো প্রসঙ্গ এবং সীমাহীন স্বায়ত্তশাসন।

প্রসঙ্গ আক্রমণ

অবিশ্বস্ত ইনপুট মডেলের আচরণ বা টুল প্রবেশাধিকার কারসাজি করার চেষ্টা করে।

টুল ঝুঁকি

অতিরিক্ত অনুমতিসম্পন্ন একটি এজেন্ট সামান্য যুক্তিগত ত্রুটিকে বাস্তব জগতের কার্যক্রমে পরিণত করতে পারে।

সরবরাহ শৃঙ্খল

মডেল, টুল, প্যাকেজ ও কানেক্টরের সংস্করণ নির্ধারণ, নিরীক্ষা এবং পর্যবেক্ষণ করতে হবে।

প্রতিটি কার্যক্রমের একটি সীমা থাকা উচিত।

ভালো স্বয়ংক্রিয় অবকাঠামো অনুমোদিত কার্যক্রমকে স্পষ্ট এবং অনিরাপদ কার্যক্রমকে কঠিন করে তোলে।

বুদ্ধিমত্তাকে কাছে আনুন।