AI agent brauzer, fayl, terminal va API bilan ishlay boshlagach, asosiy savol sifat emas, nazorat bo‘lib qoladi. Agent juda foydali bo‘lishi mumkin, lekin unga ortiqcha erkinlik bersangiz, xato yoki zarar ko‘lami ham kattalashadi.

Shu sababli agent tizimlarida permission va sandbox alohida mavzu. Bu xavfsizlik uchun ham, ishonchli mahsulot qurish uchun ham zarur.

Permission nima?

Permission - agentga qaysi amalni qilish mumkin, qaysisini mumkin emasligini belgilovchi ruxsat qoidalari. Masalan, faylni o‘qishi mumkin, lekin o‘chira olmaydi. Browser ochishi mumkin, lekin checkout tugmasini bosishdan oldin tasdiq so‘raydi.

Sandbox nima?

Sandbox - agent ishlashi uchun ajratilgan cheklangan muhit. U agentning qayerga kira olishi, qaysi buyruqlarni ishlata olishi va qaysi resurslarga tegishi mumkinligini chegaralaydi.

Masalan, agent faqat ma’lum workspace ichidagi fayllarni ko‘rishi, internetga chiqolmasligi yoki faqat ma’lum API’larni chaqira olishi mumkin. Bu agentni “hamma joyga kiradigan foydalanuvchi”ga aylantirib yubormaslik uchun kerak.

Nega bu muhim?

• xato buyruq zararini kamaytirish uchun,
• maxfiy ma’lumot chiqib ketmasligi uchun,
• agent faqat vazifaga kerakli vositalar bilan ishlashi uchun,
• audit va javobgarlikni soddalashtirish uchun.

Kuchli agent ko‘p narsani qila oladi. Lekin “qila oladi” bilan “qilishi kerak” bir xil narsa emas.

Minimal yetarli ruxsat tamoyili

Yaxshi amaliyot - agentga faqat vazifani bajarish uchun zarur bo‘lgan minimal ruxsatni berish. Bu xavfsizlik dunyosidagi eski, lekin juda foydali tamoyil. AI agentlar uchun ham aynan shu ishlaydi.

Masalan, maqola yozuvchi agentga production database write access kerak emas. Kodni tahlil qiluvchi agentga esa email yuborish ruxsati kerak emas. Har bir tool “foydali bo‘lishi mumkin” degan sabab bilan berilmasligi kerak.

Qaysi amallar ko‘proq xavfli?

• fayl o‘chirish yoki ustidan yozish,
• internetga nazoratsiz request yuborish,
• production tizimga yozish,
• tashqi servisga maxfiy ma’lumot uzatish,
• to‘lov, checkout yoki tasdiqlashga oid tugmalarni bosish.

Human approval qayerda kerak?

Har qanday qaytarib bo‘lmaydigan yoki yuqori xavfli amalda inson tasdig‘i foydali. Masalan, push qilish, deployment boshlash, pul sarflash, ma’lumot yuborish yoki production yozuvlarini o‘zgartirishdan oldin tasdiq so‘ralishi kerak.

Xulosa

Permission va sandbox - AI agentni foydali, lekin boshqariladigan qilishning asosiy qatlami. Agentga haddan tashqari erkinlik berish kuch emas, ko‘pincha ortiqcha xavfdir. To‘g‘ri yondashuv - kerakli imkoniyat, aniq chegaralar va audit qilinadigan nazorat.