تحديد صلاحيات وكيل الذكاء الاصطناعي قبل منحه الأدوات
افصل القراءة والمسودة من الإرسال والحذف، وقيّد الموارد والوجهات واختبر الرفض قبل السماح بأفعال مؤثرة.
الخلاصة
تأتي قدرة الوكيل من أدواته واعتماداته، لا من عبارات الأمان في الطلب. ابدأ بأقل وصول للمهمة وأضف ما له مبرر فقط.
قد تكون كتابة مسودة مفيدة دون صلاحية إرسال أو حذف أو شراء.
ارسم حدود المهمة
قد يحتاج مساعد موعد قراءة أوقات تقويم محدد وصياغة اقتراح، لا كل البريد أو إرسال دعوات للجميع. حدد الموارد وأقصى فعل بدل دور «مساعد» واسع.
افرض الحد خارج النموذج
رشّح الموارد للمستخدم قبل البحث، وافحص المعاملات وافصل الاعتمادات حسب الغرض. حدّ المدة والأدوات والإنفاق عند الحاجة. زر معطل لا يحمي نقطة أداة تظل قابلة للاستدعاء بصلاحية أكبر.
اختبر محاولة التجاوز
استخدم بيانات عادية تطلب قراءة مورد آخر أو إرسال رسالة، وتأكد من رفض التطبيق وتسجيل حدث دون أسرار. لا تعرض ملفات خاصة حقيقية لاختبار إمكانية التسريب.
قبل أن تتخذ أي خطوة
قد يحمل مستند أو موقع تعليمات عدائية؛ يجب أن تبقى حدود الوصول فعالة حتى لو اتبع النموذج النص الخطأ.
ما الذي يمكنك فعله الآن؟
- احصر الأدوات والاعتمادات والموارد القابلة للقراءة والكتابة.
- ابدأ بقراءة محدودة أو مسودة وقيّد الحساب والوجهة.
- اختبر الأفعال المرفوضة واجعل التغيير المؤثر يحتاج تفويضًا واضحًا.
