‏🛡 مخزن منابع امنیت ایجنت‌های هوش مصنوعی

‏مخزن Awesome Agent Skills Security در گیت‌هاب مجموعه‌ای از تحقیقات، استانداردها و ابزارهای لازم برای ایمن‌سازی ایجنت‌هایی که از ابزارها، افزونه‌ها و مهارت‌های خارجی استفاده می‌کنند را گردآوری کرده است.

‏این فهرست برای افرادی که در حال توسعه زیرساخت‌های MCP یا سیستم‌های ایجنتی هستند، کاربردی است و موارد زیر را پوشش می‌دهد:

‏- حملات تزریق پرامپت (Prompt Injection) از طریق ابزارها
‏- حملات مسموم‌سازی داده و زنجیره تأمین
‏- نشت اطلاعات و دسترسی‌های فراتر از نیاز
‏- محیط‌های ایزوله (Sandboxing) و نظارت در زمان اجرا
‏- تیم‌های قرمز (Red Teaming) و بنچمارک‌ها
‏- استانداردهای OWASP، MITRE ATLAS، NIST و IETF

‏این منابع نشان می‌دهند که با دسترسی مدل‌ها به فایل‌ها، APIها و انجام عملیات واقعی، سطح حمله برای سیستم‌های ایجنتی به میزان قابل توجهی گسترش یافته است.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#Agent_Security #MCP