ابزارهای ایجنت هوش مصنوعی رابط‌هایی هستند که به ایجنت اجازه می‌دهند از مرحله تولید متن فراتر برود و داده بخواند یا عملی را انجام دهد. جست‌وجوی پایگاه دانش، فراخوانی API، محاسبه، خواندن CRM، ساخت تیکت و آماده‌سازی ایمیل نمونه ابزارند. امنیت ایجنت بیش از آنکه به ظاهر گفتگو وابسته باشد، به طراحی همین ابزارها و مجوزهایشان بستگی دارد.
قاعده اصلی ساده است: هر ابزار باید یک کار محدود، ورودی ساخت‌یافته، خروجی قابل کنترل و کمترین سطح دسترسی را داشته باشد. برای تصویر کلی اجزای سامانه، مقاله ایجنت چگونه کار می‌کند را ببینید.
Tool Calling یا فراخوانی ابزار چیست؟
مدل به‌جای اجرای مستقیم کد، نام ابزار و آرگومان‌های پیشنهادی را در یک قالب ساخت‌یافته تولید می‌کند. لایه اجرایی باید ورودی را اعتبارسنجی، هویت و مجوز را بررسی و سپس تابع واقعی را فراخوانی کند. خروجی ابزار دوباره به ایجنت برمی‌گردد تا درباره گام بعد تصمیم بگیرد.
مدل نباید مرجع نهایی مجوز باشد. حتی اگر درخواست را مجاز بداند، سرویس مقصد باید کنترل دسترسی مستقل خود را اعمال کند.
ابزار خواندنی و نوشتنی را جدا کنید
خواندن وضعیت سفارش با لغو سفارش ریسک یکسانی ندارد. ابزارها را بر اساس اثر تقسیم کنید:
- خواندن: جست‌وجو، دریافت وضعیت و گزارش؛
- پیش‌نویس: ساخت محتوا بدون ثبت نهایی؛
- نوشتن برگشت‌پذیر: ایجاد تیکت یا یادداشت قابل حذف؛
- اقدام حساس: پرداخت، حذف، تغییر دسترسی یا تعهد رسمی.
برای دو گروه آخر، محدودیت دامنه و تایید متناسب لازم است. سطوح اختیار در ایجنت خودمختار چیست توضیح داده شده است.
قرارداد یک ابزار خوب چه اجزایی دارد؟
- نام و هدف روشن: معلوم باشد ابزار چه می‌کند و چه نمی‌کند.
- Schema ورودی: نوع، طول، دامنه و فیلدهای اجباری مشخص باشند.
- پیش‌شرط: هویت، نقش، وضعیت پرونده و تایید لازم کنترل شوند.
- خروجی پایدار: نتیجه موفق، خطا و وضعیت نامعلوم ساختار مشخص داشته باشند.
- اثر تکرار: شناسه idempotency مانع اجرای دوباره ناخواسته شود.
- ثبت رویداد: چه کسی، چه ابزاری، با چه پارامتری و چه نتیجه‌ای را ثبت کنید.
مجوز حداقلی چگونه اجرا می‌شود؟
برای هر ایجنت حساب سرویس جدا، حوزه دسترسی محدود و اعتبارنامه کوتاه‌عمر در نظر بگیرید. دسترسی خواندن و نوشتن جدا باشد. شناسه کاربر و زمینه مجوز تا سرویس مقصد حمل شود تا ایجنت نتواند از سطح دسترسی درخواست‌کننده عبور کند.
در عملیات حساس، یک «توکن تایید» کوتاه‌عمر بسازید که به همان کار، همان پارامتر و همان کاربر متصل باشد. تایید کلی مانند «هرچه لازم است انجام بده» مجوز مناسبی نیست.
خروجی ابزار را قابل اعتماد فرض نکنید
API ممکن است خطا، داده ناقص یا محتوای ناسازگار برگرداند. نوع و محدوده خروجی را کنترل کنید و داده خارجی را به‌عنوان دستور اجرا نکنید. اگر صفحه وب یا سند حاوی جمله‌ای برای تغییر رفتار ایجنت باشد، باید همچنان داده تلقی شود، نه سیاست سیستم.
تلاش مجدد و خطای نامعلوم
پس از قطع ارتباط، ممکن است ندانید عملیات انجام شده یا نه. پیش از تکرار، وضعیت را با شناسه درخواست بررسی کنید. تلاش مجدد باید فاصله افزایشی، سقف دفعات و توقف اضطراری داشته باشد. برای عملیات نوشتنی، idempotency key از ایجاد رکورد تکراری جلوگیری می‌کند.
| نوع خطا | رفتار مناسب |
|---|---|
| ورودی نامعتبر | اصلاح یا درخواست اطلاعات؛ بدون تکرار خودکار |
| عدم مجوز | توقف و ارجاع؛ هرگز دورزدن کنترل |
| اختلال موقت | تلاش محدود با فاصله |
| وضعیت نامعلوم | استعلام نتیجه پیش از تکرار |
| پاسخ ناسازگار | رد خروجی و ثبت رخداد |
چگونه ابزارهای ایجنت را تست کنیم؟
علاوه بر تست واحد API، مسیر کامل تصمیم تا اجرا را بیازمایید. آرگومان مرزی، فیلد اضافی، شناسه متعلق به کاربر دیگر، پاسخ کند، قطع ارتباط و اجرای تکراری را پوشش دهید. باید ثابت شود عملیات خارج از دامنه حتی با دستور صریح کاربر اجرا نمی‌شود.
برای ساخت مجموعه سناریو و دروازه انتشار، امنیت و ارزیابی ایجنت را بخوانید.
نمونه طراحی: ابزار ثبت یادداشت CRM
ورودی ابزار شامل شناسه فرصت، متن با سقف طول و شناسه تایید است. سرویس بررسی می‌کند کاربر به همان فرصت دسترسی دارد، متن حاوی داده ممنوع نیست و شناسه تایید منقضی نشده است. سپس با کلید تکرارناپذیر یادداشت ثبت و شناسه رکورد برگردانده می‌شود. ایجنت نتیجه را نمایش می‌دهد؛ اگر پاسخ نامعلوم باشد، پیش از تکرار وجود رکورد را استعلام می‌کند.
سوالات متداول
آیا API و ابزار یک چیز هستند؟
API رابط فنی است؛ ابزار تعریف محدود و قابل فهمی است که ایجنت برای یک هدف مشخص از آن استفاده می‌کند و می‌تواند پشت خود یک یا چند API داشته باشد.
آیا ایجنت باید مستقیم به دیتابیس وصل شود؟
معمولا خیر. سرویس میانی با کنترل دسترسی و قرارداد مشخص امنتر و قابل ممیزیتر است.
چند ابزار برای یک ایجنت مناسب است؟
کمترین تعداد لازم. ابزارهای همپوشان انتخاب را دشوار و احتمال خطا را بیشتر میکنند.
اطلاعات اتصال کجا نگهداری شود؟
در مدیریت اسرار سمت سرور، نه در دستور مدل، متن گفتگو یا کد سمت مرورگر.
پس از ابزارها، طراحی درست حافظه ایجنت و پایش مسیر درخواست دو گام بعدی برای سامانه عملیاتی‌اند.