‏راهنمای توسعه‌دهندگان برای سیستم‌های هوش مصنوعی اجنتیک

اگه توسعه‌دهنده‌ای، احتمالاً متوجه شدی که اپلیکیشن‌هایی که می‌سازی دیگه فقط به درخواست‌ها جواب نمی‌دن — فکر می‌کنن، برنامه‌ریزی می‌کنن و عمل می‌کنن. این همون چیزیه که بهش سیستم هوش مصنوعی اجنتیک می‌گن. از چت‌بات ساده که فقط متن تولید می‌کنه تا سیستم‌های کاملاً خودمختار که API صدا می‌زنن، دیتابیس کوئری می‌کنن و تصمیم می‌گیرن — یه طیف وجود داره که آخرش همین سیستم‌های اجنتیکه.

مشکل اصلی اینه که ابزارهای سنتی مهندسی نرم‌افزار برای این سیستم‌ها کافی نیستن. سیستم‌های کلاسیک قطعی (deterministic) هستن: یه ورودی مشخص همیشه یه خروجی مشخص داره. اما سیستم‌های اجنتیک احتمالاتی (probabilistic) هستن — یه LLM ممکنه بسته به استدلال داخلیش ابزارهای متفاوتی صدا بزنه، یه سیستم بازیابی ممکنه اسناد متفاوتی برگردونه، و یه workflow چندعاملی ممکنه مسیرهای اجرایی کاملاً متفاوتی طی کنه. این‌ها باگ نیستن — ویژگی‌هایی هستن که این سیستم‌ها رو قدرتمند می‌کنن. اما همین ویژگی‌ها دیباگ و نگهداری رو بدون زیرساخت observability مناسب خیلی دشوار می‌کنن.

observability (قابلیت مشاهده‌پذیری سیستم) باید از روز اول بخشی از معماری باشه، نه یه چیزی که بعداً اضافه می‌کنی. وقتی یه لاگ ساده فقط نشون می‌ده "database query failed"، هیچ اطلاعاتی نمی‌ده که LLM چه تصمیمی گرفت، کدوم ابزار صدا زد، پرامپت درست بود یا نه، و آیا عدد سفارش رو هالوسینیت (hallucinate) کرد یا نه. بدون دید کامل روی این مراحل، هزینه‌ها می‌تونن از کنترل خارج بشن — یه ایجنت اشتباه‌پیکربندی‌شده می‌تونه هزاران دلار API call بسوزونه قبل از اینکه کسی متوجه بشه.

هر سیستم اجنتیک از پنج جزء اصلی ساخته شده. اول LLM که هسته تصمیم‌گیری و استدلاله — ورودی کاربر رو تفسیر می‌کنه و مشخص می‌کنه قدم بعدی چیه. دوم ابزارها (Tools) که نقطه اتصال ایجنت به دنیای واقعی هستن؛ مثلاً API call برای جستجوی رستوران یا سرویس داخلی برای رزرو میز. مدل‌هایی مثل GPT-4 و Claude از function calling بومی پشتیبانی می‌کنن که این تعامل رو ساده می‌کنه.

سوم بازیابی اطلاعات (Retrieval) که وقتی سیستم به context بیشتری از داده‌های غیرساختاریافته نیاز داره به کار میاد — مثلاً جستجو در نظرات رستوران‌ها برای عباراتی مثل "فضای رمانتیک". این همون الگوی RAG (Retrieval Augmented Generation) هستش. چهارم حافظه (Memory) که پیوستگی بین مراحل و تعاملات رو حفظ می‌کنه — ترجیحات کاربر، تصمیمات قبلی و نتایج میانی رو نگه می‌داره تا ایجنت هر بار از صفر شروع نکنه.

پنجم و مهم‌ترین جزء از منظر reliability، لایه ارکستراسیون هستش. این لایه مثل سیستم‌عامل سیستم اجنتیک عمل می‌کنه — بین LLM و بقیه سیستم می‌شینه، پرامپت‌ها رو می‌سازه، context تزریق می‌کنه، ابزارها رو در دسترس مدل قرار می‌ده و ترتیب اجرا رو کنترل می‌کنه. فریمورک‌هایی مثل LangChain، LlamaIndex و AutoGen این لایه رو پیاده‌سازی می‌کنن. اکثر مشکلات دنیای واقعی هم از همین لایه شروع می‌شن — یه پرامپت بد یا schema اشتباه ابزار می‌تونه باعث بشه مدل تصمیم غلط بگیره در حالی که از نظر فنی هیچ خطایی برنگردونده.

نکات کلیدی:

• سیستم‌های اجنتیک غیرقطعی هستن؛ باگ‌هاشون منطقی‌ان نه فنی، و از stack trace پیدا نمی‌شن
• بدون observability مناسب، هزینه‌های API، خرابی‌های ساکت و آسیب‌پذیری‌های امنیتی می‌تونن از کنترل خارج بشن
• هر سیستم اجنتیک از پنج ستون ساخته شده: LLM، ابزارها، بازیابی (RAG)، حافظه، و ارکستراسیون
• LLM فقط یه موتور استدلاله — منطق بیزنس رو اجرا نمی‌کنه و رفتار ثابتی تضمین نمی‌کنه
• observability باید از روز اول بخشی از معماری باشه، نه چیزی که بعداً اضافه می‌کنی
• مدیریت حافظه یکی از چالش‌برانگیزترین جنبه‌های ساختن سیستم‌های اجنتیک قابل‌اطمینانه