چقدر کار رو میشه به ایجنتها سپرد؟
هوش مصنوعیخلاصهٔ کاملتر
نویسندهٔ خبرنامهٔ پستهاگ، جینا یون، میگه خیلیها فکر میکنن هرچی مدلها بهتر بشن میشه کار بیشتری رو بدون نظارت دستشون سپرد. اون این طرز فکر رو با نبستن کمربند ایمنی به این بهانه که ماشین بهتری خریدی مقایسه میکنه. به گفتهٔ نویسنده، جواب واقعی هیچ ربطی به مدل نداره و کاملاً به جنس خود تسک برمیگرده.
تو این مقاله اومده که دو تا سؤال سقف خودمختاری هر تسک رو تعیین میکنن. اول: چککردن کار ایجنت راحته یا نه؟ کدی که تست واحد و یکپارچگی داره قطعی و خودکار چک میشه، ولی کار سلیقهای مثل تغییر نام یه پارامتر برای خواناتر شدن نه. دوم: برگردوندن اشتباه چقدر خرج برمیداره؟ بدون یه Ctrl+Z مطمئن نباید ایجنت رو بدون نظارت رها کرد.
ترکیب این دو سؤال چهار سطح میسازه. سطح ۰ یعنی ایجنت فقط دستیاره؛ مناسب کد حساسی که نه راحت چک میشه نه راحت برمیگرده. سطح ۱ انسان تو حلقهست و به درد کار سلیقهای میخوره، چون خروجی تا تأیید آدم مرج نمیشه. سطح ۲ واگذاری به ایجنته: کدِ قابل تست، ولی مرج پشت یه دروازهٔ ایمنی. سطح ۳ هم حالت خودرانه.
برای بالا رفتن از هر سطح هم پیشنهاد داده: شکستن تسک به تکههای کوچکتر تا معلوم شه کجا واگذاری امنه، استفاده از LLM بهعنوان داور، تعریف هدف مشخص و قابل اندازهگیری بهجای قضاوت سلیقهای، و نوشتن skillهای اختصاصی برای ایجنت. نکتهٔ اصلیش اینه که گاردریلها رو بهجای آدم، تو خود پایپلاین کد کنی — اجرای آزمایشی پیشفرض، محدودکردن دسترسیها و گذاشتن تغییرات پشت فیچرفلگ.
پستهاگ خودش داره روی سطح ۳ سرمایهگذاری میکنه؛ نمونهش Scoutهاست، ایجنتهایی که طبق زمانبندی اجرا میشن، سیگنالهای دادهٔ محصول رو بررسی میکنن و بر اساس چیزی که پیدا میکنن پیآر پیشنویس میسازن. نویسنده معتقده قدم بعدی، آموزش مدلهای تخصصی و ساختن بانکهای زمینهٔ غنیه، چون نبود خودمختاری بیشتر وقتها فقط کمبود زمینهست.
نکات کلیدی:
- سطح خودمختاری ایجنت رو تسک تعیین میکنه، نه هوش مدل
- دو معیار: چککردن کار چقدر راحته و برگردوندن اشتباه چقدر گرونه
- چهار سطح: دستیار، انسان در حلقه، واگذاری، خودران
- بیشتر کارهای توسعه فعلاً روی سطح ۲ گیر کردن
- راه بالا رفتن: تقسیم تسک، داوری با LLM، skill اختصاصی و گاردریل کدشده
