‏چرا باید بهینه‌سازی متن رو جدی‌تر بگیریم

نویسنده تو این پست به یه نگاه رایج بین محقق‌های یادگیری ماشین می‌تازه: این که پرامپت و به‌طور کلی «بهینه‌سازی متن» رو دستِ‌کم می‌گیرن، با این فرض که «یادگیری واقعی فقط تو وزن‌ها اتفاق می‌افته». منظورش از لایهٔ متن هر چیزیه که دور مدل قابل تغییره: پرامپت، کانتکست، حافظه، دیتابیس بازیابی و خود harness. به نظرش این لایه باید خیلی جدی‌تر گرفته بشه.

استدلال اولش اینه که بهینه‌سازی متن یه مکانیزم به‌روزرسانی واقعیه و دقیقاً همون نقشی رو داره که بهینه‌سازی مبتنی بر گرادیان داره: عوض کردن رفتار آینده در واکنش به اطلاعات تازه. نویسنده می‌گه سیستم‌های هوش مصنوعی امروز دیگه فقط یه بردار پارامتر نیستن، بلکه ماشین‌های پیچیده و حالت‌داری هستن که وزن‌ها فقط یه بخششونه؛ پس سؤال اصلی اینه که هر تکه اطلاعات رو کجا بذاریم.

نکتهٔ دومش نمونه‌به‌صرفه بودنه. به گفتهٔ نویسنده، متنِ کوتاه و محتمل، طول توصیف کمی داره و همین باعث می‌شه یه سوگیری استقرایی خوب داشته باشه؛ یعنی تو رژیم داده‌کم، بهینه‌سازی متن مرتبه‌ها از آموزش وزن کارآمدتره. به همین خاطر یه الگوی پرتکرار اینه که اول با لایهٔ متن قابلیت‌های مدل رو بیرون می‌کشن و ترکیب می‌کنن، بعد به‌مرور همون رو تو وزن‌ها تقطیر (distill) می‌کنن.

سومین و به نظر مهم‌ترین ادعاش یه محور مقیاس‌پذیری تازه‌ست به اسم «محاسبهٔ زمان به‌روزرسانی» (update-time compute). همون‌طور که مقیاس‌پذیری زمان استنتاج اجازه می‌ده مدل برای یه ورودی محاسبهٔ بیشتری خرج کنه، یادگیری متنیِ بازتابی هم اجازه می‌ده سیستم برای یاد گرفتن از یه تجربهٔ واحد محاسبهٔ بیشتری بذاره. یه مسیر شکست‌خورده رو می‌شه دوباره خوند، چند فرضیهٔ اصلاحی ساخت و تست کرد و بعد آپدیت رو پذیرفت؛ کاری که SGD نمی‌تونه بکنه چون هر آپدیتش رو روی همون یه بردار پارامتر قطعی می‌کنه.

نویسنده بعد قوی‌ترین استدلال‌ها به نفع وزن‌ها رو هم می‌چینه و جواب می‌ده. مثلاً این که وزن‌ها «هزینه‌سرشکن‌سازی» (amortization) می‌دن و دیگه لازم نیست رفتار رو تو هر کانتکست حمل کنی؛ نویسنده قبول داره که اطلاعات پایدار و عمومی نهایتاً جای وزن‌هاست، ولی می‌گه اطلاعات بی‌ثبات، محلی یا قابل‌بازرسی بهتره تو لایهٔ متن بمونه. به نظرش این یه مسئلهٔ مسیریابیه، نه انتخاب یکی از دو تا.

ته نوشته نویسنده می‌گه پاندول زیادی به سمت «وزن‌ها تنها خانهٔ دانش‌ان» چرخیده، در حالی که شناخت انسان هم همیشه به نمایش‌های بیرونی مثل کتاب و یادداشت تکیه داره. برای همین یه فراخوان می‌ده برای تحقیق جدی روی لایهٔ متن: از تحلیل نظری و بنچمارک‌های بهتر گرفته تا فهم فضای طراحی و حتی مقیاس‌پذیر کردن واقعی این لایه که الان بودجهٔ محاسباتیش مرتبه‌ها از آموزش وزن کمتره.

نکات کلیدی:

• بهینه‌سازی متن (پرامپت، حافظه، بازیابی، harness) هم یه مکانیزم یادگیری واقعیه، نه فقط ترفند
• تو داده‌کم، خیلی نمونه‌به‌صرفه‌تر از آموزش وزن‌هاست
• محور تازه‌ای به اسم «محاسبهٔ زمان به‌روزرسانی» رو باز می‌کنه: محاسبهٔ بیشتر برای یادگیری از یه تجربه
• لایهٔ متن قابل‌بازرسی و قابل‌ترکیب‌تره و می‌شه به‌عنوان «محل آماده‌سازی» قبل از تقطیر تو وزن‌ها دیدش
• نویسنده خواهان جامعه و تحقیق جدی‌تر روی این حوزه‌ست