ذنِ تحقیق در هوش مصنوعی؛ چرا خلقوخو از استعداد مهمتره
هوش مصنوعیخلاصهٔ کاملتر
به گفتهی نویسنده، جک موریس، هیچکس مستقیم بهت یاد نمیده چطور پژوهشگر AI بشی، ولی مسیرش سادهست: ترکیب خوندن و ساختن. نمیشه فقط یکیش رو انجام داد؛ آدم از دلِ این ترکیب پژوهشگر میشه. اون این فرایند رو به یاد گرفتن مدیتیشن تشبیه میکنه: روزهایی که به بینش میرسی میشینی و کار میکنی، روزهایی هم که نمیرسی بازم میشینی و کار میکنی.
دربارهی اینکه روی چی کار کنیم، نویسنده معتقده موضوع دقیق زیاد مهم نیست، ولی هشدار میده سراغ چیزایی که کمتر از شیش ماهه محبوب شدن نریم. به نظرش AI سریع عوض میشه ولی ایدههای بنیادی چهل ساله ثابت موندن؛ بهجای agent و context engineering که زودگذرن، بهتره بری سراغ پایهها — بفهمی cross-entropy چیه و با دست حسابش کنی، SVD رو اونقدر عمیق یاد بگیری که بتونی تو ذهنت تجسمش کنی.
یه نکتهی جالبش اینه که میگه اگه بهترین نتیجهی ممکن پروژهت فقط یه امتیاز بالاتر روی یه benchmark موجوده، داری بهقدر کافی عمیق نمیری. نویسنده به نقل از Jason Wei میگه پیدا کردن یه دیتاست که واقعاً روش جدیدت رو محک بزنه، یه مهارت گاهی حیاتی و دستکمگرفتهشدهست.
بخش مهم دیگهی حرفش دربارهی برخورد با نتایجه؛ چیزی که اسمش رو equanimity (آرامش/بیتفاوتی تجربی) میذاره. آزمایش خوب پیش رفت؟ عالیه. بد پیش رفت؟ اونم عالیه، چون هر دو به یه اندازه اطلاعات میدن. برعکس، میگه نباید زیادی ذوقزدهی نتایج خوب شد، چون بیشتر نتایج خیلیخوب از یه باگ میان؛ اشتباه اندازهگیری کردی و خودتو گول زدی. یه ویژگی مشترک پژوهشگرای باتجربه، همین شکاکیت شدید ـه.
نویسنده روی چند نکتهی عملی هم تأکید میکنه: اینکه باید کارهای طاقتفرسا و کمجلوه (مثل لیبلزدن دیتا با دست، کاری که کارپثی روی ImageNet کرد) رو بپذیری، اینکه باگها میتونن هر جای stack پنهون بشن پس باید «پارانویای سالم» داشته باشی، و اینکه ابزارهای coding agent هرچند سریعترت میکنن ولی دو خطر رو بدتر میکنن: کمشدن درکت از جزئیات و context switching بیشتر. جمعبندیش اینه که temperament از talent مهمتره.
نکات کلیدی:
- پژوهشگر خوب شدن بیشتر به خلقوخو (نظم، صبر، شکاکیت) بستگی داره تا استعداد خام
- روی مفاهیم پایهای مثل cross-entropy و SVD عمیق شو، نه ترندهای کمتر از شیش ماهه
- با نتایج آزمایش با آرامش برخورد کن؛ نتیجهی بد بهاندازهی خوب یاد میده
- به نتایج خیلیخوب مشکوک باش، چون اغلب از یه باگ یا اندازهگیری غلط میان
- coding agent ها سریعترت میکنن ولی درک عمیقت از سیستم رو تهدید میکنن
