‏چهار مسیر از AGI تا اَبَرهوش از نگاه DeepMind

بحث سر این‌که هوش عمومی مصنوعی (AGI) کی می‌رسه سال‌هاست داغه، ولی تو این مقاله اومده که یه عده‌ی روزافزون از پژوهشگرها می‌گن سؤال مهم‌تر اینه که بعد از AGI چی می‌شه. گوگل دیپ‌مایند تحقیقی منتشر کرده که چهار مسیر مجزا از AGI به اَبَرهوش مصنوعی (ASI) رو ترسیم می‌کنه؛ سیستم‌هایی که تو هر حوزه‌ای از انسان جلو می‌زنن.

اول باید تعریف‌ها روشن باشه: AGI یعنی سیستمی که هر کار فکری‌ای رو در حد یه انسان یا بهتر و در طیف وسیعی از حوزه‌ها انجام بده. ASI یه قدم جلوتره؛ نه فقط هم‌سطح انسان، بلکه شاید چند برابر سریع‌تر و خلاق‌تر در استدلال و برنامه‌ریزی. به گفته‌ی نویسنده، همین شکاف بین AGI و ASI جاییه که واقعاً نامطمئنه، چون هیچ نمونه‌ی تاریخی‌ای ازش نداریم.

مسیر اول، مقیاس‌دهی روش‌های فعلیه: محاسبات بیشتر، داده‌ی بیشتر، مدل‌های بزرگ‌تر. شاید صرفِ بزرگ‌شدن، قابلیت‌هایی به‌وجود بیاره که ابرانسانی به‌نظر برسن. عدم‌قطعیتش هم اینه که معلوم نیست مقیاس‌دهی به دیوار داده یا سقف بازدهی می‌خوره یا نه.

مسیر دوم، پیشرفت‌های الگوریتمیه: معماری‌ها و روش‌های یادگیری بنیادی‌تر و کاراتر از ترنسفورمرهای امروزی؛ چیزهایی مثل استدلال بهتر، مدل‌های جهان (world models)، ادغام چندوجهی و یادگیری کم‌نمونه. مشکل اینه که پیش‌بینی زمان یه جهش الگوریتمی تقریباً غیرممکنه.

مسیر سوم، خودبهبودی بازگشتیه و به‌گفته‌ی نویسنده پرمناقشه‌ترینشونه: سیستمی که معماری خودشو تحلیل کنه، ضعف‌هاشو پیدا کنه و بهبودشون بده. دیپ‌مایند این مسیر رو با احتیاط می‌بینه، چون یه سیستمِ خودبهبودده که وسط این حلقه از هدف موردنظر منحرف شه، بعد از وقوع سخت مهار می‌شه؛ همینه که بیشترِ تحلیل ریسک اینجا متمرکزه.

مسیر چهارم، جمعِ ایجنت‌هاست: به‌جای یه اَبَرهوشِ واحد، تعداد زیادی ایجنتِ هم‌سطح انسان که هماهنگ کار می‌کنن. نویسنده می‌گه این مسیر شاید حتی زودتر از خودبهبودی بازگشتی ظاهر شه، چون فریم‌ورک‌های چندایجنتی (مثل mixture-of-experts و مناظره‌ی چندایجنتی) همین الانم در مقیاس کوچیک استفاده می‌شن.

جمع‌بندی مقاله اینه که این چارچوب یه تاریخ دقیق نمی‌ده، بلکه یه دست مکانیزم برای رصده. هر مسیر پروفایل ایمنی متفاوتی داره؛ مقیاس‌دهی تدریجی و قابل‌مطالعه‌ست، ولی جهش الگوریتمی یا خودبهبودی می‌تونه از سرعت تحقیقات ایمنی جلو بزنه. برای تیم‌هایی هم که امروز روی مدل‌های فعلی معماری چندایجنتی می‌سازن، پیامش اینه که همین تجربه‌ها با قوی‌ترشدن مدل‌ها مهم‌تر می‌شن، نه کم‌اهمیت‌تر.

نکات کلیدی:

• دیپ‌مایند چهار مسیر از AGI به ASI معرفی کرده: مقیاس‌دهی، پیشرفت الگوریتمی، خودبهبودی بازگشتی و جمعِ ایجنت‌ها.
• هر مسیر زمان‌بندی و پروفایل ریسک متفاوتی داره؛ مقیاس‌دهی تدریجیه، خودبهبودی می‌تونه سریع و سخت‌کنترل باشه.
• گذار از AGI به ASI ممکنه فشرده‌تر از خودِ مسیر رسیدن به AGI باشه، چون سیستم‌های سطح‌ AGI می‌تونن توسعه‌ی خودشونو تسریع کنن.
• تکنیک‌های هم‌ترازی (alignment) که برای مقیاس‌دهی جواب می‌دن، لزوماً روی سیستم‌های خودبهبودده یا جمع‌های بزرگ ایجنتی کار نمی‌کنن.