سه آزمایشگاه هوش مصنوعی، سه نقشهٔ متضاد
هوش مصنوعیClaude Opus 4.8خلاصهٔ کاملتر
نویسنده اول اشاره میکنه که خبر بزرگ روز عرضهٔ مدل تازهٔ Anthropic یعنی Claude Fable 5 بوده، ولی میگه عمداً چند روز صبر میکنه تا با مدل کار کنه و بعد دربارش بنویسه. بهجاش تو این پست سه خبر سیاستی رو که قبل از اون اعلامیه منتشر شده بودن بررسی میکنه.
خبر اول یه سند دولتیه به اسم NSPM-11 (مموراندوم ریاستجمهوری در حوزهٔ امنیت ملی). نویسنده این سند رو اینجوری میخونه که عملاً یعنی «Anthropic برای همیشه اخراجه و ما هر مدلی داریم رو هرجور بخوایم استفاده میکنیم». سند چهار ستون داره: Adoption، Adaptation، Assurance و Accountability. به گفتهٔ نویسنده بخش حساس Assurance ـه: یه بند میگه هیچ شرکتی نباید بتونه بدون اطلاع و تأیید دولت یه سیستم هوش مصنوعی نظامی رو غیرفعال یا محدود کنه، یعنی شرکت سازنده دیگه نمیتونه با شرط قراردادی جلوی دولت رو بگیره.
نویسنده میگه بخش دیگهٔ سند به آژانسها اجازه میده قرارداد شرکتهایی که رفتارشون با این سیاستها نمیخونه رو فسخ کنن، که عملاً یعنی Anthropic. حتی پیمانکارهای فرعی هم حق ندارن از Anthropic استفاده کنن. البته یه فرایند معافیت یکساله گذاشتن که میشه تمدیدش کرد، و نویسنده حدس میزنه احتمالاً همین اتفاق میافته چون فعلاً به اون مدلها نیاز دارن.
موازی با این، چند خبرنگار فاش کردن که NSA داره از مدل Mythos برای عملیات سایبری تهاجمی استفاده میکنه و مهندسهای Anthropic داخل این آژانس مستقر شدن. نویسنده میگه این چیز عجیبی نیست، چون بالاخره NSA ـه.
خبر دوم نقشهٔ OpenAI برای اینکه AGI به نفع همه باشه. نویسنده یه بخش از این نقشه رو میستایه: درخواست برای یه سازمان بینالمللی که بتونه توسعهٔ مرزی هوش مصنوعی رو در صورت لزوم کند کنه. ولی میگه بقیهٔ نقشه یه تناقض درونی داره. سه قدم نقشه اینه: ساختن یه «محقق هوش مصنوعی خودکار» که خودش تحقیق رو پیش ببره (یعنی خودبهبودی بازگشتی)، شتاب دادن به اقتصاد و توزیع گستردهٔ سود، و دادن یه AGI شخصی به هر آدم روی زمین.
نویسنده معتقده این نقشه تناقض داره: اگه به همه نسخهٔ کامل رو بدی، انسان کنترل آینده رو از دست میده؛ اگه ندی، پس جلوی تمرکز قدرت رو نگرفتی. به گفتهٔ نویسنده OpenAI تمرکزش رو گذاشته رو خطر «تمرکز قدرت» نه خطر «از دست رفتن کنترل»، و این یکطرفه بودن با حرف خودشون دربارهٔ نیاز به هماهنگی بینالمللی جور درنمیاد.
بخش آخر یه دعوای فلسفیه که Joshua Achiam از OpenAI راه انداخته: اینکه OpenAI میخواد «ابزار پیشرفت رو به دست خود بشریت بده» و Anthropic دنبال ساختن یه «خدای ماشینیِ مهربان»ـه. نویسنده این توصیف رو دربارهٔ Anthropic دقیق نمیدونه و چند کارمند Anthropic (مثل Amanda Askell و Sarah Chen) هم زیرش جواب دادن که این دوگانه غلطه. نویسنده میگه شاید بهترین قاببندی این باشه که اختلاف اصلی سر یه واقعیته: اینکه آیا اصلاً میشه خودبهبودی بازگشتی داشت و همزمان هوش مصنوعی صرفاً یه ابزار بمونه یا نه.
نکات کلیدی:
- سند NSPM-11 عملاً Anthropic و پیمانکارهای فرعیش رو از قراردادهای امنیت ملی آمریکا کنار میذاره، با یه معافیت یکسالهٔ قابلتمدید
- بند Assurance میگه هیچ شرکتی نباید بدون تأیید دولت بتونه یه سیستم نظامی هوش مصنوعی رو غیرفعال یا محدود کنه
- طبق گزارش خبرنگارها، NSA داره از مدل Mythos برای عملیات سایبری تهاجمی استفاده میکنه و مهندسهای Anthropic اونجا مستقرن
- نقشهٔ OpenAI سه قدم داره: محقق هوش مصنوعی خودکار، شتاب اقتصادی، و دادن AGI شخصی به همه
- نویسنده میگه نقشهٔ OpenAI یه تناقض حلنشده داره: کنترل دست انسان میمونه یا قدرت پخش میشه
- نکتهٔ مثبت از نظر نویسنده، حمایت OpenAI از یه سازمان بینالمللی برای کند کردن هماهنگ توسعهٔ هوش مصنوعیه
