‏آنتی‌سینگولاریتی: وقتی هوش مصنوعی به یک خدای همه‌دان تبدیل نمی‌شه

سینگولاریتی روایتی‌ه که می‌گه کامپیوترها یه روز به سطح «هوش عمومی» (GAI) می‌رسن، از اون‌جا خودشون رو بهبود می‌دن (Recursive Self-Improvement) و در نهایت یه ابرهوش (SAI) می‌سازن که همه‌چیز رو زیر کنترل داره. حتی وقتی طرفداران این دیدگاه از خطراتش حرف می‌زنن، تصویرشون اساساً یه چیز منظم و قابل پیش‌بینیه — حتی اگه AI بدترین کار رو بکنه، اون رو با کمال «کامل» انجام می‌ده.

نویسنده اما سناریوی دیگه‌ای رو پیش می‌کشه: آنتی‌سینگولاریتی. در این دنیا، هیچ‌چیزی به اسم هوش عمومی وجود نداره. بیولوژی رو در نظر بگیر — با وجود انگیزه‌های هنگفت (جاودانگی، انرژی بی‌نهایت، دارو)، پیشرفت کند و ناهمواره. علتش اینه که طبیعت حاصل میلیاردها سال تکامل بی‌هدفه و روش‌های علم مدرن به‌راحتی روش کار نمی‌کنن. ریاضیات گسسته هم همین‌طوره؛ ولفرام دهه‌ها پیش وعده داد با قوانین ساده‌ی دیجیتال همه‌چیز رو توضیح بده، ولی «ناکاهش‌پذیری محاسباتی» (computational irreducibility) نشون داد که برای اکثر سیستم‌های پیچیده، راه‌حل کلی وجود نداره و باید آزمون‌وخطا کرد.

اگه واقعاً در دنیای آنتی‌سینگولاریتی زندگی کنیم، AI ضعیف نمی‌شه — بلکه شکلش فرق می‌کنه. وقتی بهترین کار ممکن «امتحان کردن میلیون‌ها احتمال» باشه، AI که هزاران بار سریع‌تر از انسانه قدرت زیادی داره. ولی به‌جای یه ابرهوش مرکزی، با یه اکوسیستم متنوع از AI‌های هاردکد شده برای وظایف خاص طرفیم.

این تغییر، مسئله‌ی AI Alignment رو هم متفاوت می‌کنه. دیگه نگرانی اصلی «آیا SAI هدف درستی داره؟» نیست، بلکه می‌شه: «چرا Agent58adc986 داره تعداد غیرعادی کاغذباطله تولید می‌کنه؟ یه نفر بره ببینه چی شده.» انسان‌ها تبدیل به باغبان‌هایی می‌شن که یه اکوسیستم وحشی از بهینه‌سازهای هیوریستیک رو مدیریت می‌کنن — کمتر خطرناک، اما کمتر قابل پیش‌بینی.

نکات کلیدی:

• سینگولاریتی پیش‌بینی می‌کنه یه AI خداگونه همه‌چیز رو حل می‌کنه — خوب یا بد
• آنتی‌سینگولاریتی می‌گه شاید هوش عمومی اصلاً ممکن نباشه، مثل بیولوژی و ریاضیات گسسته
• در این دنیا AI همچنان قدرتمنده، ولی به‌شکل باغی از مدل‌های تخصصی، نه یه ابرهوش
• چالش alignment از «انتخاب هدف درست» به «مدیریت مداوم رفتارهای غیرمنتظره» تبدیل می‌شه