وقتی سیگموید بهانه میشه برای نادیده گرفتن پیشرفت هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
یه استدلال رایج در بحثهای هوش مصنوعی اینه که «همه رشدهای نمایی بالاخره سیگموید میشن». سیگموید یه شکل Sمانند داره — اول تند رشد میکنه، بعد آرومآروم صاف میشه. وقتی کسی نگرانی خودش رو از رشد سریع تواناییهای AI نشون میده، جواب رایج اینه که «نگران نباش، این رشد بالاخره کُند میشه.» این حرف از نظر فنی درسته — هیچ فرآیندی نمیتونه تا ابد نمایی رشد کنه — ولی مشکل اینجاست که دقیقاً کِی این اتفاق میافته، مشخص نیست.
نویسنده چند مثال جالب از پیشبینیهای اشتباه میآره که بهشون میگه «تالار افتخار اشتباهشناسی سیگموید». سازمان ملل سالهاست داره پیشبینی میکنه که نرخ تولد کشورهای در حال کاهش، بالاخره به کف میرسه و تثبیت میشه — ولی این کاهش همچنان ادامه داره. سازمان جهانی انرژی هم هر سال پیشبینی میکرد که رشد استقرار انرژی خورشیدی کُند میشه، و هر سال اشتباه از آب در میاومد.
بدترین مثال، یه مقاله از محققان Wharton در سال ۲۰۲۶ه که روی دادههای پیشرفت AI کار کرده بودن. اونها با مدلسازی منحنیهای مختلف پیشبینی کرده بودن که روند رشد احتمالاً داره کُند میشه — درست چند هفته قبل از اینکه یه مدل جدید بیاد و نشون بده روند همچنان نماییه.
پس اگه نمیدونیم کِی یه روند کُند میشه، چیکار کنیم؟ نویسنده به قانون Lindy اشاره میکنه: اگه یه فرآیند رو اصلاً نمیشناسیم، بهترین پیشفرض اینه که به اندازهی همون مدتی که تا حالا ادامه داشته، باز هم ادامه پیدا میکنه. مثالش اینه: اگه یه گیزر آبفشان آخرین بار صد هزار سال پیش فوران کرده، احتمال فوران در یه ساعت آینده خیلی پایینه. ولی اگه ده دقیقه پیش فوران کرده، احتمال فوران زودِ دوباره بالاست.
با این منطق، چون رشد چشمگیر AI از حدود ۲۰۱۷ شروع شده و «دورهی مقیاسگذاری» از ۲۰۱۹ تا الان بوده — یعنی حدود هفت سال — پیشفرض پایه اینه که این روند بهطور میانگین هنوز حدود هفت سال دیگه ادامه داره. احتمال اینکه در کمتر از دو سال کُند بشه، حدود ۲۲٪ تخمین زده میشه.
نتیجهی نویسنده اینه: کسی که ادعا میکنه تواناییهای AI هیچوقت به سطح نگرانکنندهای نمیرسه، باید یه چیزی بیشتر از «همه سیگموید میشن» بیاره. یا باید یه مدل دقیق از دینامیکهای رشد AI داشته باشه و توضیح بده چرا رشد الان داره کُند میشه، یا اگه AI رو یه جعبهی سیاه میبینه، باید توضیح بده چرا قانون Lindy رو نادیده میگیره.
نکات کلیدی:
- «همه رشدهای نمایی سیگموید میشن» یه واقعیته، ولی نمیگه این اتفاق کِی میافته
- تاریخ نشون میده پیشبینی لحظهی کُندشدن روندها معمولاً اشتباهه و زودتر از موعد انجام میشه
- قانون Lindy میگه: اگه چیزی رو نمیشناسیم، پیشفرض پایه اینه که روند به همون اندازهی قبل ادامه داره
- ادعای توقف روند AI نیاز به مدل مشخص داره، نه فقط اشاره به امکان سیگموید شدن
