اپل سیلیکون در برابر OpenRouter: کدوم ارزونتره؟
هوش مصنوعیخلاصهٔ کاملتر
نویسنده در این مقاله حساب و کتاب دقیقی از هزینه واقعی اجرای مدلهای زبانی (LLM) روی مکبوک M5 Max انجام داده و نتیجه رو با سرویس ابری OpenRouter مقایسه کرده.
هزینه برق خیلی جزئیه: مکبوک زیر بار کامل حدود ۵۰ تا ۱۰۰ وات مصرف میکنه. با نرخ برق حدود ۰.۲۰ دلار به ازای هر کیلوواتساعت، این میشه چیزی در حدود ۰.۴۸ دلار در روز — یعنی برق تقریباً ارزونه و از معادله خارجه.
هزینه سختافزار اما داستان دیگهایه. یه مکبوک ۱۴ اینچ با تراشه M5 Max و ۶۴ گیگ رم حدود ۴۲۹۹ دلار قیمت داره. اگه عمر مفیدش رو ۳، ۵ یا ۱۰ سال در نظر بگیریم، هزینه ساعتیاش به ترتیب حدود ۰.۱۶، ۰.۱۰ و ۰.۰۵ دلار میشه. سختافزار بخش اصلی هزینه رو میسازه، نه برق.
حالا اگه این هزینه رو بر تعداد توکن تقسیم کنیم، اعداد جالب میشن. تست نویسنده روی M5 Max با مدل Gemma 4 31b نشون میده که سرعت تولید توکن بین ۱۰ تا ۴۰ توکن در ثانیهست. با این ارقام، هزینه اینفرنس محلی بین ۰.۴۰ تا ۴.۷۹ دلار به ازای هر میلیون توکن میشه — با تخمین واقعبینانه حدود ۱.۵ دلار.
در مقابل، OpenRouter همین مدل Gemma 4 31b رو بین ۳۸ تا ۵۰ سنت به ازای هر میلیون توکن ارائه میده. یعنی تقریباً یکسوم قیمت اینفرنس محلی. علاوه بر این، برخی پروایدرها روی OpenRouter سرعت ۶۰ تا ۷۰ توکن در ثانیه دارن که سه تا هفت برابر سریعتر از M5 Maxه.
نتیجهگیری نویسنده اینه که برای کسی که به عنوان یه برنامهنویس یا کارمند از این ابزارها استفاده میکنه، حقوق ساعتیاش احتمالاً ۱۰۰۰ برابر هزینه توکنهاست. پس سرمایهگذاری روی سرویسهای سریعتر ابری منطقیتره. با این حال، نویسنده اشاره میکنه که این واقعیت که یه دستگاه مصرفی میتونه مدلی همسطح Claude Sonnet اجرا کنه، خودش یه دستاورد جالبه.
نکات کلیدی:
- هزینه برق برای اینفرنس محلی ناچیزه (حدود ۰.۴۸ دلار در روز)
- هزینه سختافزار (استهلاک) عامل اصلی گرانیه، نه برق
- تخمین واقعبینانه هزینه اینفرنس روی M5 Max: حدود ۱.۵۰ دلار به ازای هر میلیون توکن
- OpenRouter همون مدل رو با ~۰.۴۰ دلار و سرعت ۲ تا ۷ برابر بیشتر ارائه میده
- برای اکثر سناریوهای حرفهای، سرویس ابری مقرونبهصرفهتره
