کتاب «How to Scale Your Model» که توسط محققان Google DeepMind و دیگران نوشته شده، سعی می‌کنه پرده از رموز مقیاس‌پذیری مدل‌های زبانی بزرگ برداره. این کتاب توضیح می‌ده که TPU و GPU چطور کار می‌کنن، مدل‌های LLM چطور روی سخت‌افزار واقعی اجرا می‌شن، و چطور می‌شه موازی‌سازی درستی برای آموزش و استنتاج انجام داد. هدفش اینه که بتونی هزینه و زمان آموزش مدل‌های بزرگ رو تخمین بزنی و بهترین طرح موازی‌سازی رو برای سخت‌افزار موجود انتخاب کنی. این منبع برای هر کسی که می‌خواد تحقیقات ML رو در مقیاس بزرگ انجام بد

۱۵ هفته پیشjax-ml.github.io

تیم مهندسی داخلی New Relic قبلاً مجبور بود تلمتری ایجنت‌های هوش مصنوعی‌شون رو به‌صورت دستی و با کدنویسی سفارشی دنبال کنه؛ کاری که هم زمان‌بر بود و هم خطاپذیر. با پذیرش AIM یا همون AI Monitoring پلتفرم New Relic، این فرایند به‌کلی تغییر کرد و تیم تونست با یه تغییر کوچیک در کانفیگ Python agent، به متریک‌های آماده‌ی مصرف توکن، زمان پاسخ و نرخ خطا دسترسی داشته باشه. این ابزار بهشون کمک می‌کنه هم هزینه‌های مدل‌های مختلف رو کنترل کنن و هم عملکرد ایجنت‌ها رو در محیط‌های staging و production به‌صورت مدا

۱۵ هفته پیشnewrelic.com

هوش مصنوعی در حوزه‌های مختلف نرم‌افزاری موفق بوده چون با APIهای تمیز و قراردادهای مشخص کار می‌کنه، اما زیست‌شناسی و کشف دارو چنین ساختاری ندارن. هر مرحله از کشف دارو — از پیدا کردن هدف درمانی تا طراحی مولکول تا کارآزمایی بالینی — پر از ابهام، فرضیه‌های احتمالاتی و وابستگی‌های پنهانه. این «مشکل API فازی» اصلی‌ترین دلیلیه که ML در داروسازی خیلی سخت‌تر از بقیه حوزه‌هاست. با این حال، ایده‌های جدیدی مثل «سلول مجازی» و مدل‌های مقیاس‌پذیر دارن این حوزه رو از نو هیجان‌زده می‌کنن.

۱۵ هفته پیشankitg.me

Copy Fail یه تکنیک افزایش سطح دسترسی محلی در کرنل لینوکسه که داده‌های page-cache رو خراب می‌کنه، بدون اینکه فایل روی دیسک تغییر کنه. همین ویژگی باعث می‌شه سیستم‌های سنتی بررسی یکپارچگی فایل کاملاً ازش غافل بمونن. ابزار copyfail-detect با لایه‌های مختلف شامل eBPF، auditd، مقایسه page-cache و قوانین Sigma طراحی شده تا این آسیب‌پذیری رو شناسایی و مهار کنه. بالاترین سطح تشخیص رو مانیتور eBPF داره که فعالیت AF_ALG، splice() مشکوک و زنجیره اکسپلویت رو در لحظه رصد می‌کنه.

Pike Agent یه ابزار متن‌باز برای لینوکسه که رفتار برنامه‌ها رو ضبط و آنالیز می‌کنه. این ابزار از strace برای ردیابی system call‌ها استفاده می‌کنه، اون‌ها رو توی یه دیتابیس SQLite ایندکس می‌کنه و بعد بهت اجازه می‌ده از طریق یه TUI با یه LLM درباره رفتار برنامه چت کنی. می‌تونی ازش بخوای کرش‌ها رو تشخیص بده، race condition پیدا کنه، یا حتی یه پروسه مشکوک رو تریاژ کنه. از مدل‌های محلی مثل llama.cpp و APIهای خارجی مثل Claude و Gemini هم پشتیبانی می‌کنه.

۱۵ هفته پیشgithub.com

AutoRound یه ابزار کوانتیزاسیون پیشرفته برای مدل‌های زبانی بزرگ (LLM) و مدل‌های ترکیبی بینایی-زبان (VLM) هست که با استفاده از روش sign-gradient descent می‌تونه مدل‌ها رو تا ۲ تا ۴ بیت فشرده کنه بدون افت دقت چشمگیر. این ابزار با اکوسیستم‌های معروفی مثل Transformers، vLLM و SGLang ادغام شده و از فرمت‌های مختلف مثل AutoGPTQ، AutoAWQ و GGUF پشتیبانی می‌کنه. یه مدل ۷ میلیارد پارامتری رو می‌شه در حدود ۱۰ دقیقه روی یه GPU کوانتیز کرد و مدل DeepSeek-R1 با وزن ۲۰۰ گیگابایت هم با همین روش ۹۷.۹٪ دقت اصلیش

۱۵ هفته پیشgithub.com

بایت‌دنس، شرکت سازنده‌ی تیک‌تاک، یه واحد داخلی به اسم Anew Labs داره که روی کشف دارو با هوش مصنوعی کار می‌کنه. این واحد اولین داروی طراحی‌شده توسط هوش مصنوعی‌اش رو در یه کنفرانس بزرگ ایمونولوژی در بوستون معرفی کرد؛ یه مولکول کوچیک که پروتئین IL-17 رو هدف می‌گیره و مرتبط با بیماری‌های خودایمنی مثل پسوریازیس و آرتریت روماتوئیده. این تیم همچنین مدل AnewOmni رو منتشر کرده که ادعا می‌کنه اولین فریم‌ورک جنریتیو‌ایه که می‌تونه مولکول‌های کاربردی رو در همه‌ی مقیاس‌های مولکولی طراحی کنه.

۱۵ هفته پیشthenextweb.com

بنچمارک SpatialBench نشون می‌ده مدل‌های جدید GPT-5.5 و Opus 4.7 در تحلیل زیست‌شناسی فضایی سریع‌تر شدن ولی دقت‌شون عملاً تغییری نکرده. GPT-5.5 زمان اجرا رو نصف کرده ولی دقتش از 57.4٪ به 57.6٪ رسیده که تفاوت معناداری نیست. بررسی دستی مسیر تحلیل مدل‌ها نشون می‌ده که اشکالات اساسی در قضاوت زیست‌شناختی هنوز باقیه؛ از جمله pseudoreplication، نرمال‌سازی اشتباه، و خوشه‌بندی بدون تصحیح batch.

۱۵ هفته پیشblog.latch.bio

AWS یه قابلیت جدید به اسم Neuron Agentic Development معرفی کرده که یه مجموعه اوپن‌سورس از agent‌ها و مهارت‌هاست و به دستیارهای هوش مصنوعی کدنویسی کمک می‌کنه توسعه روی Trainium و Inferentia رو سریع‌تر کنن. نسخه اولیه روی توسعه کرنل با Neuron Kernel Interface (NKI) تمرکز داره و کل فرآیند از نوشتن کرنل تا پروفایلینگ و آنالیز پرفورمنس رو پوشش می‌ده. یعنی دولوپر می‌تونه با زبان طبیعی از agent بخواد یه عملیات PyTorch رو به کرنل NKI تبدیل کنه، خطاهای کامپایل رو برطرف کنه یا گزارش بهینه‌سازی پرفورمنس بگ

۱۵ هفته پیشaws.amazon.com

باتلر یه ابزار متن‌بازه که تمام ریپوهای یه سازمان GitHub رو اسکن می‌کنه و اطلاعات ورک‌فلوها، اکشن‌ها، سکرت‌ها و وابستگی‌های third-party رو جمع‌آوری می‌کنه. خروجیش به صورت HTML و CSV آماده میشه که برای بررسی‌های امنیتی و آدیت وابستگی‌ها خیلی به درد می‌خوره. اطلاعات دانلودشده توی یه دیتابیس SQLite ذخیره میشن و می‌شه چند سازمان مختلف رو توی یه فایل دیتابیس داشت.

Honker یه افزونه SQLite هست که امکانات NOTIFY/LISTEN شبیه به Postgres رو به SQLite اضافه می‌کنه. با این ابزار می‌شه صف کار، پاب‌ساب دائمی، و استریم رویدادها رو مستقیم توی همون فایل .db داشت، بدون نیاز به Redis، Celery یا هیچ برنامه واسطه‌ای. عملیات‌های بیزینسی و صف پیام‌ها توی یه تراکنش اتفاق می‌افتن، یعنی اگه rollback بشه، هر دو باهم برمی‌گردن. Honker از طریق یه افزونه قابل بارگذاری SQLite کار می‌کنه و برای Python، Node.js، Go، Ruby، Rust، Bun و Elixir باینینگ داره.

شرکت امنیتی Expel یک گروه APT تحت حمایت دولت کره شمالی رو شناسایی کرده که با نام HexagonalRodent ردیابیش می‌کنه. این گروه با طعمه‌ی آگهی‌های شغلی جعلی، توسعه‌دهندگان Web3 رو هدف قرار می‌ده و از طریق پروژه‌های آلوده به بدافزار، کیف پول‌های ارز دیجیتال رو سرقت می‌کنه. تنها در سه ماه، ارزهای دیجیتالی معادل ۱۲ میلیون دلار از قربانیان به سرقت رفته. این گروه به‌طور گسترده از ابزارهای هوش مصنوعی مثل ChatGPT و Cursor استفاده می‌کنه تا حملاتش رو صنعتی و مقیاس‌پذیر کنه.

مدل‌های پاداش فرآیندی (PRM) در حوزه‌هایی مثل ریاضیات خوب عمل می‌کنن، ولی وقتی نوبت به تحلیل داده‌های پویا می‌رسه، دچار مشکل جدی می‌شن؛ نه خطاهای خاموش رو تشخیص می‌دن و نه بین اکتشاف ضروری و شکست واقعی فرق می‌ذارن. محققان با معرفی DataPRM این شکاف رو پر کردن؛ یه مدل پاداش تولیدی آگاه از محیط که به‌صورت فعال با محیط اجرا تعامل می‌کنه تا خطاهای پنهان رو کشف کنه. نتایج نشون می‌ده که DataPRM با فقط ۴ میلیارد پارامتر، عملکرد مدل‌های پایین‌دستی رو تا ۱۱ درصد روی بنچمارک‌های تخصصی بهبود می‌ده.

۱۵ هفته پیشarxiv.org

یه توسعه‌دهنده باتجربه که مدت‌هاست MCP server می‌سازه، درس‌های عملی‌اش رو از ساخت یه سرور آفیس واقعی با بیش از ۱۰۰ ابزار با ما در میون گذاشته. مهم‌ترین نکته اینه که مدل‌های زبانی برنامه‌ریز پنهان ندارن؛ فقط محتمل‌ترین گام بعدی رو انجام می‌دن. پس سرور باید کاری کنه که قدم بعدی برای مدل کاملاً واضح باشه. این مقاله یه چک‌لیست عملی برای طراحی درست chain ابزارها ارائه می‌ده که از ماه‌ها دیباگ واقعی به دست اومده.

۱۵ هفته پیشtaoofmac.com

ProEval یه فریم‌ورک متن‌باز از DeepMind هست که هزینه ارزیابی مدل‌های GenAI رو تا ۱۰۰ برابر کاهش می‌ده. این ابزار با استفاده از surrogate های مبتنی بر Gaussian Process، نرخ خطای مدل رو تنها با یک درصد از داده‌ها با دقت ±۱٪ تخمین می‌زنه. علاوه بر این، ProEval به‌صورت فعالانه الگوهای شکست مدل رو شناسایی می‌کنه و اطلاعات ارزشمندی برای بهبود توسعه AI فراهم می‌آره. روی بنچمارک‌های معروفی مثل GSM8K، MMLU و StrategyQA هم اعتبارسنجی شده.

۱۶ هفته پیشgithub.com

آموزش مدل‌های زبانی بزرگ با کانتکست‌های ۱۰۰ هزار توکنی و بیشتر، چالش جدی کمبود حافظه GPU رو به همراه میاره. AutoSP یه کامپایلر اتوماتیکه که کد آموزش معمولی ترنسفورمر رو به کد چند-GPU با Sequence Parallelism تبدیل می‌کنه، بدون اینکه برنامه‌نویس مجبور باشه دست به کد پیچیده‌ای بزنه. این ابزار درون DeepSpeed ادغام شده و با تغییر چند خط کانفیگ فعال می‌شه. نتایج روی مدل‌های Llama 3.1 نشون می‌ده که AutoSP حداکثر طول کانتکست قابل‌آموزش رو به طرز قابل‌توجهی افزایش می‌ده، در حالی که سربار زمانی اجرا به حد

۱۶ هفته پیشpytorch.org

پکیج پایتونی elementary-data که ماهانه بیش از یک میلیون بار دانلود می‌شه، هک شد و یه نسخه مخرب باهاش منتشر شد. مهاجمان با سوءاستفاده از یه آسیب‌پذیری در GitHub Actions توسعه‌دهندگان، به کلیدهای امضا و توکن‌های حساب دسترسی پیدا کردن. نسخه آلوده (0.23.3) اطلاعات حساسی مثل کلیدهای SSH، توکن‌های API، کردنشال‌های کلود و پروفایل‌های کاربری رو جمع‌آوری و احتمالاً ارسال می‌کرد. اگه این نسخه رو نصب داری، باید فوری اقدام کنی.

پکیج محبوب elementary-data در PyPI که ماهانه بیش از ۱.۱ میلیون بار دانلود می‌شه، هک شد و یه نسخه مخرب روی آن آپلود شد. مهاجم با سوءاستفاده از یه آسیب‌پذیری در GitHub Actions، یه کامیت جعلی امضا کرد و نسخه backdoor دار رو از طریق pipeline رسمی پروژه منتشر کرد. این نسخه مخرب قادر به سرقت کلیدهای SSH، اعتبارنامه‌های ابری، فایل‌های .env، کیف‌پول‌های رمزارز و تاریخچه شل بود. یه نسخه پاک (۰.۲۳.۴) جایگزین شده، ولی کسایی که نسخه آلوده رو دانلود کردن باید فوری همه secret هاشون رو تغییر بدن.

متا یه خانواده از مدل‌های ترنسفورمر با رزولوشن بالا به اسم Sapiens2 معرفی کرده که روی یک میلیارد تصویر از بدن انسان پیش‌آموزش دیدن. این مدل‌ها می‌تونن کارهایی مثل تخمین پوز، تقسیم‌بندی اعضای بدن، تخمین نرمال سطح و نقشه‌برداری سه‌بعدی انجام بدن. Sapiens2 در همه این وظایف به نتایج بهتری نسبت به مدل‌های قبلی رسیده و پیپر اون در ICLR 2026 پذیرفته شده. کد و چک‌پوینت‌های مختلف از ۰.۱ میلیارد تا ۵ میلیارد پارامتر به صورت عمومی در دسترسن.

۱۶ هفته پیشgithub.com

مشکل C10K در سال ۱۹۹۹ نشون داد که مدل یک‌ Thread به ازای هر اتصال، برای سرورهای پرترافیک جواب نمی‌ده. راه‌حل‌ها در چند موج اومدن: اول کال‌بک‌ها، بعد Promise‌ها و Future‌ها، و در آخر Async/Await. هر موج بدترین مشکل موج قبلی رو حل کرد، ولی مشکل تازه‌ای هم به جاش آورد. این مقاله سیر این تکامل رو با نگاهی انتقادی دنبال می‌کنه و توضیح می‌ده که چرا هنوز هیچ‌کدوم از این رویکردها کامل نیستن.