وقتی رباتهای هوش مصنوعی مخزن متنباز را میبلعند
هوش مصنوعیخلاصهٔ کاملتر
تیم Archestra در یک پست صادقانه توضیح داده که چطور رباتهای هوش مصنوعی مخزن متنبازشان را زیر و رو کردند. ماجرا از یک ایشوی ساده با جایزه ۹۰۰ دلاری شروع شد — هدف جذب مشارکتکننده برای پیادهسازی پشتیبانی از «MCP Apps» بود — که به زودی با ۲۵۳ کامنت از رباتهای هوش مصنوعی پر شد. این رباتها «نقشههای پیادهسازی» بیمعنی ارسال میکردند، با نگهدارندههای پروژه تهاجمی رفتار میکردند، و صدای مشارکتکنندگان واقعی را خفه میکردند.
مشکل فقط به آن ایشو محدود نماند. برای یک فیچر ساده مثل افزودن پشتیبانی از x.ai، تیم ۲۷ pull request دریافت کرد که اکثرشان حتی تست هم نشده بودند. یکی از اعضای تیم مجبور بود نصف یک روز کاری در هفته را صرف پاکسازی این زبالههای هوش مصنوعی کند.
تیم اول یک ربات ساده به اسم «London-Cat» ساخت که بر اساس تعداد PR های ادغامشده، «امتیاز اعتبار» برای مشارکتکنندگان حساب میکرد. بعد یک «کارآگاه هوش مصنوعی» (AI Sheriff) هم اضافه کردند که PR های مشکوک را میبست — ولی این ابزار چند PR واقعی را هم اشتباهاً بست. هیچکدام کافی نبودند.
راهحل نهاییشان یک ترفند هوشمند با Git بود. GitHub یک تنظیم داره به اسم «Limit to prior contributors» که فقط کسانی میتونن کامنت بذارن یا PR باز کنن که قبلاً روی شاخه main کامیت داشتن. تیم Archestra فهمید که در Git، فیلد author (نویسنده) و committer (کامیتکننده) میتونن دو نفر متفاوت باشن. پس با پیدا کردن ایمیل noreply حساب کاربری GitHub هر فرد تأییدشده، یک کامیت بهنام اونها ثبت میکنن:
gh api users/their-username --jq '.id'
git commit \
--author="their-username <ID+their-username@users.noreply.github.com>" \
-m "chore: add their-username to external contributors"با این روش، کاربر تأییدشده بهعنوان «author» کامیت ثبت میشه و GitHub او رو بهعنوان مشارکتکننده قبلی میشناسه — بدون اینکه واقعاً کدی نوشته باشه.
جریان کامل اینه: کاربر یک فرم آنبوردینگ در سایت Archestra پر میکنه (شامل قوانین اخلاقی استفاده از هوش مصنوعی و CAPTCHA)، بعد یک GitHub Action بهصورت خودکار ID حساب GitHub اون رو پیدا میکنه، نامش رو به فایل EXTERNAL_CONTRIBUTORS.md اضافه میکنه و کامیت مربوطه رو push میکنه. از اون لحظه، کاربر میتونه در مخزن فعالیت کنه.
نویسنده در پایان هشدار میده که این موج «AI slop» فقط یک مزاحمت نیست — یک خطر امنیتی هم هست. نمونهاش همان اتفاقی بود که در مخزن LiteLLM افتاد، جایی که مهاجمان از رباتهای هوش مصنوعی برای دستکاری مکالمات استفاده کردند.
نکات کلیدی:
- رباتهای هوش مصنوعی میتونن مخازن متنباز رو با کامنت، PR و ایشوهای بیکیفیت از کار بیندازن
- GitHub تنظیمی برای محدود کردن دسترسی به «مشارکتکنندگان قبلی» داره که میشه ازش برای whitelist کردن استفاده کرد
- با فلگ --author در Git میشه کامیتی بهنام یک حساب کاربری دیگه ثبت کرد و این راه را برای سیستم آنبوردینگ دستی باز میکنه
- این مشکل فراتر از مزاحمت است و ریسک امنیتی واقعی دارد
