‏هوش مصنوعی علم را عوض می‌کنه — نه به اون شکلی که فکر می‌کنید

دونالد کنوث، ۸۸ ساله، پدر آنالیز الگوریتمی، یه لاگ چت بین یه ریاضیدان و Claude Opus 4.6 رو با دقت خوند. فیلیپ استاپرز ۳۱ بررسی سیستماتیک با این مدل انجام داده بود و در بررسی پانزدهم یه الگوی ساختاری جدید در اشیاء ترکیباتی پیدا شد که کنوث دهه‌ها روشون کار کرده بود. کنوث اون رو با دست اثبات کرد و مقاله‌ای نوشت با عنوان «چرخه‌های کلود». بعد گفت: «شاید باید نظرم رو درباره هوش مصنوعی مولد تجدیدنظر کنم.»

دو روایت رایج درباره این ماجرا وجود داره: اول اینکه AI الان خودش دانشمنده و کشف رو انجام داده. دوم اینکه مدل فقط توکن پیش‌بینی می‌کنه و محقق واقعی همون انسانه. نویسنده استدلال می‌کنه هر دو اشتباه‌اند، چون سؤال اشتباهی می‌پرسن. سؤال درست اینه: حلقه چطور کار می‌کنه؟ حلقه چهار نقش داره: پرسنده (انسان)، پیشنهاددهنده (مدل)، تأییدکننده (ریاضی، فیزیک، یا ابزار رسمی)، و انتخابگر (انسان). کشف داخل این ساختار اتفاق می‌افته، نه داخل مدل.

این الگو در چهار حوزه مختلف تکرار شده. در Claude's Cycles مدل پیشنهاد داد، کنوث تأیید کرد. در کار ترنس تائو با Lean (یه proof assistant که اشتباه رو قبول نمی‌کنه)، مدل مراحل اثبات رو پیشنهاد می‌ده و Lean فیلتر می‌کنه. AlphaFold ساختار پروتئین پیشنهاد می‌ده و کریستالوگرافی تجربی تأیید می‌کنه. GNoME ی دیپ‌مایند ۳۸۰ هزار ساختار کریستالی پیشنهاد داد و آزمایشگاه رباتیک A-Lab واقعاً ۴۱ ماده جدید رو سنتز کرد — چون نمی‌شه کریستال رو جعل کرد.

این حلقه تازه نیست. اثبات قضیه چهار رنگ در ۱۹۷۶ توسط اپل و هاکن با کامپیوتر، پروژه Flyspeck که ۱۶ سال طول کشید تا اثبات هیلز رو تأیید کنه، و سیستم AI Feynman در ۲۰۲۰ که معادلات فیزیکی رو از داده بازیابی می‌کرد — همه همین شکل رو داشتند. آنچه بعد از ۲۰۲۲ تغییر کرد اینه که جایگاه پیشنهاددهنده حالا با مدل‌های زبانی عمومی پر می‌شه. قبلاً باید برای هر حوزه یه proposer اختصاصی می‌ساختند؛ الان یه prompt کافیه.

نقش تأییدکننده اینجا حیاتیه. وقتی متا در ۲۰۲۲ مدل Galactica رو منتشر کرد — مدلی که ادعا می‌شد می‌تونه علم رو توضیح بده — در سه روز پس گرفته شد. دلیل؟ هیچ تأییدکننده مستقلی وجود نداشت. مدل مستقیماً با خوانندگانی روبرو بود که باهاش مثل یه تأییدکننده رفتار می‌کردند. نتیجه: ادعاهای غلط با همون اعتماد به نفس ادعاهای درست بیان شدند. حلقه بدون تأییدکننده = اشتباه با اعتماد به نفس.

در نهایت، برای ارزیابی هر نتیجه علمی مبتنی بر AI، نویسنده یه سؤال تشخیصی ساده پیشنهاد می‌ده: تأییدکننده چی بود و چه کسی اون رو ساخت؟ اگه تأییدکننده Lean، کریستال، یا آزمایش فیزیکی بود — به نتیجه اعتماد کنید. اگه مدل هم پیشنهاد داد هم «ارزیابی» کرد — شکاک باشید. مشکل اینجاست که تقریباً تمام سرمایه‌گذاری فعلی روی بهتر کردن proposer (مدل‌های بزرگ‌تر، ارزان‌تر) متمرکزه، در حالی که verifier نادیده گرفته می‌شه.

نکات کلیدی:

• AI کاشف مستقل نیست؛ جایگاه «پیشنهاددهنده» رو در یه حلقه چهارمرحله‌ای پر می‌کنه
• بدون تأییدکننده مستقل و قوی، خروجی مدل فقط «اشتباه بامزه» تولید می‌کنه
• این الگو از ۱۹۷۶ وجود داشته؛ LLM‌ها فقط proposer رو ارزون‌تر و عمومی‌تر کردند
• مهارت آینده: «سؤال درست پرسیدن» و «تأییدکننده درست ساختن» — نه prompt زدن
• نگرانی اصلی: Goodhart's Law — وقتی تعداد مقاله هدف بشه، AI تولید مقاله رو ارزون‌تر می‌کنه و کیفیت پایین می‌آد