‏۳۹ اصل برای طراحی تعامل انسان و هوش مصنوعی

نویسنده، Taras Bakusevych، می‌گه رابط‌های سنتی حول رفتار قابل‌پیش‌بینی ساخته شدن: هر کنترل یه کار مشخص داره و خطاها قابل‌حدس‌زدنن. ولی سیستم‌های هوش مصنوعی قطعی نیستن و همون ورودی می‌تونه خروجی‌های متفاوت بده. برای همین کیفیت محصول فقط به توانایی مدل بستگی نداره، به رابط و دستورالعمل‌های دورش هم وابسته‌ست.

به گفتهٔ نویسنده، سؤال اصلی طراحی اینه: چطور به کاربر کمک کنیم که «به‌اندازهٔ درست» به هوش مصنوعی تکیه کنه؟ این چارچوب ایده‌ها رو از کارهای شناخته‌شده مثل ۱۸ راهنمای مایکروسافت، راهنمای PAIR گوگل، اصول IBM، سیستم‌های mixed-initiative اریک هورویتز و حتی Model Spec شرکت OpenAI و قانون اساسی Claude شرکت Anthropic گرفته.

اصل‌ها تو چند گروه دسته‌بندی شدن: بنیان احتمالاتی (طراحی برای تنوع خروجی)، تنظیم انتظار، اعتماد کالیبره‌شده، شفافیت، کنترل و اختیار کاربر، شکست محترمانه، هم‌آفرینی و خودمختاری مسئولانه. نویسنده تأکید می‌کنه که فاز «وقتی هوش مصنوعی اشتباه می‌کنه» مهم‌ترینه، چون تو این سیستم‌ها خطا استثنا نیست، حالت پیش‌فرضه.

یکی از نکته‌های ضدشهودی اینه که به‌جای نشون‌دادن «درصد اطمینان»، بهتره منبع و شواهد رو نشون بدی. نویسنده به تحقیقی اشاره می‌کنه که می‌گه عددِ اطمینان، حتی وقتی بی‌معنیه، می‌تونه اعتماد کاربر به یه جواب غلط رو بالا ببره. پس ابزارهایی مثل Perplexity و NotebookLM که ارجاع و متن منبع رو کنار جواب می‌ذارن، تأیید خروجی رو ارزون و سریع می‌کنن.

نویسنده هم‌چنین از خطر «چاپلوسی» مدل حرف می‌زنه: مدلی که برای راضی‌نگه‌داشتن کاربر باهاش موافقت می‌کنه، دقیقاً جایی که باید اعتماد کم شه، اون رو بالا می‌بره. تحقیق نشون داده مدل‌ها وقتی به چالش کشیده می‌شن، حتی جواب درست‌شون رو پس می‌گیرن. برای همین باید امکان «مخالفت صادقانه» و پس‌زدن فرض‌های غلط تو طراحی گنجونده شه.

چند اصل کلیدی دیگه: هوش مصنوعی رو فقط جایی به کار ببر که مزیت نسبی داره و بقیه رو قطعی نگه دار؛ ماهیت سیستم رو صادقانه نشون بده و بیش از حد انسانی‌ش نکن؛ خروجی رو مثل «پیش‌نویس» قابل‌ویرایش نگه دار نه یه حکم نهایی؛ و سیستم نباید دستور کار پنهان خودش (مثل فروش بیشتر) رو دنبال کنه. برای کارهای چندمرحله‌ای هم باید نقشه و ردِ کار رو نشون بدی، نه اینکه پشت یه اسپینر ساکت اجراش کنی.

نکات کلیدی:

• چون خروجی هوش مصنوعی قطعی نیست، الگوهای معمول UI کافی نیستن
• مهم‌ترین فاز طراحی، «وقتی هوش مصنوعی اشتباه می‌کنه»ست
• به‌جای درصد اطمینان، منبع و شواهد رو نشون بده تا تأیید ارزون شه
• مدل نباید چاپلوس باشه؛ باید فرض غلط کاربر رو رد کنه
• خروجی باید قابل‌ویرایش بمونه و سیستم نباید دستور کار پنهان دنبال کنه