رویداد ۴۱اُم: هوش مصنوعی توضیح‌پذیر 

 

هوش مصنوعی قابل توضیح (XAI) به روش‌ها و تکنیک‌هایی گفته می‌شود که فرآیند تصمیم‌گیری سامانه‌های هوش مصنوعی (به‌ویژه مدل‌های پیچیده مانند شبکه‌های عصبی عمیق) را برای انسان شفاف، قابل‌تفسیر و قابل‌فهم می‌کنند. در بسیاری از سیستم‌های هوش مصنوعی مدرن – مانند شبکه‌های عصبی – پیش‌بینی‌ها یا دسته‌بندی‌ها اغلب به‌عنوان «جعبه سیاه» شناخته می‌شوند، زیرا مشخص نیست چرا مدل به یک خروجی XAI خاص رسیده است. این مشکل را با ارائه‌ی بینشی درباره:

• چگونگی عملکرد داخلی مدل(تفسیر کلی یاglobal)
• چرایی یک تصمیم خاص(تفسیر محلی یا local)

اهداف اصلی هوش مصنوعی قابل توضیح:

پرسونالیتی در LLM

پرسونا در LLM

ادراک کاربر  در LLM

 

تکنیک‌های رایج در XAI

• اهمیت ویژگی‌ها(نشان دادن اینکه کدام متغیرها بیشترین تأثیر را بر نتیجه داشته‌اند)
• نقشه‌های برجستگی (Saliency Maps)(برجسته‌سازی بخش‌های مهم تصویر که باعث پیش‌بینی شده‌اند).
• توضیحات خلاف‌واقع (Counterfactuals)– نشان دادن اینکه با تغییرات کوچک در ورودی چه نتیجه‌ی متفاوتی به دست می‌آمد.

 

در این نشست با دکتر امید ویسی؛ دانشجوی دکتری رشته HCI  دانشگاه تورنتو همراه می‌شویم تا در خصوص XAI و کاربرد آن در صنعت برای ما توضیحاتی جامع ارایه دهد

 

زمان: شنبه ۵ مهرماه ۱۴۰۴

ساعت برگزاری: ۲۱:۳۰ تا ۲۲:۳۰

لینک ثبت‌نام: https://mohit.online/event/8pa40f