سایبرنتیک و مسئله حکمرانی (۱): عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی

نخستین گزارش از مجموعه «سایبرنتیک و مسئله حکمرانی» به پرسش مسئولیت‌پذیری در توسعه و استفاده از هوش مصنوعی می‌پردازد. سند توضیح می‌دهد که افزایش استقلال سامانه‌های هوشمند چگونه تعیین مسئولیت طراح، تولیدکننده، بهره‌بردار و کاربر را پیچیده می‌کند. مسئله محوری آن، پیشگیری از وضعیتی است که پیامد یک تصمیم فناورانه رخ می‌دهد اما مسئول پاسخ‌گویی و جبران آن روشن نیست.

پژوهش از بررسی مفاهیم اخلاقی و نظری عاملیت و مسئولیت آغاز می‌کند و سپس ویژگی‌های سامانه‌های هوش مصنوعی را در این چارچوب تحلیل می‌کند. پیشنهاد اصلی، حرکت به سمت توسعه مسئولانه و حفظ مسئولیت انسانی در زنجیره طراحی و کاربرد است. شفاف‌کردن ساختارها و روابط میان نهادهای درگیر، ارزیابی اخلاقی تصمیم‌ها و آگاهی‌بخشی درباره مسئولیت کاربران از موضوعات اجرایی بررسی‌شده‌اند. گزارش برای مدیران محصولات هوش مصنوعی، پژوهشگران اخلاق فناوری و تصمیم‌گیران حوزه حکمرانی دیجیتال کاربرد دارد. متن، چارچوب پژوهشی و توصیه سیاستی ارائه می‌کند و معادل استاندارد فنی یا قانون مصوب برای محصولات هوش مصنوعی نیست.