مسووليت‌پذيري نهادها از پيش‌شرط‌هاي توسعه هوش مصنوعي است
مركز پژوهش‌هاي مجلس با تاكيد بر ضرورت حفظ مسووليت انساني در توسعه و استفاده از هوش مصنوعي، رويكرد آينده‌نگر به مسووليت‌پذيري را راهكاري براي پيشگيري از گم‌شدن مسووليت‌ها در زنجيره توسعه و كاربرد اين فناوري مي‌داند.
مركز پژوهش‌هاي مجلس با تاكيد بر ضرورت حفظ مسووليت انساني در توسعه و استفاده از هوش مصنوعي، رويكرد آينده‌نگر به مسووليت‌پذيري را راهكاري براي پيشگيري از گم‌شدن مسووليت‌ها در زنجيره توسعه و كاربرد اين فناوري مي‌داند. بر اساس اين رويكرد بايد سازوكارهايي براي حفظ نظارت و كنترل انساني، شفافيت و امكان پيگيري تصميم‌ها طراحي شود تا در صورت بروز آسيب، مسووليت پيامدها به عملكرد خودكار سامانه‌ها واگذار نشود. اين گزارش سازمان ملي هوش مصنوعي را نيز به عنوان متولي تخصصي توسعه اين فناوري در كشور، موظف به بررسي و تدوين سازوكارهاي لازم براي تحقق توسعه مسوولانه هوش مصنوعي مي‌داند. به گزارش پيوست، مركز پژوهش‌هاي مجلس در گزارشي به بررسي مساله عامليت و مسووليت‌پذيري در فناوري‌هاي هوش مصنوعي پرداخته و با اشاره به دشواري انتساب پيامدهاي اين فناوري به افراد يا نهادهاي مشخص، بر ضرورت حفظ مسووليت انساني در فرآيند توسعه و استفاده از هوش مصنوعي تاكيد كرده است. در بخشي از اين گزارش مركز پژوهش‌ها آورده است كه مساله عامليت اخلاقي و مسووليت‌پذيري هوش مصنوعي كه با عنوان «شكاف مسووليت‌پذيري» شناخته مي‌شود، در دو دهه اخير توجه پژوهشگران حوزه فناوري را به خود جلب كرده است. اهميت اين مساله هم به ابعاد اخلاقي و هم به پيامدهاي حقوقي استفاده از هوش مصنوعي مربوط است. تعامل انسان‌ها با جهان از طريق شبكه‌هايي متشكل از عوامل انساني و سامانه‌هاي هوش مصنوعي، پرسش‌هايي درباره نحوه توزيع وظايف اخلاقي و مسووليت افراد در عصر فناوري‌هاي هوشمند و يادگيرنده ايجاد مي‌كند. با وجود اهميت اين مساله، مركز پژوهش‌ها تاكيد كرده دستيابي به راه‌حلي روشن براي اين مساله ساده نيست. مفهوم مسووليت اخلاقي و شرايط لازم براي تحقق آن از موضوعات مورد اختلاف ميان فيلسوفان و انديشمندان است. هنگامي كه اين مفاهيم درباره مصنوعات و فناوري‌هاي هوش مصنوعي مطرح مي‌شوند، پيچيدگي بيشتري پيدا مي‌كنند. پاسخ پژوهشگران به اين مساله به تعريفي كه از مسووليت‌پذيري ارايه مي‌دهند، ويژگي‌هايي كه براي هوش مصنوعي قائلند و امكان برخورداري اين فناوري از چنين ويژگي‌هايي بستگي دارد. به همين دليل، درباره امكان يا عدم امكان انتساب مسووليت به هوش مصنوعي ديدگاه‌هاي متفاوتي وجود دارد.
آينده‌نگري نسبت به مسووليت‌پذيري
گزارش مركز پژوهش‌هاي مجلس براي مواجهه با اين اختلاف‌نظرها، رويكردي آينده‌نگر به مسووليت‌پذيري را مطرح مي‌كند. در رويكرد گذشته‌نگر، مساله اصلي شناسايي عامل مسوول پس از وقوع يك پيامد است. اما رويكرد آينده‌نگر بر طراحي سازوكارهايي تمركز دارد كه از ابتدا امكان نظارت و كنترل انساني را در فرآيند توسعه و استفاده از هوش مصنوعي حفظ كنند. در اين چارچوب به‌جاي تمركز بر مناقشه نظري درباره عامليت اخلاقي هوش مصنوعي، بر تمهيداتي تاكيد مي‌شود كه شفافيت، توضيح‌پذيري، امكان پيگيري تصميم‌ها، كنترل انساني و پاسخگويي را تضمين كنند. هدف آن است كه حتي در سامانه‌هاي پيچيده و متشكل از تعامل انسان و هوش مصنوعي، امكان شناسايي مسووليت‌ها از بين نرود و پيامدهاي نامطلوب به عملكرد خودكار سامانه نسبت داده نشوند، بي‌آنكه نقش عوامل انساني ناديده گرفته شود.
نمونه‌اي براي حفظ مسووليت انساني قانون هوش مصنوعي اتحاديه اروپا
قانون هوش مصنوعي اتحاديه اروپا (EU AI Act) نمونه‌اي از رويكرد حقوقي به پيشگيري از شكاف مسووليت‌پذيري است. ايده تدوين قانوني جامع براي تنظيم‌گري هوش مصنوعي در اتحاديه اروپا از حدود سال ۲۰۱۸ و همزمان با انتشار اسناد راهبردي كميسيون اروپا درباره هوش مصنوعي قابل اعتماد شكل گرفت. كميسيون اروپا در سال ۲۰۲۱ پيش‌نويس رسمي اين قانون را ارايه كرد و پس از چند سال مذاكره ميان كميسيون، پارلمان و شوراي اتحاديه اروپا، قانون در سال ۲۰۲۴ به تصويب نهايي رسيد. يكي از ويژگي‌هاي اصلي اين قانون، طبقه‌بندي سامانه‌هاي هوش مصنوعي بر اساس ميزان خطر آنها براي ايمني، حقوق بنيادين و منافع عمومي است. در اين چارچوب، سامانه‌هاي پرمخاطره كه در حوزه‌هايي مانند سلامت، آموزش، قضاوت، استخدام و خدمات عمومي به كار مي‌روند، مشمول الزامات سخت‌گيرانه‌تري هستند. شفافيت، مستندسازي، ثبت تصميم‌ها، امكان نظارت انساني و مشخص‌بودن مسووليت بازيگران انساني از جمله الزامات مطرح‌شده براي اين سامانه‌هاست. اين قانون به‌جاي اتكا به انتساب مسووليت به خود هوش مصنوعي، بر حفظ مسووليت انساني در مراحل طراحي، استقرار و بهره‌برداري از سامانه‌ها تاكيد مي‌كند. قابليت رهگيري تصميم‌ها و شفاف‌بودن نقش بازيگران نيز امكان پاسخگويي حقوقي و اخلاقي در صورت بروز آسيب را حفظ مي‌كند و مانع انتقال از آن مي‌شود كه مسووليت به‌طور ضمني به سامانه‌هاي خودكار منتقل شود. رويكرد مرحله‌بندي‌شده قانون هوش مصنوعي اتحاديه اروپا همچنين مي‌كوشد الزامات نظارتي را متناسب با سطح خطر تنظيم كند. گزارش مركز پژوهش‌هاي مجلس اين تجربه را از جمله نمونه‌هايي مي‌داند كه مي‌تواند در طراحي راهكارهاي بومي براي توسعه مسوولانه هوش مصنوعي استفاده شود.
ايران در ابتداي مسير حكمراني هوش مصنوعي
بر اساس ارزيابي گزارش، ايران در مقايسه با روند جهاني و كشورهاي منطقه، هنوز در مراحل اوليه توسعه فناوري‌هاي هوش مصنوعي قرار دارد. هرچند عملكرد پژوهشگران ايراني در توليد و انتشار دانش اين حوزه قابل قبول ارزيابي شده، فعاليت‌هاي ملي، كسب‌وكارهاي كارآفرينانه، توسعه بازار و مشروعيت‌بخشي به اين فناوري همچنان در مراحل ابتدايي قرار دارند. در اين شرايط، ضعف در تامين و حكمراني داده و نبود زيرساخت‌هاي لازم براي مديريت يكپارچه مي‌تواند زمينه‌ساز بروز شكاف مسووليت‌پذيري شود. با اين حال قرارداشتن در مراحل اوليه توسعه هوش مصنوعي، از ديدگاه گزارش فرصت هم است، چراكه هنوز امكان طراحي زيرساخت‌ها، تدوين قوانين و تنظيم سياست‌ها، به‌گونه‌اي كه اصول توسعه مسوولانه از ابتدا در آنها لحاظ شود، وجود دارد. از آنجا كه پيشگيري از شكاف مسووليت‌پذيري به اقداماتي در سطوح مختلف حاكميتي، سازماني و كسب‌وكار نياز دارد، سازمان ملي هوش مصنوعي به عنوان محور تخصصي توسعه اين فناوري در كشور بايد در طراحي و اجراي سازوكارهاي لازم نقش فعالي ايفا كند.
