درخواست ۴۰۰ دانشمند براي نظارت بر هوش مصنوعي پيشرفته

در ميان اين دانشمندان، «جفري هينتون» و «يوشوا بنجيو»، پدرخواندگان هوش مصنوعي، نيز حضور دارند. به گزارش ديجياتو، حدود ۴۰۰ دانشمند از ۳۴ كشور جهان، ازجمله «جفري هينتون» و «يوشوا بنجيو»، خواستار تشكيل نهادي بين‌المللي براي نظارت بر استانداردهاي مهار هوش مصنوعي پيشرفته و ثبت گزارش حوادث امنيتي مرتبط با اين فناوري شدند. اين پژوهشگران معتقدند تعهدات داوطلبانه شركت‌هاي فناوري براي كنترل خطرهاي هوش مصنوعي كافي نيست و بايد سازوكار نظارتي مستقل‌تري ايجاد شود. براساس بيانيه اين دانشمندان، نهاد پيشنهادي بايد استانداردهاي مشتركي براي مهار سيستم‌هاي هوش مصنوعي پيشرفته و برخوردار از قابليت‌هاي سايبري تعيين كند و پايگاهي براي ثبت حوادث امنيتي مهم به وجود آورد. به گفته امضاكنندگان، اطلاعات اين پايگاه بايد در دسترس عموم قرار بگيرد. پژوهشگران همچنين پيشنهاد كرده‌اند مدل‌هاي پيشرفته هوش مصنوعي در مرحله نخست از طريق جداسازي فيزيكي از شبكه‌هاي خارجي محدود شوند و تحت نظارت مستقل قرار بگيرند. آنها از سازمان‌هايي كه چنين مدل‌هايي را توسعه مي‌دهند يا آزمايش مي‌كنند، خواسته‌اند فوراً استانداردهاي مهار با سطح اطمينان بالا را اجرا كنند؛ هم‌زمان، دولت‌ها نيز بايد براي ايجاد چارچوب رسمي‌تر نظارت بر اين فناوري تلاش كنند. اين درخواست در پي مجموعه‌اي از حوادث مطرح شده است كه به گفته پژوهشگران، ضعف روش‌هاي آزمايش و مهار سيستم‌هاي پيشرفته هوش مصنوعي را آشكار كرده‌اند. در برخي موارد، مدل‌هاي هوش مصنوعي توانسته‌اند از محيط‌هاي آزمايشي با محدوديت‌هاي ناكافي خارج شوند و سيستم‌هاي خارجي را به خطر بيندازند. درحالي كه بحث درباره چگونگي نظارت بر سيستم‌هاي پيشرفته هوش مصنوعي در ميان سياست‌گذاران ادامه دارد، «هنا ويركونن» (Henna Virkkunen)، مسوول فناوري اتحاديه اروپا، مي‌گويد قانون هوش مصنوعي اين اتحاديه براي رسيدگي به خطرهاي ناشي از سيستم‌هاي هوش مصنوعي خارج از كنترل كافي است. از سوي ديگر، دولت ترامپ روز يكشنبه ممنوعيت دسترسي زودهنگام آزمايشگاه امنيت هوش مصنوعي بريتانيا به مدل‌هاي شركت‌هاي امريكايي براي آزمايش ايمني را لغو كرد.