هشدار بانك مركزي انگليس درباره هوش مصنوعي «ياغي»
در سالهايي كه هوش مصنوعي از يك فناوري نوظهور به يكي از مهمترين موتورهاي تحول اقتصادي جهان تبديل شده، نگراني درباره پيامدهاي كنترلنشده آن نيز ابعاد تازهاي پيدا كرده است.
در سالهايي كه هوش مصنوعي از يك فناوري نوظهور به يكي از مهمترين موتورهاي تحول اقتصادي جهان تبديل شده، نگراني درباره پيامدهاي كنترلنشده آن نيز ابعاد تازهاي پيدا كرده است. اكنون هشدارها ديگر تنها از سوي متخصصان فناوري و پژوهشگران آزمايشگاههاي هوش مصنوعي مطرح نميشود؛ مقامهاي ارشد اقتصادي و مالي جهان نيز نسبت به خطراتي كه توسعه شتابان اين فناوري ميتواند براي ثبات اقتصاد جهاني ايجاد كند، هشدار ميدهند. در تازهترين مورد، اندرو بيلي، رييس بانك مركزي انگليس و رييس هيات ثبات مالي بينالمللي، درباره قابليتهاي فزاينده مدلهاي پيشرفته هوش مصنوعي و پيامدهاي احتمالي آن براي نظام مالي جهان ابراز نگراني كرده است.
اهميت اين هشدار از آنجا ناشي ميشود كه نظام مالي جهاني به شبكهاي بهشدت درهمتنيده از بانكها، بازارهاي سرمايه، شركتهاي فناوري و نهادهاي مالي تبديل شده است؛ بنابراين يك اختلال سايبري يا بحران در يك كشور ميتواند به سرعت به ساير اقتصادها سرايت كند. هوش مصنوعي نيز با افزايش توانايي خود در حل مسائل پيچيده، انجام عمليات خودكار و اجراي فعاليتهاي گسترده در فضاي ديجيتال، ميتواند هم به ابزاري براي تقويت اقتصاد و بهرهوري تبديل شود و هم در صورت سوءاستفاده يا از دست رفتن كنترل، به عاملي براي تشديد ريسكهاي موجود بدل شود.
نگراني بيلي تنها به حملات سايبري محدود نميشود. رشد ارزشگذاري شركتهاي مرتبط با هوش مصنوعي، خوشبيني شديد سرمايهگذاران، افزايش استفاده از اهرم مالي در بازارهاي سهام و اوراق قرضه و نبود سازوكارهاي هماهنگ جهاني براي كنترل و مديريت مدلهاي پيشرفته، مجموعهاي از ريسكهاي بههمپيوسته را ايجاد كرده است. در چنين شرايطي، يك شوك ميتواند چندين آسيبپذيري را همزمان فعال كند و موجي از بياعتمادي و نوسان را در بازارهاي جهاني به راه بيندازد؛ سناريويي كه بار ديگر اين پرسش را مطرح ميكند كه آيا اقتصاد جهان براي مواجهه با هوش مصنوعي «ياغي» آماده است يا خير.
ركود در كمين اقتصاد جهان
رييس بانك مركزي انگليس نيز با پيوستن به چهرههايي كه نسبت به خطرات جهاني ناشي از فناوري هوش مصنوعي هشدار دادهاند، درباره قابليتهاي تهديدآميز آن براي ثبات مالي جهاني ابراز نگراني كرد. به گزارش گاردين، اندرو بيلي در نامهاي دوصفحهاي كه در چهارچوب مسووليتش به عنوان رييس هيات ثبات مالي بينالمللي (FSB) براي وزراي دارايي و روساي بانكهاي مركزي كشورهاي مختلف ارسال كرده است، نوشت كه مدلهاي هوش مصنوعي «پيشرو»، از خودمختاري و توانمنديهاي حل مساله روزافزون و پيچيدهتري برخوردار شدهاند كه در عين حال، قابليتهايي تهديدآميز دارند. وي اضافه كرد كه اين مدلها ميتوانند از طريق اختلالات سايبري، ثبات نظام مالي جهاني كه بهشدت در يكديگر تنيده هستند را برهم بزنند؛ زيرا چنين اختلالاتي ميتواند از يك كشور و حوزه قضايي به كشورهاي ديگر سرايت كند.
رييس بانك مركزي انگليس پيش از نشست اين هفته وزراي دارايي و روساي بانكهاي مركزي گروه ۲۰ (جي۲۰) در كاروليناي شمالي امريكا، نوشت: تحولات اخير همچنين براي من روشن كرده است كه بسياري از كشورها و حوزههاي قضايي هنوز پروتكلهاي لازم براي مديريت توسعه، انتشار و عرضه و بهكارگيري مدلهاي پيشرفته و پيشروي هوش مصنوعي را در اختيار ندارند؛ مسالهاي كه خطرات پيش روي بخش مالي و حتي فراتر از آن را تشديد ميكند.
اين نامه در حالي منتشر و ارسال شده است كه شماري از چهرههاي سرشناس حوزه فناوري طي هفتههاي اخير درباره خطرات هوش مصنوعي زنگ خطر را به صدا در آوردهاند. افزون بر اين، اظهارات بيلي انعكاسدهنده درخواستهاي قبلي او براي همكاري بينالمللي جهت مقابله با تهديدهاي فزاينده هوش مصنوعي است. او پيشتر گفته بود كه «هيچ كشوري نميتواند خود را از ماهيت فرامرزي سامانههايي كه امروزه رواج دارند، مصون نگه دارد.» به نوشته گاردين، ماه گذشته نيز در نامهاي با امضاي ۱۳۶۷ پژوهشگر و مهندس فعال در آزمايشگاههاي هوش مصنوعي پيشرو (عمدتا در شركتهاي OpenAI، Anthropic و Google DeepMind)، نگرانيهاي روزافزون مهندساني كه هر روزه با اين فناوري سر و كار دارند، برجسته شد.
در نامه مذكور آمده بود: اين خطر عيني وجود دارد كه توسعه توانمنديهاي هوش مصنوعي با سرعتي شتاب بگيرد كه از توانايي ما براي درك يا كنترل سامانههاي حاصل از آن فراتر رود.امضاكنندگان اين نامه در ادامه از دولت امريكا خواستند تا از «تلاشي بينالمللي جهت توسعه ابزارهاي فني و سازوكارهاي حكمراني لازم جهت تنظيم آگاهانه سرعت توسعه هوش مصنوعي خودكار در مرزهاي فناوري» پشتيباني كند.
اوايل ماه جاري (ميلادي) نيز گزارشهايي منتشر شد مبني بر اينكه كاركنان «اوپناِيآي/ OpenAI» هفتهها پيش از آنكه عوامل (سامانههاي) هوش مصنوعي پيشرفته اين شركت از محيط آموزشي خود خارج شوند و يك كارزار بيسابقه هكري را به راه بيندازند كه زنگ خطر جهاني را به صدا درآورد، نشانههايي از رفتار خارج از كنترل و ياغيگونه اين سامانهها مشاهده كرده بودند.
بيلي در نامه خود با بسط اين بحث به حوزه سياستگذاري مالي، ادامه ميدهد: اصليترين نگراني در حوزه نظام مالي، تاثير هوش مصنوعي پيشرو بر مخاطرات سايبري است. هوش مصنوعي پيشرو ممكن است بتواند سرعت، مقياس و هزينههاي اقتصادي مخاطرات سايبري را بهطور چشمگيري تغيير دهد؛ موضوعي كه ميتواند اعتماد به بازار را در سراسر نظام مالي تضعيف كند.»
وي از افراد و مسوولاني كه وظيفه حفاظت از نظامهاي مالي جهان را بر عهده دارند درخواست كرد تا «به منظور حمايت از عرضه و بهكارگيري ايمن و مسوولانه مدلهاي هوش مصنوعي در سطح جهان، اقدامات مناسب را در اولويت قرار دهند.»
در اين نامه همچنين به نگرانيهاي رييس بانك مركزي انگليس درباره افزايش استفاده از اهرم مالي در بازارهاي اوراق قرضه و سهام اشاره شده است. به گفته بيلي، اين روند بههمراه ارزشگذاري بالاي بازارهاي مالي متمركز كه بهطور مشخص تحتالشعاع خوشبيني سرمايهگذاران نسبت به چشمانداز هوش مصنوعي قرار دارند، در صورت بروز شوك، ميتواند افت و نوسان بازار را تشديد كند.
به گفته بيلي، «بنابراين همچنان نگراني من اين است كه يك شوك بزرگ، يا زنجيرهاي از شوكها، چندين گسل بازار را بهطور همزمان فعال كند.»به نوشته گاردين، بيلي از مارس ۲۰۲۰ رياست بانك مركزي انگليس را بر عهده دارد و پيش از آن نيز رياست دو نهاد نظارتي مالي اين كشور، يعني سازمان راهبرد امور مالي (FCA) و سازمان مقررات احتياطي (PRA) اين كشور را بر عهده داشته است. او همچنين پارسال به رياست هيات ثبات مالي منصوب شد. هيات ثبات مالي كه در بازل سويس واقع شده است، فعاليت نهادهاي مالي ملي و سازمانهاي بينالمللي تدوينكننده استانداردها را در سطح بينالمللي هماهنگ ميكند و هدف آن، تدوين مقررات و سياستهاي موثر براي حفظ ثبات مالي است.
