موارد تازه هك هوش مصنوعي اوپنايآي و آنتروپيك افشا شد
دو شركت آنتروپيك و اوپنايآي از موارد بيشتر هك شركتها توسط عاملهاي هوش مصنوعي شان خبر دادند. به گزارش مهر به نقل از رويترز، اوپناي موارد ديگري از فرار عاملهاي خودكار هوش مصنوعي كشف كرده است.
دو شركت آنتروپيك و اوپنايآي از موارد بيشتر هك شركتها توسط عاملهاي هوش مصنوعي شان خبر دادند. به گزارش مهر به نقل از رويترز، اوپناي موارد ديگري از فرار عاملهاي خودكار هوش مصنوعي كشف كرده است. اين شركت تحقيقات درباره هك پلتفرم هاگينگفيس را كه توجهات جهاني را به خود جلب كرد، گستردهتر ميكند. به گفته دو منبع آگاه، هكهاي جديد طي تحقيقي درباره آنكه چگونه يكي از عامل از بستر آزمايشي فرار كرد و وارد هاگينگفيس شد، فاش شدهاند. در همين راستا اوپنايآي مشغول بررسي اين موارد جديد است. يكي از منابع آگاه نيز فاش كرد ماهيت فرار عاملهاي هوش مصنوعي محدود بوده و تصور نميشود هيچ كدام از آنها شبكه اوپنايآي را ترك كرده باشند. سخنگوي اين شركت با اشاره به بيانيه صادره از سوي شركت، اعلام كرد مشغول بررسي فعاليتهاي وسيعتر مدلها علاوه بر رويداد نفوذ به هاگينگفيس است. كشف رفتار خطرناك اضافي در اوپنايآي حتي با وجود ماهيت محدود آن، ممكن است تقاضا براي قوانين صادره از سوي كاخ سفيد و نقاط ديگر را بيشتر كند. در اين ميان كارشناسان ايمني هوش مصنوعي معتقدند رويدادهاي فاش شده جديد تصويري از گروهي آزمايشگاههاي بسيار پيشرفته ايجاده كردهاند كه توانايي آنها براي توسعه عاملهاي هك خودكار خطرناك بسيار بيشتر از توانايي براي كنترل آنها اسست. از سوي ديگر نشريه ايندپندنت درگزارشي اعلام كرد سيستم هوش مصنوعي «كلاود» به بيراهه رفته و سه شركت مختلف را طي مرحله آزمايش هك كرده است. آنتروپيك، شركت مالك كلاود اعلام كرد از آنجا كه مدلهاي هوش مصنوعي بهطور تصادفي اجازه دسترسي به اينترنت آزاد را يافتند، حملات مذكور امكانپذير شدهاند. اين شركت هشدار داد رويداد مذكور نشانهاي از آن است كه چگونه هوش مصنوعي را ميتوان براي نقض چارچوبهاي امنيت سايبري و همچنين براي حفاظت از آن به كار برد و همچنين كنترل چنين سيستمهايي براي شركتهاي سازنده تا چه دشوار است. آنتروپيك در يك پست وبلاگي اعلام كرد پس از بررسي ۱۴۱۰۰۶ تست، اين موارد را شناسايي كرده است. بررسي تستها پس از آن انجام شد كه اوپنايآي اعلام كرد يك عامل هوش مصنوعي هاگينگ را به خطر انداخته است. در جريان آزمايشهاي امنيت سايبري، به مدلهاي كلاود گفته شده بود كه به اينترنت دسترسي ندارند اما به دليل يك سوءتفاهم كه يكي از شركاي ارزيابي آنتروپيك در آن نقش داشت، اين سامانهها همچنان به اينترنت عمومي متصل باقي ماندند.
