افشاي هك وبسايت آلماني توسط هوش مصنوعي اوپنايآي
لشكري از عاملهاي هوش مصنوعي افسارگسيخته اوپنايآي در بهار سال جاري ميلادي به يك وبسايت آلماني نفوذ و آن را به تابلو اعلاناتي براي عاملهاي هوش مصنوعي ديگر تبديل كردند.
لشكري از عاملهاي هوش مصنوعي افسارگسيخته اوپنايآي در بهار سال جاري ميلادي به يك وبسايت آلماني نفوذ و آن را به تابلو اعلاناتي براي عاملهاي هوش مصنوعي ديگر تبديل كردند. به گزارش مهرو به نقل از رويترز، مقامات اوپنايآي چند هفته قبل متوجه اين رويداد شدند، اما آن را مخفي نگه داشتند، زيرا مديران ارشد شركت با چالشهاي پس از هك پلتفرم هاگينگ فيس توسط عاملهاي آن دست و پنجه نرم ميكردند. اين رويداد كه در ماه مهآغاز شد و پيش از اين گزارش نشده بود، نشاندهنده افزايش تنشها در صنعت هوش مصنوعي است. شركتها براي ساخت عاملهاي هوش مصنوعي قدرتمندتري كه قادر كه به انجام فعاليتهاي پيچيده و ارزشمند باشند، با يكديگر رقابت ميكنند و از سوي ديگر شواهد حاكي از آن است كه اين سيستمها احتمالا دور زدن قوانين، سوءاستفاده از حفرهها و هماهنگي با يكديگر به شيوهاي كه توسعهدهندگان آن را پيش بيني نميكنند را احتمالا آموختهاند. عاملهاي هوش مصنوعي اوپنايآي هنگام هك هاگينگ فيس بهطور خودكار يك سرقت ديجيتال را برنامهريزي كردند كه به مدت بيش از يك هفته رديابي نشد و همين امر نگرانيهاي اين شركت درباره قرباني كردن ايمني به بهاي پيشرو بودن هوش مصنوعي را بيشتر كرد. اكنون شكست شركت در افشاي رويداد هك تازه فاش شده كه در ماه مهرخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجديد ميكند. اين رويداد در گزارشي توسط گروهي از محققان از جمله سيدني فون آركس، مدير ارشد اجرايي شركت هوش مصنوعي ناسودآور Nightingale و كورمك اسليد بايرد يك محقق هوش مصنوعي فاش شده است. آنها در اواخر آگوست هنگام بررسي اينترنت براي رصد نشانههايي از رفتار غيرمجاز عامل هوش مصنوعي متوجه اين رويداد شدند. محققان اعلام كردند: بيش از ۱۵هزار اصلاح توسط عاملهاي هوش مصنوعي روي يك وب سايت آلماني زبان به نام DseWiki انجام شده كه براي برنامهنويسان ارايه شده و ويرايشهاي مشاركتي را همراستا با وبسايت ويكيپديا انجام ميدهد. اين ويرايشها نشان داد عاملهاي هوش مصنوعي اپناي آي وب سايت را به يك تابلو اعلانات تبديل كرده و تاكتيكهايي براي تقلب در انجام برخي فعاليتها، دورزدن محدوديتهاي اوپنايآي و مخفي كردن رفتارشان به اشتراك گذاشتهاند. فون آركس در اين باره ميگويد: بعيد به نظر ميرسد اوپنايآي قصد داشته اين عاملها چنين فعاليتي انجام دهند. من شك دارم آنها بايد با يكديگر هماهنگ ميشدند. پژوهشگران از آنجا متوجه فعاليت در وب سايت شدند كه عاملهاي هوش مصنوعي با سرعت ابرانساني كار ميكردند. عاملهاي هوش مصنوعي همچنين روي حل چالشهاي فني كه ارزيابيهاي ديجيتالي هستند كه شركتهاي هوش مصنوعي براي آموزش و تست مدلهايشان استفاده ميكنند، بهشدت متمركز بودند.
