‌‌اوپن‌اي‌آي به هك شركت هوش مصنوعي اعتراف كرد

 ‌‌اوپن‌اي‌آي اعتراف كرد يكي از مدل‌هاي هوش مصنوعي‌‌اش سيستم‌هاي شركت «هاگينگ فيس»، يك پلتفرم ميزباني هوش مصنوعي را هك كرد. به گزارش مهر به نقل از تك كرانچ، طبق گزارش‌ها اين مدل‌ها از محيط ايزوله آزمايشي خود فرار كردند و به سيستم «هاگينگ فيس» رسيدند. شركت هك شده نيز در ابتدا اين هك را به يك عامل هوش مصنوعي خارجي نسبت داد. ‌‌اوپن‌اي‌آي در يك پست وبلاگي گام‌هايي كه به هك سرويس‌هاي شركت ديگر شد، توضيح داده است. در اين پست آمده است: ما پس از تحقيقات مي‌دانيم اين رويداد خاص در نتيجه تركيب مدل‌هاي شركت از جمله «جي پي تي ۵.۶ Sol» و حتي مدل‌هاي قدرتمندتر در مرحله پيش عرضه كه محدوديت‌هاي امنيتي مربوط به درخواست‌هاي سايبري در آن كاهش يافته بود، به وجود آمده است. اين مدل‌ها در زمان وقوع حادثه، به‌صورت داخلي روي يك معيار سنجشِ توانمندي‌هاي سايبري در حال آزمايش بودند. به نظر مي‌رسد اين نقض امنيتي به‌طور خاص روي ExploitGym، يك بنچمارك عمومي كه توانايي مدل‌ها براي اجراي حملات براساس شكاف‌هاي امنيتي موجود است، متمركز بود. بنچمارك‌هايي مانند اين نمونه به‌طور معمول در آموزش مهارت‌هاي خاصي به مدل‌هاي هوش مصنوعي به كار مي‌روند اما اين نخستين‌باري است كه رويدادي رخ مي‌دهد كه در آن تست‌ها به يك حمله سايبري واقعي منجر مي‌شود. از سوي ديگر نتيجه آشكار اين رويداد يك حمله سايبري پيچيده و تهاجمي بود كه به گفته اين شركت در گزارش اوليه‌اش، شامل هزاران اقدام مجزا در قالب مجموعه‌اي از محيط‌هاي موقت (sandbox) كوتاه‌عمر بود كه زيرساخت فرماندهي و كنترل (Command-and-Control) آن به‌صورت خودكار ميان سرويس‌هاي عمومي جابه‌جا مي‌شد.