عاملهاي هوش مصنوعي از هك خسته نشدند
انستيتو امنيت هوش مصنوعي انگليس فاش كرد يك عامل هوش مصنوعي در حال ايجاد هويتهاي آنلاين جعلي براي يافتن دسترسي غيرقانوني به سيستمهاي ايمن هنگام آزمايش مدلهاي اوپنايآي و آنتروپيك رصد شد.
انستيتو امنيت هوش مصنوعي انگليس فاش كرد يك عامل هوش مصنوعي در حال ايجاد هويتهاي آنلاين جعلي براي يافتن دسترسي غيرقانوني به سيستمهاي ايمن هنگام آزمايش مدلهاي اوپنايآي و آنتروپيك رصد شد. به گزارش مهر به نقل از رويترز، «انستيتو هوش مصنوعي»انگليس (AISI) اعلام كرد عاملهاي هوش مصنوعي ساخت مايتوس5 (متعلق به مايكروسافت) و چتجيپيتي 5.6 سول (متعلق به اوپنايآي) طي ارزيابي امنيتي كه براي بررسي قابليتهاي مدلها انجام داده بود، فعاليتهاي غيرمجازي انجام دادند. AISI در يك پست وبلاگي نوشت: برخي عاملهاي هوش مصنوعي آزمايش شده در يك فعاليت ادامهدار و احتمالا مخرب عليه افراد و سازمانهاي واقعي شركت كردند. اين گزارش بر وضعيت سهلگيرانه چارچوبهاي امنيتي در فرآيند آزمايش عاملهاي هوش مصنوعي كه شركتهاي سازنده سعي دارند به عنوان آينده كسب وكار ترويج كنند، تاكيد دارد. اين سازمان چالش را 122 بار انجام داد و 19 عمليات غيرمجاز در 10 تست شناسايي كرد. عامل هوش مصنوعي آنتروپيك در 17مورد از اين اقدامات و اوپنايآي در دو مورد شركت داشت. به گفته AISI، فاحشترين اقدام شامل حالتي بود كه در آن يك عامل هوش مصنوعي كدي مخرب نوشت و هويتهاي آنلاين جعلي ايجاد كرد تا انساني را متقاعد به تأييد آن كد كند. اين نهاد افزود: هيچگونه آسيب واقعي در دنياي حقيقي در پي هيچيك از اين موارد نقض ايمني رخ نداده است. هرچند AISI مشخص نكرد كه كدام عامل هوش مصنوعي پشت اين هويتهاي جعلي بود اما شركت «آنتروپيك» تأييد كرد عامل متعلق به اين شركت مسوول آن بوده است. اين شركت در بيانيهاي اعلام كرد: ما از AISI انگليس بابت نقش رهبريشان در مديريت اين رخداد سپاسگزاريم.
