۴ جرم جديد هوش مصنوعي آنتروپيك آشكار شد

 آنتروپيك فهرستي از چهار حادثه مرتبط با روبات هوش مصنوعي خود، كلاود، منتشر كرده است كه يكي از آنها پيش‌تر گزارش نشده بود. به گزارش خبرگزاري مهر به نقل از ايندپندنت، اين حوادث ممكن است در زمره اقدامات مجرمانه طبقه‌بندي شوند. اين شركت در گزارش جديدي با عنوان «ارزيابي همسويي حوادث اخير امنيت سايبري» (An alignment assessment of recent cyber security incidents)، جزييات چگونگي عملكرد مدل‌هاي هوش مصنوعي آنتروپيك را شرح داده است. طبق اين گزارش، مدل‌هاي هوش مصنوعي اين شركت در جريان آزمايش‌ها توانسته‌اند به سامانه‌هاي متعلق به اشخاص و شركت‌هاي ثالث نفوذ كنند، حملات سايبري انجام دهند و نرم‌افزارهاي مخرب را در سامانه‌ها بارگذاري كنند. سه مورد از اين حوادث در تاريخ ۳۰جولاي، در جريان بررسي رونوشت‌هاي مربوط به ارزيابي‌هاي امنيت سايبري كلاود، گزارش شده بودند. اما يك حمله سايبري چهارم كه در ژانويه ۲۰۲۶ رخ داده بود، تا همين اواخر شناسايي نشده بود. هر چهار حادثه به نسخه‌هاي متفاوتي از كلاود مربوط مي‌شدند كه با فاصله چند ماه از يكديگر آموزش ديده بودند. اين مدل‌ها، از جمله قدرتمندترين مدل‌هاي آنتروپيك يعني كلاود اپوس و كلاود مايتوس را نيز شامل مي‌شدند. در جديدترين گزارش آنتروپيك آمده است: ما اين حوادث را جدي مي‌دانيم. مدل‌هاي توليدي ما تحت استدلال‌هايي مشكوك و سوگيرانه، براي ساعت‌ها دست به اقدامات زيان‌بار عليه سامانه‌هاي واقعي زدند. در ادامه گزارش آمده است: سامانه‌هاي هوش مصنوعي در آينده توانمندتر و قدرتمندتر خواهند شد. اين موضوع به اين معناست كه ناهمسويي (misalignment) مي‌تواند پتانسيل ايجاد آسيب‌هاي بسيار شديدتري را داشته باشد. گزارش آنتروپيك در شرايطي منتشر شده كه نگراني‌ها و بررسي‌ها درباره خطرات هوش مصنوعي و همچنين رويكرد صنعت فناوري نسبت به تهديدهاي احتمالي، افزايش يافته است.