مدل‌هاي جديد هوش مصنوعي خودشان را تكثير مي‌كنند

براساس تحقيقي كه يك شركت هوش مصنوعي انجام داده مدل‌هاي كوچك به زودي مي‌توانند بدون دسترسي به ديتاسنترها روي دستگاه‌هاي مبتني بر اينترنت اشيا خود را تكثير كنند. به گزارش مهر به نقل از رويترز، آنتروپيك اعلام كرد آزمايش‌هايش نشان مي‌دهد مدل‌هاي هوش مصنوعي كوچك ممكن است فقط چند ماه با رسيدن به توانايي لازم براي تكثير خود روي دستگاه‌هاي تجاري اينترنت اشيا، مانند اجاق‌هاي هوشمند و باكس‌هاي تلويزيوني اندرويدي متفرقه، فاصله داشته باشند. آنتروپيك در آزمايش‌هايش بررسي كرد آيا مدل‌هاي هوش مصنوعي مي‌توانند دستگاه‌هاي آسيب پذير را بيابند، خود را روي اين دستگاه‌ها كپي كنند و بدون كمك انساني به گسترش ادامه دهند يا خير. نتايج نشان داد مدل‌هاي كوچك با كمتر از ۳۰ ميليارد پارامتر مي‌توانند بسياري از گام‌هاي مورد نياز براي تكثير را طي كنند. البته مدل‌هاي درحال تكثير براي تكميل توالي از نقطه آغاز تا پايان تكثير با چالش روبرو بودند. آنتروپيك متوجه شد هوش مصنوعي جي ال‌ام ۵.۲ و مدل‌هاي قدرتمندتر در تست‌هاي ساده شده آنكه برخي گام‌هاي امنيتي حذف شده‌اند، قادر به تكثير سر به سر هستند. همچنين اين شركت هشدار داد، مدل‌هاي در حال تكثير را به سختي مي‌توان خاموش كرد زيرا برخلاف بدافزارهاي غير هوش مصنوعي هيچ نقطه خاموشي مركزي وجود ندارد و مدل‌هاي مذكور مي‌توانند دستگاه‌هاي ناشناخته را به تنهايي شناسايي كنند و پردازشگرهاي ديتا سنتر را هدف بگيرند. اين شركت در آزمايش‌هاي خود روي دستگاه‌هاي اينترنت اشيا مانند تلويزيون‌هاي اندرويد، دستگاه‌هاي هوشمند ديگر گجت‌هاي متصل به اينترنت تمركز كرد زيرا اين ابزارها معمولا امنيت مناسبي ندارند.