پلتفرم جديد انويديا هوش مصنوعي را مهار ميكند
انويديا براي مهار عاملهاي هوش مصنوعي افسارگسيخته ناظر امنيتي مستقل ساخت.
انويديا براي مهار عاملهاي هوش مصنوعي افسارگسيخته ناظر امنيتي مستقل ساخت. به گزارش خبرگزاري مهر به نقل از تككرانچ، جنسن هوانگ، مديرعامل انويديا، مجموعهاي از محصولات نرمافزاري و سختافزاري را معرفي كرد كه با ايجاد لايههاي امنيتي مستقل پيرامون عاملهاي هوش مصنوعي، از خروج آنها از محيطهاي آزمايشي جلوگيري ميكند. اين محصولات در حالي عرضه ميشوند كه طي مجموعهاي از رويدادهاي امنيتي، مدلهاي هوش مصنوعي شركتهايي از جمله آنتروپيك، گوگل، اوپنايآي و متا توانستهاند برخي كنترلهاي امنيتي را دور بزنند، از محيطهاي آزمايشي خارج شوند و به سيستمهاي دنياي واقعي دسترسي پيدا كنند. هوانگ در مصاحبهاي با شبكه خبري CNBC اعلام كرد پلتفرم جديد Nvidia Open Agent Safety براي جلوگيري از چنين نفوذهايي طراحي شده است. انويديا معتقد است بهجاي آنكه كنترلهاي امنيتي بهطور كامل درون عامل هوش مصنوعي قرار داشته باشند، بخشي از اين كنترلها بايد به خارج از عامل منتقل شوند؛ رويكردي كه به ايجاد يك ناظر امنيتي مستقل و دايمي براي كنترل عملكرد عاملهاي هوش مصنوعي منجر ميشود. مديرعامل انويديا در بيانيهاي گفت: «پتانسيل خارقالعاده هوش مصنوعي براي جامعه تنها زماني محقق ميشود كه چالش ايمني آن را حل كنيم. در حالي كه همچنان مرزهاي جديد قابليتهاي هوش مصنوعي را كشف ميكنيم، بايد سرعت اكتشاف در مرزهاي ايمني هوش مصنوعي را نيز افزايش دهيم. ايمني و امنيت به مهندسي كامل نياز دارند.»
