هيچ شركتي كنترل ابرهوش را تضمين نمي‌كند

طبق تحقيقي جديد بيشتر شركت‌هاي هوش مصنوعي نمي‌توانند ريسك‌هاي فاجعه بار اين فناوري را مديريت كنند. به گزارش خبرگزاري مهر به نقل از اينديپندنت، تحقيق موسسه Future of Life نشان مي‌دهد كه ۸ شركت برتر هوش مصنوعي فاقد اقدامات ايمني اثبات‌شده، نظارت مستقل و برنامه‌هاي بلندمدت براي مديريت ريسك سيستم‌هاي قدرتمند هستند. در شاخص ايمني هوش مصنوعي (AI Safety  Index)، شركت‌هاي امريكايي بهترين امتياز را گرفتند و محصول Anthropic بالاتر از OpenAI و DeepMind گوگل قرار گرفت. با اين حال، هيچ شركتي در ارزيابي «ريسك وجودي» نمره بالاتر از D نگرفت و Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai نمره F كسب كردند. تحقيق تأكيد كرده كه ايمني وجودي همچنان بزرگ‌ترين ضعف ساختاري اين حوزه است و فاصله بين شتاب در توسعه AGI و نبود برنامه‌هاي معتبر كنترل آن روزبه‌روز نگران‌كننده‌تر مي‌شود. استورات راسل، پروفسور علوم رايانشي دانشگاه UC Berkeley، مي‌گويد: «مديران ارشد مي‌دانند چگونه ابرهوش بسازند، اما هيچ‌كس نمي‌تواند نشان دهد چگونه خطر از دست رفتن كنترل آنها را مهار مي‌كند. آنها نمي‌توانند ريسك سالانه از دست دادن كنترل را به اندازه‌اي پايين بياورند كه مشابه الزامات ايمني رآكتورهاي هسته‌اي باشد.»