بايد به اندازه انرژي هسته‌اي مراقب هوش مصنوعي باشيم
كارمند سابق بخش ايمني اوپن‌اي‌آي كه اخيرا استعفا داده از رويكرد شركت در خصوص ايمني هوش مصنوعي انتقاد و استدلال مي‌كند اين فرهنگ پر سرعت مبتني بر توسعه سريع، ريسك شكست را بالا مي‌برد.
كارمند سابق بخش ايمني اوپن‌اي‌آي كه اخيرا استعفا داده از رويكرد شركت در خصوص ايمني هوش مصنوعي انتقاد و استدلال مي‌كند اين فرهنگ پر سرعت مبتني بر توسعه سريع، ريسك شكست را بالا مي‌برد. به گزارش خبر‌گزاري مهر به نقل ازرويترز، ديويد رابينسون در مقاله‌اي با عنوان «من از اوپن‌اي‌آي استعفا دادم زيرا فرهنگ معيوبي دارد» كه در نشريه آتلانتيك منتشر شده، مدعي است شركت‌هاي هوش مصنوعي از جمله اوپن‌اي‌آي به اندازه كافي محتاط نيستند و بايد قبل از توسعه سيستم‌هاي توانمندتر بر كارشناسي و تحقيق ايمني بيشتر تاكيد كنند. وي در اين مقاله نوشته است: زمان آزمون و خطا تمام شده است. وي استدلال مي‌كند سيستم‌هاي پيشرفته هوش مصنوعي نياز به چهارچوب‌هاي ايمني بيشتري مشابه آنچه در صنايع انرژي هسته‌اي و هوانوردي استفاده مي‌شود، دارند. رابينسون مدعي است اوپن‌اي‌آي به‌شدت به آنچه كه استقرار تكرارشونده مي‌نامد، متكي است و فقط زماني‌كه چالش‌ها ظاهر مي‌شوند سيستم‌ها را عرضه و اقدامات ايمني را قدرتمندتر مي‌كند. اين اظهار به گفتمان داخلي صنعت هوش مصنوعي درباره آنكه آيا شركت‌هاي فناوري براي توسعه سيستم‌هاي قدرتمندتر به سرعت حركت مي‌كنند يا خير، افزوده مي‌شود. اوپن‌اي‌آي و آنتروپيك، دو شركت رقيب پس از رويدادهايي كه در آن اقدامات ايمني كارآمد نبود يا سيستم‌هاي آزمايشي رفتار غيرمنتظره‌اي داشتند، با نظارت بيشتري روبرو شدند. رابينسون سه سال و نيم در اوپن‌اي‌آي فعاليت و به تهيه پيش نويس چهارچوب آمادگي شركت كرد وبر گزارش ايمني ۱۲ مدل پيشرو نظارت داشت. وي در گزارش خود نوشته است: در حالي كه شركت با سرعت از يك عرضه به عرضه بعدي مي‌رسد، نمي‌تواند به سطحي از دقت و مراقبتي كه من معتقدم لازم است، دست پيدا كند. سخنگوي اوپن‌اي‌آي در بيانيه‌اي گفت: ما اطمينان حاصل مي‌كنيم كه مدل‌هايمان از حد توانايي‌اي كه مي‌توانيم به‌طور ايمن مديريت و محافظت كنيم، فراتر نرود؛ و هر زمان كه لازم باشد سرعت را كاهش دهيم، آموزش مدل‌ها را متوقف مي‌كنيم يا عرضه و استفاده از مدل‌ها را محدود مي‌كنيم. رابينسون همچنين هشدار داد كه توانايي‌هاي هوش مصنوعي با سرعتي بيشتر از درك پژوهشگران از همسويي در حال پيشرفت است؛ حوزه‌اي كه بر اطمينان از عملكرد سيستم‌هاي هوش مصنوعي مطابق با اهداف و ارزش‌هاي انساني تمركز دارد.
